如何训练大模型Llama3？一个视频教会你

前段时间，Meta开源了第三代大语言模型Llama3，在业界，原生Llama的存在具有奠基石的意义，但这些国外的模型对于中文的支持实在不太理想。于是，我花了一点时间对Llama3进行了微调，本期视频，就教会你轻松展开模型验证、转换和量化的实操。

模型下载链接：https://pan.baidu.com/s/1gu808REN4y9lHwsyIZlByg?pwd=jxlf

训练环境：

WSL2 on Windows 11

Ubuntu 22.04

torch = 2.2.2

python=3.12

cuda 11.8