LLaMA-Factory微调过程以及问题解决（保姆级教程）_llama-factory教程

LLaMA-Factory微调过程详解

一.ubuntu基础环境

步骤文档：

Ubuntu上进行Unsloth微调llama-3大模型微调指南（少走弯路）一_ubuntu下安装unsloth-CSDN博客

配置LLaMA-Factory所需的环境

下载LLaMA-Factory-main，进入网站：https://github.com/hiyouga/LLaMA-Factory

1. 切换到目录：（如：G:\\LLaMA-Factory-main，前面加上 /mnt/，转到目标）

cd /mnt/g/LLaMA-Factory-main

  2. 新增python运行环境

conda create -n venv2 python=3.12

3.激活环境

conda activate venv2

4.安装llama-factory

pip install -e \".[torch,metrics]\" -i https://mirrors.aliyun.com/pypi/simple/

5.启动

llamafactory-cli webui

6.打开进入界面：

http://localhost:7860

二.模型的下载网站

1.   huggingface网站：https://huggingface.co/
2. modelscope网站https://www.modelscope.cn/my/overview（推荐）

可以使用多种方法下载，我所使用的是modelscope本地下载

下载完成后保存到文件夹。将模型文件放入到LLaMA-Factory-main里。

三.模型微调

1.自建数据集的准备

准备json格式的数据集，数据集格式（其中一部分），根据自己的数据如何转换成这种形式就可。

2.修改数据集配置

准备好数据集之后，修改LLaMA-Factory下的data文件夹中dataset_info.json中的内容
增加如下信息：

3.启动llamafactory-cli webui

在浏览器打开http://localhost:7860

如下图所示

4.参数设置

5.开始训练

6.报错问题解决

注意：如果开始训练后报错（大概率会报错）

FileNotFoundError: [Errno 2] No such file or directory: \'llamafactory-cli\'

先查看一下系统里是否有这个文件
sudo find / -type f -name \"llamafactory-cli\" 2>/dev/null

如果有这个文件，则在base环境中安装LLaMA-Factory的环境

四.模型的导出

1.模型配置

按照如图所示配置好参数

2.模型的导出

导出保存完成

五.模型的测试