8 Llama Factory大模型Llama3微调系统环境准备之安装步骤

查看大图

Llama Factory 微调要把环境、数据、训练和评估串成闭环，不能只看启动命令。阅读时可以按「系统要求 -> 安装 Anaconda -> 下载 Anaconda -> 验证安装」建立结构，再回到正文里的代码、案例或指标做验证。

查看大图

读完后，用一个真实小任务复查：输入是什么，处理环节在哪里，输出是否可验收；失败时先查「系统要求」，再查「安装 Anaconda」。

在上一篇中，我们探讨了微调Llama3模型所需的基本软件与依赖，为了确保成功构建和运行微调系统，接下来我们将详细介绍环境准备的安装步骤。请仔细遵循以下安装指南。

1. 系统要求

在开始之前，请确保系统满足以下基本要求：

• 操作系统：推荐使用 Ubuntu 20.04 或更高版本。
• 硬件要求：建议使用支持 CUDA 的 NVIDIA GPU 以实现更快的训练速度。
• 内存：至少 16GB RAM。

2. 安装 Anaconda

我们推荐使用 Anaconda 来管理 Python 环境和依赖项。请遵循以下步骤安装 Anaconda。

2.1 下载 Anaconda

您可以从 Anaconda 的官网 Anaconda Download 下载适合您系统的安装包。

2.2 安装 Anaconda

打开终端，导航到下载目录并运行以下命令（假设文件名为 Anaconda3-2023.11-Linux-x86_64.sh）：

bash Anaconda3-2023.11-Linux-x86_64.sh

按照提示完成安装。安装过程中可以选择将 Anaconda 添加到您的 PATH 中，建议选择是（yes）。

2.3 验证安装

安装完成后，可以运行以下命令来验证 Anaconda 是否正确安装：

conda --version

您应该能够看到当前安装的 Anaconda 版本。

3. 创建 Python 虚拟环境

接下来，我们将使用 Anaconda 创建一个新的 Python 虚拟环境，以便于隔离 Llama3 微调所需的依赖。

3.1 创建环境

运行如下命令以创建一个名为 llama3-finetune 的虚拟环境，指定 Python 版本：

conda create -n llama3-finetune python=3.8

3.2 激活环境

创建完成后，使用以下命令激活新环境：

查看大图

安装 Llama Factory 时，先固定环境版本、安装依赖、检查显卡、准备样例数据并运行最小训练命令。

conda activate llama3-finetune

4. 安装必要的库

在虚拟环境中，我们需要安装一些依赖库，包括 PyTorch 和 Hugging Face Transformers。根据您的 GPU 类型，您可能需要安装带 CUDA 的版本。

4.1 安装 PyTorch

使用以下命令安装 PyTorch：

conda install pytorch torchvision torchaudio cudatoolkit=11.6 -c pytorch

请根据您的 CUDA 版本选择相应的 cudatoolkit。

4.2 安装 Transformers 和其他依赖

我们还需要安装 Hugging Face 的 Transformers 库，以及其他依赖：

查看大图

看完《Llama Factory大模型Llama3微调系统环境准备之安装步...》后，建议用一分钟复盘：关键概念是否分清、练习步骤是否可复现、结论能不能换成自己的话。

pip install transformers datasets

通过使用 pip 来安装最新版本的库，以确保功能和性能。

4.3 安装其他工具（可选）

如果您需要使用特定的工具进行数据处理，可以根据需求安装以下库：

pip install numpy pandas matplotlib

5. 验证库安装

完成库的安装后，您可以通过 Python 交互式命令行验证这些库是否成功安装。例如：

import torch
import transformers

print(torch.__version__)
print(transformers.__version__)

确保没有错误输出，并且您可以看到当前库的版本号。

6. 整体回顾

至此，您已经完成了 Llama3 微调系统环境的安装步骤。您创建了虚拟环境，安装了必需的库，并确认了它们的安装成功。这些步骤为微调过程的下一阶段做了良好的准备。

查看大图

读完《Llama Factory大模型Llama3微调系统环境准备之安装步骤》后，可以先挑一个小样例走完整流程，再判断哪些步骤已经能独立完成。

查看大图

读到这里，可以把《Llama Factory大模型Llama3微调系统环境准备之安装步骤》整理成一张复盘表：先说清主线，再拿一个小任务检查结果。

在下一篇文章中，我们将讨论环境配置时的一些注意事项，包括如何配置环境变量和优化设置等内容，以确保微调过程顺利进行。请继续关注！