在 Windows 上安装和编译 llama.cpp_win系统怎么安装使用llama cpp

在 Windows 上安装和编译 llama.cpp

1.1 环境准备

1.1.1 安装mingw

下载地址：mingw-builds-binaries

解压后，将 bin 目录加入环境变量，例如：E:\\dev\\mingw64\\bin

验证安装是否成功：

g++ -v

1.1.2 安装w64devkit

下载地址：w64devkit Releases

解压后，将 bin 目录添加到系统环境变量,例如：E:\\dev\\w64devkit\\bin

1.1.3 安装 CMake

访问 CMake 官网，下载 Windows x64 ZIP（注意：不是安装包）。

解压后，将 bin 目录添加到环境变量，例如：E:\\dev\\cmake-4.0.3-windows-x86_64\\bin

验证是否成功：

cmake --version

2.2 克隆 llama.cpp

git clone https://github.com/ggerganov/llama.cpp

3.3 编译

3.3.1 使用 CMake 构建（新版）

说明：llama.cpp 官方已废弃原来的 Makefile 构建方式，推荐改用 CMake 构建方式 来编译模型工具和推理引擎。

编译 llama.cpp：

如果本地有安装Visual Studio，推荐使用 Visual Studio + CMake 进行构建（适用于 Windows 用户，兼容性最佳）：

cd path/llama.cppmkdir buildcd build# 使用 Visual Studio 生成项目cmake .. -G \"Visual Studio 17 2022\" -A x64 -DLLAMA_CURL=OFF# 或 使用 w64devkit和mingw 生成项目cmake .. -G \"MinGW Makefiles\" -DLLAMA_CURL=OFF# 编译 Release 模式cmake --build . --config Release

如果一切正常，你会在 build/bin/Release 目录下看到生成的程序。