Windows系统编译支持GPU的llama.cpp

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
mkdir build
cd build
cmake .. -G "Visual Studio 17 2022" -DGGML_CUDA=ON -DCMAKE_BUILD_TYPE=Release -DCMAKE_CUDA_ARCHITECTURES="86"

在这里插入图片描述

cmake --build . --config Release -- /m

在这里插入图片描述

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐