手把手带你训练自己业务领域大模型(一)---Deepseek R1模型的部署
用Deepseek R1模型构建自己的业务领域大模型
·
1、私有模型的选择
在构建自己的业务领域大模型时,需要先选模型,可以参考我这篇文章DeepSeek-R1和V3对比-CSDN博客,讲述了为神马我选择Deepseek R1模型。
2、创建Deepseek-R1 7B虚拟环境
创建一个新的虚拟环境(首先,需要确保你的系统已经安装好anaconda),我自己电脑的python版本是3.12.2,所以执行如下命令:
conda create -n local-deepseek-R1 python=3.12.2
3、激活Deepseek-R1 7B虚拟环境
激活名为的 Grid-ollama-local的Conda 环境,执行命令行如下:
conda activate local-deepseek-R1
添加图片注释,不超过 140 字(可选)
4、安装Deepseek-R1 7B模型
代码下载有两种方式,一种是从Ollama上下载和运行,一种是从Qwen的github官方地址下载后运行。我采用的第一种方式。
-
Ollama下载
Ollama的下载地址:deepseek-r1,Qwen2.5 7B模型大小为4.7GB。
添加图片注释,不超过 140 字(可选)
然后执行如下命令,拉取模型并执行,第一次运行的时候需要下载。
ollama run deepseek-r1:7b
添加图片注释,不超过 140 字(可选)
下载并运行后,你就可以提问了,比如:我问的问题,请问什么是电网断面,Deepseek- R1 7B模型回答如下:
添加图片注释,不超过 140 字(可选)
如果要查找你安装的模型文件,我的mac下的安装文件目录如下:
/Users/jasmine/.ollama/models/manifests/registry.ollama.ai/library
添加图片注释,不超过 140 字(可选)
更多推荐
所有评论(0)