1、私有模型的选择

在构建自己的业务领域大模型时,需要先选模型,可以参考我这篇文章DeepSeek-R1和V3对比-CSDN博客,讲述了为神马我选择Deepseek R1模型。

2、创建Deepseek-R1 7B虚拟环境

创建一个新的虚拟环境(首先,需要确保你的系统已经安装好anaconda),我自己电脑的python版本是3.12.2,所以执行如下命令:

conda create -n local-deepseek-R1 python=3.12.2

 

3、激活Deepseek-R1 7B虚拟环境

激活名为的 Grid-ollama-local的Conda 环境,执行命令行如下:

conda activate local-deepseek-R1

添加图片注释,不超过 140 字(可选)

4、安装Deepseek-R1 7B模型

代码下载有两种方式,一种是从Ollama上下载和运行,一种是从Qwen的github官方地址下载后运行。我采用的第一种方式。

  • Ollama下载

Ollama的下载地址:deepseek-r1,Qwen2.5 7B模型大小为4.7GB。

添加图片注释,不超过 140 字(可选)

然后执行如下命令,拉取模型并执行,第一次运行的时候需要下载。

ollama run deepseek-r1:7b

添加图片注释,不超过 140 字(可选)

下载并运行后,你就可以提问了,比如:我问的问题,请问什么是电网断面,Deepseek- R1 7B模型回答如下:

添加图片注释,不超过 140 字(可选)

如果要查找你安装的模型文件,我的mac下的安装文件目录如下:

/Users/jasmine/.ollama/models/manifests/registry.ollama.ai/library

添加图片注释,不超过 140 字(可选)

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐