1.官网安装

参考Linux上安装Ollama的官方文档：官网地址
在这里插入图片描述
在这里插入图片描述

2.Docker安装

官方 Ollama Docker 镜像可以直接在Docker Hub上进行拉取。

Docker Hub上的ollama镜像：镜像地址
在这里插入图片描述
我们选择CPU安装：

root@joe:~# docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

在这里插入图片描述

3.安装完成后验证是否成功

验证地址

4.安装本地大模型

4.1 deepseek-r1:1.5b

root@joe:~# docker exec -it ollama ollama run deepseek-r1:1.5b

在这里插入图片描述

4.2 qwen3:1.7b

root@joe:~# docker exec -it ollama ollama run qwen3:1.7b

在这里插入图片描述

# 学习
Logo
技术共进，成长同行——讯飞AI开发者社区

技术共进，成长同行——讯飞AI开发者社区

更多推荐

论文笔记：AlphaEdit: Null-Space Constrained Knowledge Editing for Language Models（AlphaEdit）

论文发表于人工智能顶会ICLR（基于定位和修改的模型编辑方法（针对和等）会破坏LLM中最初保存的知识，特别是在顺序编辑场景。为此，本文提出AlphaEdit：1、在将保留知识应用于参数之前，将扰动投影到保留知识的零空间上。2、从理论上证明，这种预测确保了在查询保留的知识时，编辑后的LLM的输出保持不变，从而减轻中断问题。3、对各种LLM（包括LLaMA3、GPT2XL和GPT-J）的广泛实验表明，

avatar 讯飞AI开发者社区
cover

Gemini Robotics 1.5 谷歌通用人形机器人具身智能模型

avatar 讯飞AI开发者社区

论文解读：MASS-EDITING MEMORY IN A TRANSFORMER（MEMIT）

论文发表于人工智能顶会ICLR（在模型编辑方法中，主要局限于更新单个事实。因此，基于ROME，本文开发了MEMIT，在大模型GPT-J（6B）和GPT-NeoX（20B）上实现了数千的批量编辑。阅读本文请同时参考原始论文图表。

avatar 讯飞AI开发者社区