本地部署 DeepSeek

Ollama:一站式 AI 模型管理与交互平台:
什么是 Ollama,Ollama 的核心功能,Ollama 的使用场景
Open WebUI:构建大模型与 Web 应用无缝对接的理想平台:
Open WebUI 简介,Open WebUI 应用场景,Open WebUI 与大模型结合的优势,Open WebUI 使用示例

1. Ollama 自定义安装

官网:https://ollama.com/

Ollama自定义安装路径,Ollama自定义模型下载目录

2. Ollama 可视化界面 Open WebUI 安装

Windows 中使用 Docker Desktop 部署 Open WebUI 做大模型可视化

3. Open WebUI 部署本地大模型

Docker Desktop 启动 Open WebUI 容器,点击开始使用,第一个创建的用户就是 Open WebUI 管理员用户
在这里插入图片描述
创建用户之后,点击 确认,开始使用! 即可
在这里插入图片描述
打开设置
在这里插入图片描述
设置语言
在这里插入图片描述
找到管理员面板,进入模型选项
在这里插入图片描述
准备从 Ollama 导入模型
在这里插入图片描述
Ollama 访问可下载的模型名称:https://ollama.com/library
在这里插入图片描述
deepseek-r17b
在这里插入图片描述
将对应模型的名字复制到 Open WebUI 模型选项中,格式为 "模型名:TAG",如 deepseek-r1:7b
在这里插入图片描述

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐