本文记录在 jetson orin nx 上使用 ollama 部署 deepseek 的过程

有用的网站及工具

  1. NVIDIA Jetson AI Lab
  2. Ollama官网
  3. Jtop 工具 ==> 用以查看jetson GPU/CPU/Memory 等占用情况的工具,安装过程如下:
sudo apt-get install python3-pip
sudo -H pip3 install -U jetson-stats
  1. Nvidia 官网的 Ollama 教程
  2. 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh

进入Ollama官网,点击 Deepseek-R1 进入 Deepseek 界面:https://ollama.com/library/deepseek-r1:1.5b
在这里插入图片描述
执行指令,会先下载模型库到本地
在这里插入图片描述

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐