下载ollama

不要下载官方推荐的那个,如果安装了需要卸载一下
在这里插入图片描述
软件安装位置
%HOMEPATH%\AppData\Local\Programs\Ollama
日志位置
%HOMEPATH%\AppData\Local\Ollama
下载压缩版本
在这里插入图片描述
然后解压
在这里插入图片描述

运行

ollama -h

在这里插入图片描述
和之前的安装的一样的命令,设置环境变量
允许外网访问:OLLAMA_HOST 0.0.0.0
在这里插入图片描述

指定模型安装位置:OLLAMA_MODELS F:\ollamamodels
在这里插入图片描述

修改server的端口OLLAMA_PORT 8080
在这里插入图片描述
启动ollama,启动之后才能执行ollama pull或者访问等,要不然提示

Error: could not connect to ollama app, is it running?

ollama server

然后访问http://localhost:11434/,要是改了端口就改成对应的端口
在这里插入图片描述
安装一个模型

ollama run deepseek-r1:32b

以服务的方式运行

winsw的方式处理

新建ollama.xml

<service>
	<!--服务的id-->
	<id>ollama</id>
	<!--服务的名称-->
	<name>ollama</name>
	<!--服务描述-->
	<description>ollama服务器</description>
	<!--日志记录路径-->
	<logpath>E:\ollama\logs</logpath>
	<!--ollama安装路径-->
	<executable>D:\Software\ollama\ollama.exe serve</executable>
</service>

安装

 .\winsw.exe  install G:\LLM\ollama\ollama.xml

在这里插入图片描述
服务中就存在ollama了但是启动失败

 .\winsw.exe  uninstall G:\LLM\ollama\ollama.xml

查看错误日志System.ComponentModel.Win32Exception (2): An error occurred trying to start process 'C:\Users\Administrator\AppData\Local\Programs\Ollama\ollama.exe serve' with working directory 'E:\ollama'. 系统找不到指定的文件
切换Log路径也不行

以nssm的方式处理

下载nssm
https://github.com/kirillkovalenko/nssm
https://nssm.cc/download
将nssm放到ollama的同级目录下,以管理员身份运行powershell

 .\nssm.exe install

在这里插入图片描述
选择安装服务
在这里插入图片描述
然后选择启动
在这里插入图片描述
在这里插入图片描述
启动成功即可,如果想要卸载

nssm remove ollama

参考

https://www.reddit.com/r/ollama/comments/1elo2lo/solved_running_ollama_as_a_windows_service_for/

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐