dify离线安装模型插件
【准备工作】
1、有一台能联网的电脑(最好跟内网服务器同一版本)
2、电脑上已正确安装dify; 具体可参考我上一篇文件-“Ubuntu离线部署dify”
一、安装模型插件

登录dify > 点击头像 > 设置 > 模型供应商
在这里插入图片描述
思路:在有网环境下,点击安装插件,会把插件所需依赖自动下载,然后把整个dify-main文件,以及dify-plugin-daemon这个镜像打包,替换到内网环境中,实现内网安装插件

二、打包源码包与镜像

注:很多人在操作时,在有网环境中,安装好插件后,执行了下面命令关闭容器,再打包镜像tar包到内网环境,发现插件怎么也安装不上,这是因为执行了下面的down命令,就会失去插件的依赖

docker compose down			##批量关闭容器
docker compose up -d		##执行compose文件,以启动容器

1、在有网环境中安装好插件(联网默认安装依赖),然后将操作提交到镜像中

docker commit docker-plugin_daenib-1 langgenius/dify-plugin-daemon:0.1.1-local-24

2、关闭容器

docker compose down

3、删除原先默认的镜像

docker rmi langgenius/dify-plugin-daemon:0.1.1-local

4、将包含了插件和依赖的镜像,改名为原先默认的镜像名

docker tag langgenius/dify-plugin-daemon:0.1.1-local-24 langgenius/dify-plugin-daemon:0.1.1-local

5、启动容器,看能否正常访问dify,并看到插件

docker compose up -d

6、将包含插件&依赖的镜像,导出

docker save -o dify-plugin-daemon.tar langgenius/dify-plugin-daemon:0.1.1-local

7、最新将镜像tar和dify-main源文件,一并更新到内网服务器

1、tar包可以通过load -i xxx.tar进行上传,上传前请先停掉内网中的容器,并删除对应镜像后再操作。
2、使用新的dify-main源文件,进入到dify-main > docker目录下,执行docker compose up -d启动

为方便大家,我已安装好了ollama插件,并将镜像和源码文件,都打包上传网盘,可自取
我用夸克网盘分享了「Dify部署包」链接:https://pan.quark.cn/s/bf1c2d0865a6

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐