私有化部署到企业内部，就可以选择Dify。类似dify的模型也有很多，比如fast-gpt等。

为什么选择dify呢？

1）因为它的功能比较完善。在对于大模型使用这一块来说。

2）对中文支持比较友好

3）扩展性好

4）维护、生态也是比较好的

一、DIFY 简介

官网：Dify.AI · 生成式 AI 应用创新引擎

1、DIFY介绍

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。

非技术人员：不懂编程、对大模型不太懂，也可以使用DIFY

2、功能介绍

由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上。

二、DIFY安装（Docker Compose）

（一）安装WSL（在windows10/Windows11不同）

#安装 WSL 2 的微软官方教程：旧版 WSL 的手动安装步骤 | Microsoft Learn

1、打开“控制面板” > “程序” > “程序和功能” > “启用或关闭Windows功能”

或执行以下命令：

* dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

* dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

• 重启计算机

2、下载 Linux 内核更新包(安装)

* wsl --set-default-version 2

下载连接：简书

3、设置WSL2为默认版本

（二）安装Docker

1、docker官网下载docker

Windows | Docker Docs

（需要科学上网）

2、添加阿里云加速镜像

获取镜像地址：

阿里云登录 - 欢迎登录阿里云，安全稳定的云计算服务平台

进入docker→设置→Docker Engine→在最后加上镜像地址

docker中央仓库镜像地址：https://hub.docker.com/

（三）Github下载Dify源码

Dify源码：https://github.com/langgenius/dify

1、解压dify源码（放在没有中文路径即可）

2、进入docker文件夹，输入cmd进入终端

3、拉取dify镜像

执行命令：docker compose up -d。（注：一定要先开启Docker Desktop）

拉取镜像文件（科学上网）

完成后可查看容器列表 docker ps -a

4、如果需要停止镜像

docker compose down

（四）进入Dify开发界面

完成以上安装流程后，打开docker

浏览器访问下面地址：http://localhost:80/install

第一次需要设置管理员账户和密码，然后再使用这个账户进行登录即可。

三、Dify模型配置

Dify只是对模型的一个管理平台。

1、 时区设置

右上角头像→设置→语言→设置简体中文，时区设置为东8区Beijing

2、模型供应商（通义千问）

右上角头像→设置→模型供应商→安装需要的供应商→添加供应商API-KEY

3、系统模型设置

四、Dify基本应用

1、Dify创建知识库

* 什么是知识库？

‌ 知识库是一个用于存储、管理和检索知识的数据库。 知识库中的知识源于领域专家或从业者的经验教训，包括基本事实、规则和其他相关信息，用于求解问题。

知识库可以分为两种主要类型：内部知识库和外部知识库。内部知识库仅供组织内的员工或授权人员使用，包含丰富的信息如员工手册、操作程序等，旨在促进内部协作和知识共享。外部知识库则面向公众，提供常见问题解答、产品信息等，帮助客户解决问题。

在企业中，知识库的应用和作用主要体现在以下几个方面：首先，知识库可以帮助企业有效地管理和利用知识，加速内部信息的流通和共享。其次，通过构建企业知识库系统，企业可以积累和保存信息及知识资产，提高生产力和竞争力。最后，知识库作为一个在线平台，帮助客服人员快速获取并提供正确答案，从而提高客户满意度。‌

1）创建知识库

2）上传文档

3）文本分段与清洗

4）已创建好的知识库查看

5）使用创建好的知识库

2、Dify创建Agent

* 什么是Agent？

在大模型中，Agent 是一个具有一定自主性和决策能力的实体。

它可以感知环境中的信息，基于预设的目标和规则，进行分析和推理，并采取相应的行动来实现特定的任务或目标。

例如，在一个智能客服系统中，每个处理用户咨询的模块就可以看作是一个 Agent ，它能够理解用户的问题，从知识库中检索相关信息，然后给出回答。

再比如，在一个自动驾驶的场景中，车辆本身可以被视为一个 Agent ，它通过传感器感知周围的路况、交通信号等信息，然后决定加速、减速、转向等操作。

Agent 通常具有以下几个关键特点：

1) 自主性：能够在没有持续的外部直接控制的情况下做出决策和采取行动。

2) 感知能力：能够获取来自环境的信息。

3) 学习能力：通过与环境的交互和经验积累，不断改进自己的行为策略。

4) 目标导向：以实现特定的目标为行动的指引。

总的来说，Agent 概念的引入使得大模型能够模拟更加复杂和智能的行为，为解决各种实际问题提供了有力的工具和方法。

Agent强大在于它的多Agent上面。单Agent它的功能一般。

3、Dify创建工作流

* 什么是工作流？

在大模型中，“工作流”指的是一系列有组织、有顺序的任务和活动的集合，这些任务和活动相互关联，共同完成一个特定的目标或处理一个复杂的业务流程。

比如说，在一个内容生成的大模型应用中，工作流可能包括数据收集、数据预处理、模型训练、模型评估、结果输出等一系列步骤。

又比如，在一个自动化的客户服务系统中，工作流可能是客户咨询的接收、问题分类、分配给合适的客服人员、解决方案的提供以及客户满意度的反馈收集。

工作流具有以下几个重要特点：

1) 顺序性：各个任务按照一定的先后顺序执行。

2) 依赖性：某些任务的执行可能依赖于其他任务的完成结果。

3) 重复性：在特定条件下，工作流可以重复执行，以处理类似的业务场景。

4) 可优化性：通过对工作流的分析和评估，可以发现瓶颈和低效环节，进行优化和改进。

工作流的有效设计和管理对于提高大模型的效率、准确性和可靠性至关重要。它有助于确保各项任务协调一致地进行，减少错误和重复劳动，提高资源的利用效率，最终实现更好的业务成果。<br>