【1】Ollama下载与安装

【1.1】Ollama介绍

Ollama 是一个开源框架，专为在本地计算机上运行大型语言模型（LLM）而设计。它简化了部署、管理和交互大型语言模型的流程，让用户可以在自己的机器上体验和开发基于这些模型的功能，无需依赖云服务或复杂的配置。
以下是Ollama 的一些主要特点和功能：

本地化部署:
Ollama 允许用户在本地计算机上运行大型语言模型，无需依赖云服务，保护了用户数据的隐私和安全。

简化部署:
Ollama 提供了简单易用的命令行界面，用户可以通过一条命令即可启动和运行大型语言模型，无需复杂的配置。

模型支持:
Ollama 支持多种流行的开源大型语言模型，例如Llama 2、Mistral、Code Llama 等。

跨平台:
Ollama 支持macOS、Linux 和Windows 操作系统，方便用户在不同的平台上使用。

定制化:
用户可以根据自己的需求定制和创建模型，例如从其他格式导入模型，设置运行参数等。

API 接口:
Ollama 提供了API 接口，方便开发者将大型语言模型的功能集成到自己的应用程序中。

总而言之，Ollama 是一个方便易用的工具，让用户可以轻松地在本地运行和体验大型语言模型，并进行开发和定制.

【1.2】Ollama下载与安装

下载地址：https://ollama.com/download

直接安装即可；

【2】下载大模型并运行

查看大模型列表；地址：https://ollama.com/library

为简单起见，本文下载Phi3模型（一个小模型，参数量30亿）并运行，如下。