最简单的方式离线使用AI

作者: Eric | 发布于: 2024年9月21日

1. 下载并安装 Ollama

要开始使用 Ollama,首先需要从官方站点下载并安装 Ollama 客户端。步骤如下:

  1. 访问 Ollama 下载页面
  2. 选择 Windows 版本并下载 OllamaSetup.exe
  3. 运行下载的安装文件,按照提示完成安装。

安装完成后,系统将不会弹出提示,你可以直接进入下一步。

2. 访问 Ollama 模型库

Ollama 提供了丰富的模型库,用户可以选择所需的 AI 模型。步骤如下:

  • 访问 Ollama 模型库。
  • 浏览页面中的模型,选择你感兴趣的模型。
  • 每个模型页面都会提供一个下载命令,用户可以通过命令行下载模型。

3. 下载 Llama 3 8B 模型

选择合适的模型后,按照以下步骤下载:

提示:可以增设系统改环境变量来更改下载路径。
  • 访问 Ollama 模型库
  • 浏览页面中的模型,选择你感兴趣的模型。
  • 每个模型页面都会提供一个下载命令,用户可以通过命令行下载模型。

4. 使用 Chat Box 进行对话

下载模型后,你可以使用 Chat Box 与模型进行交互。

操作步骤如下:

  • 打开 Chat Box 应用。
  • 进入设置页面。
  • 将模型提供方设置为 Ollama
  • 输入你的问题并开始对话。