v0.9.0 最新版 · 开源免费 · MIT许可证

在本地运行
大语言模型

Ollama 是一款开源免费的本地大语言模型运行工具。 无需云端服务器,即可在您的电脑上一键部署 Llama 3、Mistral、Qwen 等主流AI模型, 数据隐私零泄露零网络延迟,完全掌控您的AI。

Ollama中文官网 - 本地大语言模型运行工具软件界面截图,展示AI模型本地运行环境

Ollama 能做什么?

Ollama 将复杂的大语言模型部署流程简化为一条命令。无论是开发者、研究者还是AI爱好者, 都能在几分钟内启动自己的本地AI助手。

🚀

一键部署模型

通过ollama run llama3一条命令即可下载并运行Llama 3、Mistral、Qwen等数百种开源模型,无需复杂配置。

🔒

数据隐私保护

所有对话和推理过程完全在本地完成,数据永远不会上传到云端服务器,彻底杜绝隐私泄露风险。

零网络延迟

本地推理无需等待网络请求,响应速度仅取决于您的硬件性能,离线状态下也能正常使用AI功能。

🔌

REST API接口

内置完整的REST API服务,支持Python、JavaScript、Go等语言调用,轻松集成到您的应用程序中。

💻

跨平台支持

完美支持macOS、Windows 10/11以及Ubuntu、Debian、Fedora等主流Linux发行版,一处编写处处运行。

🎯

GPU加速推理

自动检测并利用NVIDIA、Apple Silicon等GPU硬件进行推理加速,大幅提升模型生成速度和效率。

📦

模型库丰富

内置模型仓库,支持Llama 3.2、Mistral 7B、Qwen 2.5、Gemma、DeepSeek等数百种最新开源大模型。

🔄

多模型切换

在同一环境中轻松切换不同模型,对比不同模型的输出效果,找到最适合您业务场景的AI方案。

Ollama 解决了什么问题?

传统的大模型使用方式存在诸多痛点。Ollama 从根本上改变了AI大模型的部署和使用方式, 让每个人都能在本地自由地使用最前沿的AI技术。

🔓

数据隐私担忧

使用云端AI服务意味着您的对话内容、业务数据需要发送到第三方服务器。Ollama让所有数据留在本地,适合处理敏感信息的场景。

✓ 本地推理,零数据外泄
💸

高昂的API费用

商业AI API按token计费,长期使用成本极高。Ollama完全免费开源,一次安装永久使用,无任何隐藏费用。

✓ 永久免费,无使用限制
📡

网络依赖与延迟

云端AI需要稳定的网络连接,断网即不可用。Ollama在本地运行,即使完全离线也能流畅使用AI功能。

✓ 完全离线可用
🧩

部署复杂门槛高

自行部署大模型需要复杂的依赖配置和专业知识。Ollama提供一键安装、一行命令运行,大幅降低使用门槛。

✓ 安装即用,无需专业背景

Ollama 安装步骤

只需四个简单步骤,即可在您的电脑上运行强大的本地大语言模型。 整个安装过程通常在5分钟以内完成。

  1. 1

    下载安装包

    访问Ollama官网下载页,根据您的操作系统选择对应版本的安装包。支持macOS、Windows和Linux。

    ollama-zh.cn/download
  2. 2

    安装软件

    macOS用户将Ollama拖入应用程序文件夹;Windows用户双击安装程序;Linux用户运行安装脚本。

    双击安装包即可
  3. 3

    运行模型

    打开终端(命令行),输入以下命令即可自动下载并运行Llama 3模型,开始对话。

    ollama run llama3
  4. 4

    开始对话

    模型加载完成后即可在终端中与AI对话。也可通过API在您的应用中集成Ollama功能。

    http://localhost:11434

常见问题解答

以下是用户最常咨询的问题。如果您还有其他疑问,欢迎查阅完整文档或在社区提问。

Ollama 支持 macOS 10.15及以上(包括Apple Silicon芯片的Mac)、Windows 10/11 以及主流Linux发行版(Ubuntu、Debian、Fedora、CentOS 等)。您可以从官网下载对应平台的安装包。
最低配置:8GB 内存、10GB 可用磁盘空间(用于存储模型)。
推荐配置:16GB 以上内存、具有 4GB 以上显存的独立GPU(NVIDIA RTX系列或Apple Silicon芯片),可显著提升推理速度。没有GPU也可以使用CPU运行,但速度较慢。
是的,Ollama 完全开源免费,基于 MIT 许可证发布。您可以自由使用、修改、分发,甚至用于商业项目。没有任何订阅费用、使用限制或隐藏收费。模型本身也是开源的。
Ollama 支持数百种开源大语言模型,包括 Llama 3.2Mistral 7BQwen 2.5(通义千问)GemmaPhi-3DeepSeekCodeLlama 等。您可以在 Ollama 模型库中浏览全部可用模型。
macOS/Windows:重新下载最新版安装包进行覆盖安装即可。
Linux:重新运行安装脚本 curl -fsSL https://ollama.com/install.sh | sh 即可更新到最新版本。
macOS:~/.ollama/models
Windows:C:\Users\用户名\.ollama\models
Linux:/usr/share/ollama/.ollama/models
使用 ollama rm 模型名称 可以删除指定模型释放磁盘空间。

下载 Ollama,开启本地AI之旅

免费、开源、安全。选择适合您操作系统的版本,
扫描二维码即可下载,5分钟内即可在本地运行强大的大语言模型。

🪟

Windows 版本

支持 Windows 10/11
Windows版Ollama下载二维码
📱 扫描二维码下载
🍎

macOS 版本

支持 macOS 10.15+
macOS版Ollama下载二维码
📱 扫描二维码下载
🐧

Linux 版本

支持 Ubuntu/Debian/Fedora
Linux版Ollama下载二维码
📱 扫描二维码下载
完全免费 · 开源MIT协议 📁 安装包约 200MB 🖥 支持 macOS · Windows · Linux ⭐ GitHub 120k+ Stars