闲社
标题:
【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型
[打印本页]
作者:
kai_va
时间:
昨天 23:49
标题:
【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型
【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型
发布时间:2026-06-16 | 阅读时间:约8分钟 | 难度:⭐☆☆☆☆
一、为什么选Ollama?
Ollama是目前最简单、最友好的本地大模型运行工具,没有之一。
一键安装,无需配置CUDA、Python环境
支持Llama 3、Qwen、DeepSeek等主流开源模型
提供REST API,方便对接其他应用
自动管理模型下载和版本更新
社区活跃,文档完善,新手友好
二、前置条件
1. 硬件要求
CPU:任意64位处理器(推荐4核以上)
内存:8GB起步,16GB可流畅运行7B模型,32GB可跑13B模型
硬盘:至少20GB可用空间(模型文件较大)
显卡:非必需,有NVIDIA/AMD显卡可加速推理
2. 系统要求
Windows 10/11 64位
macOS 11+(Intel/Apple Silicon均支持)
Linux(Ubuntu 20.04+、Debian、Fedora等主流发行版)
三、安装步骤
方案A:Windows安装(推荐)
步骤1:下载安装包
访问官网
https://ollama.com/download
,下载Windows安装程序(约200MB)。
步骤2:运行安装
双击下载的 .exe 文件,按向导完成安装。安装过程约1-2分钟。
步骤3:验证安装
打开PowerShell或CMD,输入:
ollama --version
复制代码
看到版本号即表示安装成功。
步骤4:运行第一个模型
ollama run llama3.2
复制代码
首次运行会自动下载模型(约2GB),下载完成后即可对话。
---
方案B:macOS安装
步骤1:使用Homebrew安装(推荐)
brew install ollama
复制代码
步骤2:手动下载安装
访问
https://ollama.com/download
下载 .dmg 安装包,拖拽到Applications文件夹。
步骤3:启动服务
ollama serve
复制代码
步骤4:运行模型
ollama run llama3.2
复制代码
---
方案C:Linux安装
步骤1:一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh
复制代码
步骤2:验证安装
ollama --version
复制代码
步骤3:启动服务
sudo systemctl start ollama
sudo systemctl enable ollama
复制代码
步骤4:运行模型
ollama run llama3.2
复制代码
四、验证安装
安装完成后,建议进行以下验证:
1. 检查版本
ollama --version
复制代码
2. 列出已安装模型
ollama list
复制代码
3. 测试对话
ollama run llama3.2
>>> 你好,请用一句话介绍自己
复制代码
4. 测试API
curl http://localhost:11434/api/generate -d '{"model":"llama3.2","prompt":"你好"}'
复制代码
五、常用命令速查
# 运行模型
ollama run
# 列出本地模型
ollama list
# 拉取/更新模型
ollama pull
# 删除模型
ollama rm
# 查看模型信息
ollama show
# 停止运行中的模型
ollama stop
复制代码
六、推荐模型
llama3.2
- Meta最新开源模型,性能优秀,2GB左右
qwen2.5
- 阿里通义千问,中文表现好,适合国内用户
deepseek-coder
- 编程专用,代码补全和解释能力强
phi4
- 微软轻量模型,适合低配设备
gemma2
- Google开源模型,多语言支持好
七、常见问题与解决
Q1:下载模型速度很慢怎么办?
A:Ollama默认从官方服务器下载,可配置镜像加速:
export OLLAMA_HOST=0.0.0.0
export OLLAMA_ORIGINS=*
复制代码
或使用代理工具加速下载。
Q2:运行时报错 "out of memory"?
A:说明内存不足,尝试:
关闭其他占用内存的程序
换用更小的模型(如phi4、gemma2:2b)
增加虚拟内存/交换分区
Q3:Windows安装后命令找不到?
A:检查环境变量,确保Ollama安装目录在PATH中,或重启终端。
Q4:如何卸载Ollama?
A:
Windows:控制面板 → 卸载程序
macOS:brew uninstall ollama
Linux:sudo rm -rf /usr/local/bin/ollama ~/.ollama
Q5:模型文件存在哪里?
A:默认在 ~/.ollama/models/,可通过 OLLAMA_MODELS 环境变量修改。
八、进阶玩法
对接Web UI
:安装Open WebUI或ChatGPT-Next-Web,获得图形化界面
API调用
:Ollama兼容OpenAI API格式,可替换base_url使用
自定义模型
:通过Modelfile创建自己的模型配置
多模态
:使用llava等视觉模型,让AI看懂图片
九、写在最后
Ollama让本地运行大模型变得前所未有的简单。无论你是想保护隐私、节省API费用,还是单纯想体验AI技术,Ollama都是最佳入门选择。
安装过程中遇到问题,欢迎在评论区留言,我会尽力解答!
---
本文基于Ollama 0.6.x版本编写,如有更新请以官方文档为准。
欢迎光临 闲社 (https://www.xianshe.com/)
Powered by Discuz! X5.0