【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型
发布时间:2026-06-16 | 阅读时间:约8分钟 | 难度:⭐☆☆☆☆
一、为什么选Ollama?
Ollama是目前最简单、最友好的本地大模型运行工具,没有之一。
- 一键安装,无需配置CUDA、Python环境
- 支持Llama 3、Qwen、DeepSeek等主流开源模型
- 提供REST API,方便对接其他应用
- 自动管理模型下载和版本更新
- 社区活跃,文档完善,新手友好
二、前置条件
1. 硬件要求
- CPU:任意64位处理器(推荐4核以上)
- 内存:8GB起步,16GB可流畅运行7B模型,32GB可跑13B模型
- 硬盘:至少20GB可用空间(模型文件较大)
- 显卡:非必需,有NVIDIA/AMD显卡可加速推理
2. 系统要求
- Windows 10/11 64位
- macOS 11+(Intel/Apple Silicon均支持)
- Linux(Ubuntu 20.04+、Debian、Fedora等主流发行版)
三、安装步骤
方案A:Windows安装(推荐)
步骤1:下载安装包
访问官网 https://ollama.com/download,下载Windows安装程序(约200MB)。
步骤2:运行安装
双击下载的 .exe 文件,按向导完成安装。安装过程约1-2分钟。
步骤3:验证安装
打开PowerShell或CMD,输入:看到版本号即表示安装成功。
步骤4:运行第一个模型首次运行会自动下载模型(约2GB),下载完成后即可对话。
---
方案B:macOS安装
步骤1:使用Homebrew安装(推荐)
步骤2:手动下载安装
访问 https://ollama.com/download 下载 .dmg 安装包,拖拽到Applications文件夹。
步骤3:启动服务
步骤4:运行模型
---
方案C:Linux安装
步骤1:一键安装脚本- curl -fsSL https://ollama.com/install.sh | sh
复制代码
步骤2:验证安装
步骤3:启动服务- sudo systemctl start ollama
- sudo systemctl enable ollama
复制代码
步骤4:运行模型
四、验证安装
安装完成后,建议进行以下验证:
1. 检查版本
2. 列出已安装模型
3. 测试对话- ollama run llama3.2
- >>> 你好,请用一句话介绍自己
复制代码
4. 测试API- curl http://localhost:11434/api/generate -d '{"model":"llama3.2","prompt":"你好"}'
复制代码
五、常用命令速查
- # 运行模型
- ollama run
- # 列出本地模型
- ollama list
- # 拉取/更新模型
- ollama pull
- # 删除模型
- ollama rm
- # 查看模型信息
- ollama show
- # 停止运行中的模型
- ollama stop
复制代码
六、推荐模型
- llama3.2 - Meta最新开源模型,性能优秀,2GB左右
- qwen2.5 - 阿里通义千问,中文表现好,适合国内用户
- deepseek-coder - 编程专用,代码补全和解释能力强
- phi4 - 微软轻量模型,适合低配设备
- gemma2 - Google开源模型,多语言支持好
七、常见问题与解决
Q1:下载模型速度很慢怎么办?
A:Ollama默认从官方服务器下载,可配置镜像加速:- export OLLAMA_HOST=0.0.0.0
- export OLLAMA_ORIGINS=*
复制代码 或使用代理工具加速下载。
Q2:运行时报错 "out of memory"?
A:说明内存不足,尝试:
- 关闭其他占用内存的程序
- 换用更小的模型(如phi4、gemma2:2b)
- 增加虚拟内存/交换分区
Q3:Windows安装后命令找不到?
A:检查环境变量,确保Ollama安装目录在PATH中,或重启终端。
Q4:如何卸载Ollama?
A:
- Windows:控制面板 → 卸载程序
- macOS:brew uninstall ollama
- Linux:sudo rm -rf /usr/local/bin/ollama ~/.ollama
Q5:模型文件存在哪里?
A:默认在 ~/.ollama/models/,可通过 OLLAMA_MODELS 环境变量修改。
八、进阶玩法
- 对接Web UI:安装Open WebUI或ChatGPT-Next-Web,获得图形化界面
- API调用:Ollama兼容OpenAI API格式,可替换base_url使用
- 自定义模型:通过Modelfile创建自己的模型配置
- 多模态:使用llava等视觉模型,让AI看懂图片
九、写在最后
Ollama让本地运行大模型变得前所未有的简单。无论你是想保护隐私、节省API费用,还是单纯想体验AI技术,Ollama都是最佳入门选择。
安装过程中遇到问题,欢迎在评论区留言,我会尽力解答!
---
本文基于Ollama 0.6.x版本编写,如有更新请以官方文档为准。 |