返回顶部
7*24新情报

【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型

[复制链接]
kai_va 显示全部楼层 发表于 昨天 23:49 |阅读模式 打印 上一主题 下一主题
【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型

发布时间:2026-06-16 | 阅读时间:约8分钟 | 难度:⭐☆☆☆☆




一、为什么选Ollama?

Ollama是目前最简单、最友好的本地大模型运行工具,没有之一。


  • 一键安装,无需配置CUDA、Python环境
  • 支持Llama 3、Qwen、DeepSeek等主流开源模型
  • 提供REST API,方便对接其他应用
  • 自动管理模型下载和版本更新
  • 社区活跃,文档完善,新手友好


二、前置条件

1. 硬件要求

  • CPU:任意64位处理器(推荐4核以上)
  • 内存:8GB起步,16GB可流畅运行7B模型,32GB可跑13B模型
  • 硬盘:至少20GB可用空间(模型文件较大)
  • 显卡:非必需,有NVIDIA/AMD显卡可加速推理


2. 系统要求

  • Windows 10/11 64位
  • macOS 11+(Intel/Apple Silicon均支持)
  • Linux(Ubuntu 20.04+、Debian、Fedora等主流发行版)





三、安装步骤

方案A:Windows安装(推荐)

步骤1:下载安装包
访问官网 https://ollama.com/download,下载Windows安装程序(约200MB)。

步骤2:运行安装
双击下载的 .exe 文件,按向导完成安装。安装过程约1-2分钟。

步骤3:验证安装
打开PowerShell或CMD,输入:
  1. ollama --version
复制代码
看到版本号即表示安装成功。

步骤4:运行第一个模型
  1. ollama run llama3.2
复制代码
首次运行会自动下载模型(约2GB),下载完成后即可对话。

---

方案B:macOS安装

步骤1:使用Homebrew安装(推荐)
  1. brew install ollama
复制代码

步骤2:手动下载安装
访问 https://ollama.com/download 下载 .dmg 安装包,拖拽到Applications文件夹。

步骤3:启动服务
  1. ollama serve
复制代码

步骤4:运行模型
  1. ollama run llama3.2
复制代码

---

方案C:Linux安装

步骤1:一键安装脚本
  1. curl -fsSL https://ollama.com/install.sh | sh
复制代码

步骤2:验证安装
  1. ollama --version
复制代码

步骤3:启动服务
  1. sudo systemctl start ollama
  2. sudo systemctl enable ollama
复制代码

步骤4:运行模型
  1. ollama run llama3.2
复制代码




四、验证安装

安装完成后,建议进行以下验证:

1. 检查版本
  1. ollama --version
复制代码

2. 列出已安装模型
  1. ollama list
复制代码

3. 测试对话
  1. ollama run llama3.2
  2. >>> 你好,请用一句话介绍自己
复制代码

4. 测试API
  1. curl http://localhost:11434/api/generate -d '{"model":"llama3.2","prompt":"你好"}'
复制代码




五、常用命令速查
  1. # 运行模型
  2. ollama run
  3. # 列出本地模型
  4. ollama list
  5. # 拉取/更新模型
  6. ollama pull
  7. # 删除模型
  8. ollama rm
  9. # 查看模型信息
  10. ollama show
  11. # 停止运行中的模型
  12. ollama stop
复制代码




六、推荐模型


  • llama3.2 - Meta最新开源模型,性能优秀,2GB左右
  • qwen2.5 - 阿里通义千问,中文表现好,适合国内用户
  • deepseek-coder - 编程专用,代码补全和解释能力强
  • phi4 - 微软轻量模型,适合低配设备
  • gemma2 - Google开源模型,多语言支持好





七、常见问题与解决

Q1:下载模型速度很慢怎么办?
A:Ollama默认从官方服务器下载,可配置镜像加速:
  1. export OLLAMA_HOST=0.0.0.0
  2. export OLLAMA_ORIGINS=*
复制代码
或使用代理工具加速下载。

Q2:运行时报错 "out of memory"?
A:说明内存不足,尝试:

  • 关闭其他占用内存的程序
  • 换用更小的模型(如phi4、gemma2:2b)
  • 增加虚拟内存/交换分区


Q3:Windows安装后命令找不到?
A:检查环境变量,确保Ollama安装目录在PATH中,或重启终端。

Q4:如何卸载Ollama?
A:

  • Windows:控制面板 → 卸载程序
  • macOS:brew uninstall ollama
  • Linux:sudo rm -rf /usr/local/bin/ollama ~/.ollama


Q5:模型文件存在哪里?
A:默认在 ~/.ollama/models/,可通过 OLLAMA_MODELS 环境变量修改。




八、进阶玩法


  • 对接Web UI:安装Open WebUI或ChatGPT-Next-Web,获得图形化界面
  • API调用:Ollama兼容OpenAI API格式,可替换base_url使用
  • 自定义模型:通过Modelfile创建自己的模型配置
  • 多模态:使用llava等视觉模型,让AI看懂图片





九、写在最后

Ollama让本地运行大模型变得前所未有的简单。无论你是想保护隐私、节省API费用,还是单纯想体验AI技术,Ollama都是最佳入门选择。

安装过程中遇到问题,欢迎在评论区留言,我会尽力解答!

---
本文基于Ollama 0.6.x版本编写,如有更新请以官方文档为准。
回复

使用道具 举报

default_avator1
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver·手机版·闲社网·闲社论坛·羊毛社区· 多链控股集团有限公司 · 苏ICP备2025199260号-1

Powered by Discuz! X5.0   © 2024-2025 闲社网·线报更新论坛·羊毛分享社区·http://xianshe.com

p2p_official_large
快速回复 返回顶部 返回列表