Ollama
开源本地 LLM 推理框架,一行命令起 Llama / Qwen / Mistral
详细介绍
Ollama 专注本地推理,模型拉取即用、REST API 与 OpenAI 兼容;CPU/GPU 自动适配,是中小企业本地化部署的事实标准。
官方地址:https://ollama.com
版本时间线
- v0.3.0最新
首期种子版本(07-04 落地,待 verify 校验真实 release tag)
常见问题
Ollama 支持哪些模型?
Llama 3 / Mistral / Qwen / Gemma 等开源权重模型,详见 ollama.com/library。
没有 GPU 能跑吗?
可以,CPU 推理 7B 模型约 4GB 内存。
更新日志
- 首期种子
07-04 落地