Ollama

开源本地 LLM 推理框架,一行命令起 Llama / Qwen / Mistral

类目:llm-inference · 最新版本:v0.3.0 · 许可证:MIT

详细介绍

Ollama 专注本地推理,模型拉取即用、REST API 与 OpenAI 兼容;CPU/GPU 自动适配,是中小企业本地化部署的事实标准。

官方地址:https://ollama.com

版本时间线

  • v0.3.0最新

    首期种子版本(07-04 落地,待 verify 校验真实 release tag)

    200 MB

    下载 v0.3.0 ↗

常见问题

Ollama 支持哪些模型?

Llama 3 / Mistral / Qwen / Gemma 等开源权重模型,详见 ollama.com/library。

没有 GPU 能跑吗?

可以,CPU 推理 7B 模型约 4GB 内存。

更新日志

  • 首期种子

    07-04 落地