Llama.cpp

Llama.cpp 是什么

llama.cpp 是用 C/C++ 实现的高效推理引擎，可在 CPU 与多种硬件上运行量化大模型，是本地生态基石。

信息更新时间：2026-09-20。本站仅提供工具索引，具体功能、价格与授权请以 官方网站 公示为准。

核心功能

• 高效本地推理
• 多硬件支持
• 量化模型
• 广泛前端依赖

优点与不足

优势

• 极致轻量
• 生态庞大

需要注意

• 需命令行
• 配置偏技术

适用人群与场景

本地推理、嵌入式

如果你正在对比同类产品，可以看看下方推荐的替代工具，或直接浏览 AI 编程开发 分类下的全部工具。

常见问题

同类工具推荐