colibri 用纯 C、零依赖实现推理引擎,把前沿 MoE 大模型按需从磁盘流式加载到自有硬件上运行——引擎极小、模型极大,让消费级设备也能跑前沿大模型。
核心特性
- 纯 C 零依赖
- MoE 模型推理
- 磁盘流式加载专家
- 极小引擎
- 自有硬件运行
使用说明
点击下方「资源下载」按钮或上方下载卡片,获取源码压缩包,按仓库 README 安装依赖后即可运行。
免责声明
本项目为开源软件,遵循其开源协议(MIT / Apache / GPL 等),请仅用于个人学习与合规研究,遵守作者开源协议与相关法律法规。
主题授权提示:请在后台主题设置-主题授权-激活主题的正版授权,授权购买:RiTheme官网
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
