4.2万星colibri：25GB内存跑7440亿参数大模型
一台25GB内存的笔记本，跑起了7440亿参数聊起本地跑大模型，大家的第一反应通常是"你显存多大"。7440亿参数的GLM-5.2，光int4权重就有429GB，按传统玩法，没有几张高端显卡连想都不敢想。但最近GitHub上有个叫colibrì的项目偏不信这个邪。
Colibri：3.6 万 Star 的纯 C 推理引擎，25GB 内存跑 744B 参数大模型
先说一个数字：744B 参数的模型，就算量化到 int4，权重也有 370GB 左右。常规推理引擎的做法是把权重全塞进显存，所以这个量级的模型长期只能在云端的大机器上租着用。你的笔记本不是不行，是压根装不下。Colibrì 换了个前提。
纯C推理引擎colibri！普通笔记本也能跑744B大模型
超大MoE模型以往只能在高端服务器上运行，普通电脑受限于内存很难体验。colibri项目打破了这一限制，依靠专家流式加载机制，仅需25GB内存就能在消费级硬件上启动744B参数GLM-5.2模型，降低本地部署超大模型的门槛，让普通开发者也能在自有设备上体验前沿大模型能力。
Colibri 爆火 GitHub！纯 C 零依赖，硬盘当内存，普机跑 2.8T 大模型
想要跑 2.8 万亿参数 Kimi K3、744B 的 GLM‑5.3，过去默认的认知就是：必须得数据中心、一堆高端 GPU 集群才能 hold 住，普通消费级机器想都别想。结果冲上 GitHub Trending 第一的开源项目 Colibri（蜂鸟），直接推翻了这个固有印象。
colibri：把 MoE 专家分层到 GPU、内存和 NVMe
想在本机跑一个几百 B 参数的 MoE 模型，先卡住的地方通常不是代码，而是显存：模型总参数远大于单卡容量，但每个 token 只激活其中一小部分专家。
火爆colibri纯C推理引擎：不依赖显卡，旧电脑跑MoE大模型
前沿大模型动辄几百 B 参数，跑起来要一大张显卡，很多人只能望而兴叹。colibri 走的是一条不一样的路：它是纯 C 写的推理引擎，不绑死显卡，能把「前沿 MoE（混合专家）模型」拆成热、温、冷三层放进你的内存和硬盘，用你自己已有的电脑就把它跑起来。
GitHub近月AI星速，colibri 4.6k，OfficeCLI 6.9k
从 7 月初的多源数据来看，过去一个月 GitHub 上 AI 项目的增长有几个清晰的趋势：Skills 生态继续膨胀、AI 工具从开发场景渗透到办公场景、本地部署方案持续获得关注。
colibri 的纯 C 引擎：25GB 内存跑 744B 模型的代价
摘要colibri 由意大利开发者 Vincenzo Fornaro（GitHub 账号 JustVugg）开发 [12]，仓库 2026-07-01 建立 [3]。它把模型权重当成需要暂存的数据，而不是必须常驻的状态：744B 的 GLM-5.2 只有约 9.
Colibri：无需高端显卡，25GB内存跑744B大模型，专家存SSD
纯C编写，专家存SSD按需加载，让普通电脑驾驭744B大模型。