llama.cpp v0.9.0 塞进四样新东西，本地跑模型的老牌狠人又出手了

先说结论：这版最狠的不是又多了几款新模型，而是 OCP FP8 E4M3 量化和多机张量并行（NCCL）正式落地。前者让你用更少的显存塞下更大的模型，后者第一次让 llama.cpp 能"串机器"干活。但先别急着高兴——官方这次没有给出任何具体的提速百分比数字。

aiagent

llama.cpp 悄悄换了地基，多数人还在数模型名单

上周刷技术圈，满屏都在喊"320B模型来了""解码快1.5倍"，热闹是真热闹。但我翻完整个更新日志，觉得大家可能把重点搞反了。llama.cpp v0.6.0 这版，表面上最抢眼的是模型阵容。GLM-5.

诗意荷叶D

Llama for Windows发布 支持一键下载模型 无需命令行或管理员权限

对于希望在自己的电脑上运行人工智能模型的Windows用户而言，安装和配置本地AI工具一直存在一定门槛。用户不仅需要寻找合适的模型文件，还要考虑模型格式、硬件兼容性、推理引擎安装以及启动参数等问题。如今，由Hugging Face与llama.

cnBeta

llama.cpp 的正式版，下载包里只有一个编号

# llama.cpp发了正式版，下载包里没有一个文件11 月 4 日晚，llama.cpp 在 GitHub 上打了一个新标签，v0.9.0。这是它第一次跳出 b 开头的每日构建编号，用上小版本的正式版号。消息在社区里传得不慢。

AI干货情报局

llama.cpp为什么那么火？如何使用？

很多人听说DeepSeek开源、Qwen开源了，想下载下来免费用一下。但第一次下载本地大模型，会遇到一个很奇怪的问题：下了一个AI大模型文件，双击打不开。因为模型文件本身，只是训练好的参数数据。说白了就是 AI 的“大脑”，它没有界面，也不会自己运行。

黑虾科技

本地大模型之王是谁？Qwen、Llama、DeepSeek实测对比

一、本地大模型内卷加剧，谁才是日常主力模型很多玩本地大模型的爱好者，都会有一个共同疑问：抛开排行榜上的纸面分数，普通人日常在消费级显卡或者Mac设备上，真正长期跑的大模型到底是哪一个。不少人习惯盯着HuggingFace榜单刷新，看新模型的跑分高低，但榜单高分不等于实际好用。

知识大胖

GitHub优秀开源项目llama-swap：放不下多个模型，轮着用

llama-swap 是给本地模型开发者用的开源代理：同一个接口按请求中的模型名启动或切换后端，让一台放不下多个常驻模型的机器轮流使用它们。它负责调度进程，模型文件和真正执行推理的程序仍要自己准备。比如白天用模型 A 分析代码，随后换模型 B 做摘要。

程序猿架构

0.2 元生成专属多智能体应用？星标超 7 万的 LlamaFactory 作者郑耀威揭秘 Agent 自进化越用越强

整理 ｜梦依丹出品 | CSDN（ID：CSDNnews）0.2 元。一句自然语言，生成一个完整可运行的 AI 应用，Token 成本仅约 2 毛钱。这个数字足够反常识，也很难不让人继续追问：究竟是怎么做到的？给出这个案例的人叫郑耀威。

CSDN

Agent成本暴降几十倍，LlamaFactory作者开源新工具：0.2元自动造Agent

现在，PenguinHarness希望让每个人都能构建自进化Agent。LlamaFactory的作者郑耀威最近开源了一个新项目PenguinHarness。

36氪