🔥 GitHub · 每日趋势榜 Top30 (2026-10-21)
━━━━━━━━━━━━━━━━━━━━━━01. anthropics/knowledge-work-plugins Python ⭐30.
GitHub 总计超 77,000 Star,大模型推理框架 vLLM、SGLang 是如何炼成的?
vLLM 和 SGLang 的社区发展故事。作者 | 赵晨、夏小雅责编 | Echo Tang出品丨AI 科技大本营(ID:rgznai100)首先,什么是 LLM 推理?
这个GitHub项目有点狠,能用一行代码解决,绝不写五十行
你让它做一个很简单的功能,它可能顺手给你装几个依赖,再写一层封装,补几个工具函数,最后还顺便把项目结构整理一下。
GitHub今日热门项目vLLM:大模型请求怎么排队?
GitHub 今日 Trending 榜单在北京时间 2026年10月22日11:20 的抓取快照中,开源项目 vllm-project/vllm 排在第2名,当日新增441颗星标,11:22:17查询仓库API时,总星标为94939。
Qwen4推理内核代码现身GitHub:27B架构细节引热议,新一代模型路线浮出水面?
作者 | 四月 Qwen4 尚未发布,但一份已合并的开源推理内核代码 Pull Request(PR),却率先“透露”了架构线索。
整仓迁移交给Coding Agent,训练与推理行为还能对齐吗?谷歌团队发布T2J-Bench
来源:市场资讯(来源:机器之心)从权重转换、模型计算到训练循环和推理服务,T2J-Bench 用 63 个整仓任务检验 PyTorch 到 JAX 的迁移质量。20 组现成 agent–model 配置中,最强基线得分为 0.
vLLM与PagedAttention:大模型推理KV Cache分页管理与 GPU 显存选型
摘要:PagedAttention 借鉴操作系统虚拟内存分页思想管理大模型推理的 KV cache,将显存浪费从论文报告的大幅碎片降至接近零,使同等显存下可并发服务的请求数成倍增长。对硬件选型而言,这意味着 LLM 推理的第一约束是 GPU 显存容量与显存带宽,而非单纯算力。
推荐 10 个值得收藏的 GitHub 最火火火的开源项目
之前在 Hacker News 上刷到过一个叫 Rowboat 的项目,说是多 agent 系统的 Cursor。Rowboat 是 YC 孵化的一个开源项目,目前 1.2 万 Star。