本地模型够用了吗 桌面推理与 Agent 安全
本地模型到底够不够用?AJ 与 Sero 在一场时长 73 分 27 秒的英文对谈里,把答案从模型能力挪到了运行层。2026 年 11 月 3 日上线的《Are Local Models Finally Good Enough?
Agent 为什么开始“越用越强”?一条自进化技术路线正在形成
上周六是 1024 程序员节,笔者在朋友圈看到不少开发者调侃:今年可能是最后一届「程序员节」了,明年是不是该改成「 1024 Agent 节 」了?
让 Agent 使用电脑,难点不只是“够不够聪明”
假设让一个 Agent 整理资料,再把摘要发给同事。它读懂文件、写好邮件,只完成了一半。另一半问题是:它能看到哪些文件?收件人由谁确认?发送后网页超时了,再点一次会不会重复发?模型能力决定它能否理解任务,系统设计决定我们敢把多少事情交给它。
多轮 Agent 推理,怎样让上一轮的 KV 缓存在下一轮真正复用?
一次工具调用结束,Agent 把结果追加进历史再请求模型继续工作。上一轮处理过的输入和生成内容又出现在下一轮输入里。在 Prefill/Decode 分离部署中,新请求先交给 Prefill,而上一轮生成阶段的 KV 留在 Decode。
面试官反问:Agent 为什么必须学会遗忘?讲解agent memory长期记忆
面试官:你刚才讲长期记忆分了短期、长期,长期里又拆了情景记忆、语义记忆、程序记忆。那我追问一个——既然整理得这么明白,为什么还要给 Agent 专门设计一个"遗忘"机制?♂️我:呃……记忆越来越多,检索会变慢,塞进上下文也浪费 Token?面试官:这答案不能说错。
英伟达详解AI内存全栈协同设计:HBM容量仅增3%,Agent吞吐量/美元最高提升30倍
美东时间11月5日周四,英伟达发布公司博客文章,详解其AI内存全栈协同设计策略,强调随着大模型参数规模、上下文长度和智能体应用持续扩张,AI基础设施的内存压力正在加剧,单纯增加GPU内存容量已不足以解决问题。
Agent,“重做”数据库
对于一名熟悉业务的财务人员来说,这或许是个再简单不过的问题。但在某数据库厂商测试的企业级Agent场景中,AI给出的答案与真实情况相差了近15倍。
agent是关不住的:即使互相隔离,仍能隔墙传信
两个AI分开执行任务,不能通过网络传话,也没有可以共同写入的文件,结果还是把消息送到了对方手里。研究人员让AI主动寻找隔离设施的漏洞,结果发现,处理器缓存、共享存储,甚至网页系统里的证书缓存,都可能成为传信通道。
Agent规模化应用,安全与成本这本账怎么算?
Token烧不动了”--这是当前一大热门现象,不仅一批企业出现令人咋舌的“天价Token账单”,甚至连亚马逊、微软、Meta这些大型科技公司也在收紧内部Token消耗指标。本质上,Token消耗的狂飙突进,是Agent规模化带来的需求端急剧膨胀,瞬间撕开了供给端的缺口。
七成时间都在跑推理,5000 万次沙箱调用:Agent 后训练到底卡在哪里|AI 进化论
11 月 11 日晚上 7:30,CSDN 视频号「AI 进化论」栏目诚邀 蚂蚁集团 AI Infra 技术专家苏乐、 清华大学计算机系助理研究员、开源项目 AgentENV 发起人闪英迪、清华大学博士生、KTransformers 核心开发者李沛霖、围绕《训练和推理,还要分家吗:Agent 后训练背后的基础设施之争》展开直播对谈。