下中国象棋赢了Jev!扩散智能推出决策模型,判断正确率达95%
智东西10月28日报道,今天,深圳大模型厂商扩散智能发布并开源扩散语言模型Clover-35B-A3B-Preview,该模型采用混合专家架构,总参数350亿、激活参数30亿,支持思考模式。
上海AI Lab&上交大开源首个8.9B隐空间大模型NCP-ArchPreview
在长达 40 余页的技术报告中,这篇工作展现出令人钦佩的严谨与工程透明度:排查 Muon 优化器与 QK-Norm 的暗礁:团队在报告中详细复盘了使用 Moonlight Muon 矩阵优化器配合层级 Q/K Normalization 时遭遇的注意力 Logit 爆炸与梯度突刺现象,并剖析了其机制。
韩松弟子创业,MIT博士李沐阳联手朱俊彦推出多模态推理加速器
同年,另一位 HAN Lab 前成员、现任加州大学圣地亚哥分校助理教授刘至简开始筹备创办高效推理公司 Inco AI。今年 8 月,Inco AI 发布首个产品,一套名为 DFlash 2 的推测解码草稿模型。
双 NVIDIA DGX Spark 部署DeepSeek-V4-Flash 模型测试
部署手册:https://github.com/maliubiao/dgx-spark-2-deepseek-flash-0731部署过程-AI全程自动化部署连接好两台硬件后,直接把部署手册丢给了TM(https://github.
20GB 的 27B 在 Mac 上快一倍:63 对 32 tok/s,Kapitsa 靠树形验证
一、同一台电脑,只换一个软件,速度翻倍先看一组实测数字。同一台 MacBook Pro,M4 Pro 芯片、48GB 内存,跑同一个 4-bit 量化的 Qwen3.
因果依赖刻进草稿网络深度,SGLang吞吐最高达4倍,已开源
为此,团队在 Qwen3.8-27B 上训练了专为 Agent 场景优化的 DSpine 草稿权重,与官方开源 DFlash2 权重正面对比。
用一台 DGX Spark 部署 Ornith-1.5-122B-TensorFold 及性能实测
Ornith-1.5-122B-TensorFold 通过 EXL3 4-bit 量化和打过补丁的 TensorFold 推理引擎,让 122B 参数的 MoE 模型在单台 NVIDIA DGX Spark(GB10,128 GB 统一内存)上运行。
港大团队开源350亿扩散模型,官方说680,社区PR里只有32
昨晚快十一点刷到 IT之家 那条稿子,说 DiffuSpace 把 Clover-35B-A3B-Preview 开源了。平时这种新模型发布稿我基本是划过去的,但"扩散语言模型"几个字让我停了一下——扩散这套东西我印象里是拿来画图、生视频的,怎么跑来写代码、点网页按钮了。
35B 扩散语言模型开源,单卡 680 tok/s,速度是同尺寸 Qwen 的 5 到 10 倍
一个 350 亿参数的模型,单张卡上跑出每秒 680 个 token。这个数字放在自回归模型堆里,基本是没法比的。但它有个前提。这个模型不是一个个吐字,是一块一块填。