超越万亿参数：揭秘决定大模型成败的“隐形之手”——关键超参数详解
真正决定这座大厦能否建成、建得多牢固、装修得多精美的，是那些隐藏在训练代码中的“隐形之手”——超参数。
研究生电脑里最值钱的，不是论文，而是这4个文件夹
刚读研的时候，我电脑里最壮观的东西，是论文。下载一篇。再下载一篇。名字懒得改的，就直接变成：“download.pdf”“download(1).pdf”“最终版.pdf”“最终版2.pdf”“这个有用.pdf”几个月以后，硬盘里躺着几百篇论文。看起来资料很多。
大模型命名与技术术语全面解读，让你快速入门大模型
一、模型名称的结构拆解大模型的名称就像一辆汽车的型号，每个字母和数字都承载着特定含义。我们以你提到的例子为起点，逐步展开。1.
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
演讲嘉宾｜王兆雄编辑 ｜李忠良策划 ｜AICon 全球人工智能开发与应用大会多模态大模型在智能客服、自动驾驶、AIGC 等领域的应用需求不断增长，但其训练工程面临计算、存储、数据处理、分布式通信等多重挑战。
古董GPU也能跑DeepSeek同款GRPO！显存只需1/10，上下文爆涨10倍
编辑：KingHZ【新智元导读】开源微调神器Unsloth带着黑科技又来了：短短两周后，再次优化DeepSeek-R1同款GRPO训练算法，上下文变长10倍，而显存只需原来的1/10！
Natura-1发布：从百万小时人类经验中学会零样本泛化与灵巧操作
今年 2 月，英伟达等机构发布的 EgoScale 用 20，854 小时第一视角人类操作视频预训练 VLA 模型，观察到数据规模与验证损失之间的对数线性关系;
AI系统——梯度累积算法
明天博士论文要答辩了，只有一张12G二手卡，今晚通宵要搞定10个模型实验。下面这个图中橙色部分HERE就是梯度累积算法在AI系统中的大致位置，一般在AI框架/AI系统的表达层，跟算法结合比较紧密。
百亿参数模型的并行训练：节点内张量并行、节点间数据并行
现在训练一个 1000 亿参数的 Transformer 模型已经算不上什么新鲜事。GPT-3 有 1750 亿参数，Llama 2 最大版本达 700 亿，许多团队现在随口就把"100B 作为基准"挂在嘴边。
小红书 FinOps 实践：云成本优化与资源效率提升之道
作者｜梁啟成 编辑 ｜Kitty 策划 ｜QCon 全球软件开发大会 当前，云计算已成为众多互联网企业支撑业务运行的关键基础设施，然而云计算的便利性和灵活性也带来了一系列资源成本管理挑战，包括成本增速过快、成本归属不清晰、缺乏有效成本控制手段、对云厂商高度依赖等。