GPT太「奢侈」,平替大汇总来了,再也不用担心部署大难题
近年来,生成式预训练模型的兴起彻底颠覆了自然语言处理领域,其影响甚至已经延伸到其他多种模态。然而,像 ChatGPT 和 GPT-4 这样的模型,由于其巨大的模型规模与计算复杂度、复杂的部署方式以及未开源的训练模型,这些因素都限制了他们在学术界和工业界的推广与应用。
NVIDIA Jetson Nano 2GB 系列文章(53):TAO模型训练工具简介
TAO 所训练出来的文件,是兼容于 TensorRT 加速引擎的中间模型,只要在推理平台上透过“tao_converter”工具,就能轻松转换成该平台上的 TensorRT 加速引擎,无需透过繁琐的 ONNX 方式进行转换。
LegoFlow:让智能体自主跑完代码数据构建+训练测评全流程
开源任务与轨迹:团队发布 LegoFlow-SWE,包含从 1,200 万个 PR 中筛选出的 5,000 个任务,覆盖 8 种编程语言和 20 个任务标签,以及 2,780 条验证成功的高质量轨迹;
NVIDIA Jetson Nano 2GB 系列文章(56):启动器CLI指令集与配置文件
前面介绍的内容中提过,在 TAO 工具使用两个不同的 Docker 容器,去面对视觉类与对话类的模型训练,分别是基于 Tensorflow 与 PyTorch 框架。
清华开源混合精度推理系统MixQ:大模型近无损量化并提升推理吞吐
PACMAN实验室 投稿量子位 | 公众号 QbitAI一键部署LLM混合精度推理,端到端吞吐比AWQ最大提升6倍!清华大学计算机系PACMAN实验室发布开源混合精度推理系统——MixQ。MixQ支持8比特和4比特混合精度推理,可实现近无损的量化部署并提升推理的吞吐。
把 PDF 变成 AI 能真正“读懂”的知识:一套可落地的知识库工作流
在将大模型引入科研阅读、写作与知识管理之后,很多研究者都会遇到一个极其关键的问题:AI 很强,但它并不真正“读得懂”我积累多年的 PDF 文献。这并不是模型能力不足,而是知识载体不匹配。
清华实验室系统评估小分子构象采样方法在分子对接任务上的应用
在科学研究中,常常存在大问题和小问题之分。大问题能够更新我们对世界的认知,具有深远影响,也易于获得较多的关注和研究投入;而小问题往往因为缺乏轰动效应,解决难度却不见得小,常常处于悬而未决的状态。
开源:Yolo2CausalTCN,将YOLOv8数据集转换为因果TCN时序模型
开源项目技术说明 | https://github.com/wxzz/iNeuOS_Yolo2CausalTCN摘要 在视频分析场景中,YOLOv8可以逐帧输出目标检测框、类别与置信度等空间信息,但原始检测输出本质上是帧级的离散空间数据,无法直接作为时序预测模型的输入。
ESP32-S3 TinyML实战:三个项目从入门到进阶
项目总览与学习路径嵌入式AI(TinyML)是2025-2026年最热门的交叉领域之一。ESP32-S3凭借双核Xtensa LX7处理器、向量指令集加速和最高8MB PSRAM,成为MCU端AI推理的性价比之王。本文将通过三个渐进式项目,带你从零完成TinyML全流程。
Facebook开源AI4AnimationPy:Python纯血AI角色动画框架
Facebook Research刚刚开源的Python神器——ai4animationpy直接把经典的AI4Animation(原Unity版)完整搬到Python,彻底干掉Unity依赖,让运动捕捉处理、神经网络训练、实时推理、动画工程、可视化全部在一个统一环境中完成!