冯思远:Apache TVM 与机器学习编译发展
运行过 ChatGPT 的人比 Stable Diffusion 多并不是因为 Stable Diffusion 不够厉害,而是因为 ChatGPT 提供了一个开箱可用的环境。
DeepSeek开源昇腾基础组件:与面向英伟达的一一对应
9月30日,DeepSeek发文称,正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。工欲善其事,必先利其器。
A卡跑大模型性能达4090的80%,价格只有一半:陈天奇TVM团队出品
通过这种优化方法,在最新的 Llama2 的 7B 和 13B 模型中,如果用一块 AMD Radeon RX 7900 XTX 速度可以达到英伟达 RTX 4090 的 80%,或是 3090Ti 的 94%。
关于我如何阅读源码这件事
阅读源码本身就是一种学习,就像小时候写作文一样,看别人的好作文也就会模仿一些好的句子,一些好的段落。
谁是2020年最强Python库?年度Top10出炉
蕾师师 发自 凹非寺 量子位 报道 | 公众号 QbitAI2020年已经过去了,国外的一家专门提供Python服务的网站Troy Labs,盘点出了2020年发布的Python库Top10。
浏览器就能跑大模型?web-llm明明很实用,为何火不起来?
一、明明能解决痛点,却被全网忽视的AI黑科技刷遍AI圈,大家都在卷云端大模型、本地部署教程,却很少有人注意到一个宝藏项目——web-llm,一个能直接在浏览器里运行大语言模型(LLM)的黑科技。
《HelloGitHub》第 127 期
兴趣是最好的老师,HelloGitHub 让你对开源感兴趣!简介HelloGitHub 分享 GitHub 上有趣、入门级的开源项目。这里有实战项目、入门教程、黑科技、开源书籍、大厂开源项目等,涵盖多种编程语言 Python、Java、Go、C/C++、Swift...
MLSys 2020|支撑亿级终端设备,阿里淘系端上开源推理引擎MNN解读
MNN在推理引擎设计与优化方面提出了一系列创新性的思想,论文近期在 MLSys 2020 上发表,并进行了远程 Oral 演讲。
商汤科技闫俊杰:用软硬件协同妙招,让深度学习模型部署更灵活高效
在这场全天座无虚席、全网直播观看人数逾150万次的高规格AI芯片产业峰会上,来自产业链上下游的16位大佬共聚一堂,围绕嵌入式AI的软硬件生态创新、家居AIoT、移动机器人和工业制造产业4大版块地图,带来了深入浅出的分享。