历史与AI的距离|追溯两千年中国文化心理演进
为什么生活在不同地域的人群呈现出迥异的心理特征?不同时代的社会是否具有不同的道德倾向?在有文字记录的数千年间,人类社会发展出了形态各异的文化。
智能问答:基于 BERT 的语义模型
简单来说,Contrastive Learning 从 32 个句子中找到了最相似的 1 个,而 CrossEntropyLoss 则是进行了 32 次二分类。
对比学习(Contrastive Learning)在CV与NLP领域中的研究进展
目前NLP领域的经验,自监督预训练使用的数据量越大,模型越复杂,那么模型能够吸收的知识越多,对下游任务效果来说越好。
不平衡数据下对比学习的理论分析:从训练动态到剪枝解决方案
论文标题:Theoretical Analysis of Contrastive Learning under Imbalanced Data: From Training Dynamics to a Pruning Solution。对比学习已成为表征学习中的一种强大范式,能够在不依赖标签的情况下有效利用无标注数据。
再介绍一篇最新的Contrastive Self-supervised Learning综述论文
自监督学习最近获得了很多关注,因为其可以避免对数据集进行大量的标签标注。它可以把自己定义的伪标签当作训练的信号,然后把学习到的表示用作下游任务里。
爱可可AI论文推介(11月5日)
LG - 机器学习 CV - 计算机视觉 CL - 计算与语言 AS - 音频与语音 RO - 机器人 ME - 统计方法(*表示值得重点关注)1、[ME] *Bayesian WorkflowA Gelman, A Vehtari, D Simpson, C C.
对比与生成:抖音SOTA多模态表征模型DME
抖音搜索多模态团队联合中国人民大学高瓴人工智能学院,发布抖音多模态表征模型 DME,在多模态表征权威评测榜单MMEB-v2上,DME 模型在 2B、9B 两个参数量级下均取得对应规模 SOTA,整体得分分别达到 74.8、78.4,视频与视觉文档检索的优势尤为突出。
推荐系统中不得不学的对比学习(Contrastive Learning)方法
今天我们来聊一聊推荐系统中不得不学的Contrastive Learning方法,近年来Contrastive Learning在CV和NLP领域的应用越来越广泛,在推荐系统中当然也不例外。
自步对比学习:充分挖掘无监督学习样本
本文为香港中文大学MMLab实验室博士生葛艺潇投稿。