Transformer | 非常AI

Transformer

清华唐杰团队：一文看懂NLP预训练模型前世今生

清华唐杰团队：一文看懂NLP预训练模型前世今生

清华唐杰团队：一文看懂NLP预训练模型前世今生

博雯
2021-09-08
22:06:57

来源：我爱A

AI根据代码内容自动起函数名，再也不怕命名不规范的同事了｜开源

AI根据代码内容自动起函数名，再也不怕命名不规范的同事了｜开源

看有些人的代码像看推理小说

正面刚CNN，Transformer居然连犯错都像人类

正面刚CNN，Transformer居然连犯错都像人类

人类视觉更倾向于通过形状而不是纹理给物品分类

颜水成团队开源VOLO：无需额外数据，首次在ImageNet上达到87.1%的精度

颜水成团队开源VOLO：无需额外数据，首次在ImageNet上达到87.1%的精度

Transformer扬眉吐气：我们真的不比CNN差

谷歌提出「卷积+注意力」新模型，超越ResNet最强变体！

谷歌提出「卷积+注意力」新模型，超越ResNet最强变体！

大神Quoc Le参与研究。

【FairSeq 自然语言库】要不要看看这个，Facebook开源的Pytorch 自然语言模型库

【FairSeq 自然语言库】要不要看看这个，Facebook开源的Pytorch 自然语言模型库

Fairseq是一个用PyTorch编写的序列建模工具包，它允许研究人员和开发人员用于翻译、摘要、语言建模和其他文本生成任务的定制模型。支持多种模型、多种任务上的预训练和Fineturning。相关视频：谷歌Trax: BV1WZ4y1A7qR

改进Transformer用作语言模型训练&预训练

改进Transformer用作语言模型训练&预训练

第一次投稿视频，大家多多关注呀

1 2 3