非常AI探索全球1000+AI工具
残差和layernorm标准化
0201 为什么 Pytorch 定义模型要有一个 init 和一个 forward,两者怎么区分
上一期有位同学问了一个好问题,但是这个问题即和 pytorch 无关也和 transformer 无关,这只是简单的 python 基础,问题是:为什么 Pytorch 定义模型要有一个 init 和一个 forward,两者怎么区分。博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看配套 github 链接:https://github.com/nickchen121/Pre-training-