教你读3遍弄懂1篇论文

明敏 梦晨 发自 凹非寺
非常AI 报道 | 公众号 QbitAI

什么样的B站Up主，让AI专业的导师们纷纷推荐给学生看，甚至导师自己也追更？

又是什么样的Up主，让网友直呼“简直是做慈善”。

没错，他就是亚马逊资深首席科学家、AI大牛李沐。

这个学期，李沐在斯坦福大学开了一门《实用机器学习》的新课，除了斯坦福学生能在线下学到以外，课程的录像、PPT也都在网上免费公开。

不过B站上能看到的版本却不是课程录像，而是李沐回到家里再专门用中文重新录制的！

课程录制的地点，是他在家里车库搭建的摄影棚。而录制的时间，或许是带娃的空档，或许是深夜。

来听课的网友纷纷表示，“简直是把饭送到嘴边”、“还有什么理由不学？”。

正课之外，李沐最近还新“开坑”了经典论文精读系列。

讲了入门必学的AlexNet和ResNet论文后，李沐发起投票问问大家还想听哪篇论文。

Transformer高票当选，李沐火速更新，逐段精读长达一个半小时。

李沐给论文精读系列开的GitHub仓库也在不到一周时间狂揽超过1500星，还上了热榜。

网友甚至喊话：建议沐哥直接带B站研究生！

还有几篇李沐觉得值得讲的新论文，如10月刚刚在ImageNet上刷到SOTA的“不深的网络”。

如果你还想听老师讲解哪篇论文，李沐说“欢迎大家在讨论区里提供（点）建议（歌）”。

于是讨论区的画风就成了这样。

一门正课再加上穿插的论文精读，李沐几乎成了一位日更Up主，粉丝数也在短短几个月时间突破10万。

网友甚至喊话：建议沐哥直接带B站研究生！

那么，他的课究竟有什么魅力？为什么如此受欢迎？

他讲课突出一个动手

论文精读这个系列开始于一次投票。

本来李沐问的是大家想听“三分钟讲论文，知道是什么就行”还是“深入讲解，弄懂每一句话”。

没想到有很多网友留言“其实更希望了解到底该怎么样读一篇论文”。

李沐觉得这个想法很好，第二天就录了一期《如何读论文》作为系列开篇，把自己多年的心得总结成实用的流程。

李沐读论文的方法，是读三遍：

第一遍，读完标题、摘要后直接跳到结论部分，然后可以“稍微瞄一眼”主要的图和表。

这一遍只需要花十几分钟，目的是了解这篇论文大概讲了什么、质量如何，以便快速判断这篇论文是否适合自己。

第二遍，如果决定继续读下去，就可以从头到尾粗读一遍，重点关注论文使用的方法和之前有何不同。

这一遍也不用关注太多细节，公式等细节可以先忽略掉，判断一下了解到这里就可以了，还是真的需要仔细精读。

另外如果感觉一篇论文值得仔细读但太难了，李沐分享的技巧是先去读它引用的之前的研究，再回头读这一篇门槛会低一些。

第三遍，也是最后一遍精读，要弄懂论文中每一句话在说什么，李沐推荐读的时候“脑补”一下如果是自己在做这个工作可以怎么做。

这样读完后好像是自己动手做了一遍似的，即使合上文章也能回忆起许多细节。

三遍阅读花费的时间逐渐增加，中途如果发现其实不需要再读下去了就随时停止以节省时间。

用上这个方法，就能从海量论文中选出那些自己真正需要去详细了解的。

如果到这里你还没学会，那还可以去看李沐老师实际动手演示用这个方法读AlexNet、RestNet的视频。

除了学习读论文的方法和论文本身的内容，这些视频中还能听到从今天的视角看来这些经典论文哪些部分已经过时了，哪些能作为精髓保留下来。

另外还有李沐自己在行业多年的经历和体会，像AlexNet论文作者的工作报告李沐当年可是在现场听的。

d2l是《动手学深度学习》课程的英文Diving Into Deep Learning的缩写。

读论文系列里先讲方法再实际动手演示的风格，在李沐别的课程中也有体现。

李沐在B站上传的第1门课就叫《动手学深度学习v2》，也是他的书《动手学深度学习》的配套课程，这本书已被全球100多所大学选为教材。

这门课的核心理念为“深度学习的关键是动手”，每节课都提供一个可运行的Jupyter笔记本。

最新的《实用机器学习》关注的是机器学习在工业场景的应用，也为作业提供了Jupyter笔记本和数据集供大家上手操作。

听这样的课程，大家表示“如沐春风”。对讲课的李沐，大家叫他一声“沐神”。

你的线上导师

而沐神除了课讲得精彩，课前课后大家提的各种需求，他也都是尽可能满足。

1月注册账号，3月正式开课，8月底《动手深度学习v2》更新完结，没歇几天又开了新课《斯坦福21秋季：实用机器学习中文版》。

如果要评选B站学习区肝帝，李沐老师必须拥有提名！

接近日更的长期高产，让粉丝纷纷留言“老师不用这么拼”、“别累着了”。

除了发视频，动态区也常常能看到李沐和大家互动。

最近大佬的日常是晒娃，10月份已经发了3次和娃有关的动态了。

大家觉得这可赚大了，好像看到大佬的朋友圈一样。李沐却说朋友圈里已经把朋友都晒没了。

一来一往之间粉丝们和李沐熟悉了起来，总是忍不住皮一把。

李沐晒了家里后院种的玫瑰，被粉丝建议收集成数据集，再就地办个玫瑰图像分类比赛，模型可以叫RoseNet。

比发朋友圈更常见的，是沐神在评论区为粉丝们答疑解惑。

有同学对学习应用机器学习上心里没底、不知道自己的数学功底够不够用。

沐神看到后不仅给出了自己的看法，还怕粉丝看不懂，后续又详细补充了一条回复。

当然了，他时不时也会和大家一起玩个梗。

和你聊完学习聊生活人生，这不就是活脱脱的一位线上导师？

有网友就表示，以后自己研究生复试时都要说师从李沐老师（doge）。

而且李沐对于自己的课程，也非常用心。

他认为长视频能让大家看下去音质是非常重要的。为此他特意剁手买了两个300多美元的专业麦克风，录试音视频让粉丝来选哪个效果最好。

即使是中文课程也想配上字幕，为了让不方便开声音的粉丝静音也能学习，换了能自动识别字幕的剪辑软件，但发现并不好用。

这一吐槽“吓”得网友们赶紧来推荐软件，生怕他会因此断更。

此外，李沐的这些课程都是自己抽时间录制，基本都是在晚上哄娃睡觉后开始。

尤其是论文精讲这个系列，录一篇文章的时间大概是5个小时，沐神一般都是每天深夜找半个小时或1个小时做一点，差不多10天才能出一期。

这也让人不禁感叹：沐神真的太勤奋了。

尤其是论文精讲这个系列，录一篇文章的时间大概是5个小时，沐神一般都是每天深夜找半个小时或1个小时做一点，差不多10天才能出一期。

这也让人不禁感叹：沐神真的太勤奋了。

作为工业界大牛，李沐这些年在教学上反而花的功夫不少。

他曾在UC伯克利担任客座教授，去年又开始在斯坦福以兼职讲师身份授课。

在视频平台上开课也不是他第一次尝试了。

此前他在UC伯克利时，就曾把课程视频上传到YouTube上，让更多人免费学习。

他和Alex Smola等人编写的《动手学深度学习》也已被视为业内入门深度学习的优秀教材。

显然，李沐在降低AI入门门槛这件事上，已经身体力行多年，这也是众多AI从业者仰慕李沐的原因之一。

而李沐更让人佩服的，莫过于他开挂的人生经历了。

李沐本科、研究生均毕业于上海交通大学，其中本科就读于上交以培养计算机科学家而闻名的ACM班。

2011年，由于拿到的offer并没有合适的导师，李沐北上前往百度工作，担任高级研究开发员。

在这期间，他创建了一套分布式机器学习广告系统，具体来看就是使用机器学习来预测一个广告是不是会被用户点击。

同年年底，李沐收到了卡内基梅隆大学（CMU）的offer，2012年8月正式赴美读博。

读博期间，李沐一边进修更多AI领域的知识，一边也在大胆实践。

他曾和陈天奇在GitHub上创建DMLC组织，就是这个社区开发出了大名鼎鼎的深度学习框架——MXNet。

博四时，李沐以兼职身份去了亚马逊，继续做MXNet的相关应用。

毕业后，他选择留在亚马逊，如今已成为亚马逊首席科学家。

根据自己读博、工作的经历，李沐都写了长文总结，曾在知乎上揽赞上万。

而且大神对写文这事儿似乎很感兴趣，前不久还在B站发表了《用随机梯度下降来优化人生》一文。

深度学习，深度人生。有点哲学家那味儿了。

具体内容大家可以移步B站围观~

李沐B站个人主页：
https://space.bilibili.com/1567748478