花了5个月,我把《动手学深度学习》读完了
每年都会看一些书。
我也没什么读书目标,所以遇到好书,我一般都会多读几遍,暗爽过瘾后,大呼受益匪浅,仅此而已。但此时此刻,我读完了一本书,这是第一本让我读完后,想写点东西的书,书名是《动手学深度学习》PyTorch第二版,我读完花了5个月。在线书地址 https://zh.d2l.ai

下图是书本的内容大纲,这些我以前也不懂,纯粹就是感兴趣,当然,学完后,还是不懂。我先买的纸质精装版,后来发现学习时使用在线版就完全够了,在线版还有代码运行环境,那购买的纸质版就当交个“学费”。

学习过程中最让我感动的是,书的作者之一:李沐老师,也是配套视频教程的讲师。他在学术和事业上已经很成功了,授课时,李沐老师是AWS资深首席科学家(现在出来自己创业)。授课期间,李沐老师工作上应该不轻松,加上还有两个娃要带,课程幻灯片都是他自己编写(1055页);直播录课都是在车库里开展,等娃睡觉了,或者家人带娃的时候进行的(一共34节课,合计51个小时),直播期间在线回答了近千个问题。我在几次课里,也听到了李沐老师两个娃偶尔哭闹的声音,那时正在直播上课的李沐老师依然笑容满面的讲授,那一刻,我鼻子有点酸,我也有两个娃,我知道实际上挤出这样的时间很不容易。
每次直播平均在线人数在1000人以上,录播课程平均观看时间是1小时以上,这让老师很欣慰。我看的录播,刚开始也不太相信,居然有这么多人在学习这些“不流行”的内容,看到后面我知道为什么了。用爱发电,为知识传播做出贡献,是一件伟大的事情,感谢李沐老师。

李沐,现任亚马逊首席科学家,人工智能框架Apache MXNet作者之一。本科就读于上海交通大学,卡耐基梅隆大学博士毕业,并先后在香港科技大学、加大伯克利、斯坦福大学担任研究助理、助理教授、兼职教师,2016年加入亚马逊成为首席科学家,并在AWS带领团队全职开发MXNet。李沐也热衷于人工智能的普及,著有《动手学深度学习》,并在B站开设直播课程。
李沐老师简介(百科)
书的内容很技术,哪怕我只贴出一个大纲,相信也会马上劝退不感兴趣的人。我想记录分享的是,这本书有一个最大的特点,就是动手实践。豪不谦虚地说,由于自己兴趣和大学专业(信息安全),我仅略懂一点编程的皮毛,真的就是一点点,而且确实是皮毛。就这样的水平,也不妨碍我囫囵吞枣的学完理论,然后自己动手搭建了深度学习环境(CUDA,PyTorch等),跑通了全书所有的代码,还租了一些GPU去跑一些稍微大一点的算法/模型。对了,现在短租GPU其实也不贵,我几个月来,各种低效的折腾,一共也就只花了几百元RMB租卡。过程中碰了很多壁,碰壁就是收获。
还要感谢这个时代,如果没有GPT,我这种水平是绝对不可能有效的自学这些知识,成不成才其实无所谓,我指的是学习过程都进行不下去。为了让自己学习能正常进行,我为自己建立了一个专门的GPTs,他懂我的水平有多差,每次都会耐心的帮助我解释里面的知识,各种举例子,直到我解决问题。以下是GPTs“辅导老师”的提示词。
你是一个深度学习领域的专家,拥有丰富的理论和工程经验。你的任务是指导一个使用PyTorch的初学者,教科书为知识库里的《Dive into Deep Learning.pdf》。你的目标是回答他在学习过程中遇到的问题,帮助他更快成长。
回答问题时需要注意以下几点:
1. **耐心和详细**:用耐心和详细的方式解答每个问题。
2. **通俗易懂的比喻**:对于复杂的概念,使用生活中的通俗比喻来帮助理解,但不要省略学术原理。
3. **严谨和权威**:确保每个回答都严谨且权威。
**注意**:除非特别要求代码实现,否则每次回答不需要附上代码。默认都用中文回答问题。
GPTs的提示词,TA全程指导我完成了学习
学习过程中,由于完全搞不懂Transformer,我又第一次正儿八经地去读了一篇论文:《Attention is All You Need》,虽然我觉得这论文题目有点标题党,虽然读了后还是搞不懂,但不妨碍我在这里“装逼”。实际上这种经典的论文,值得我把每一句话都理解清楚。感叹早在2017年,研究者们就看清楚了未来很多技术和应用的发展趋势。当然现在马后炮再去看Transformer,觉得当时这些人真厉害。

这本书我看了两遍后,也只懂了一点皮毛。我想,凭我的基础,看五遍应该可以入门,想想也挺不错了。如果真看五遍,那后面每一遍都会比前面的更难,有时间了我再试试,先不吹牛,做到了再说。人到中年,整块的时间确实不多,这5个月我周末几乎不玩手机,也感谢我的家人包容我少带一些娃,才能勉强看完。
读书就像跑步,只要认真的做下去,就会让自己进入到一种特别的“心流”状态,我自己在这种状态下,是幸福的、是放松的,也是唾手可得的。
继续努力,继续在路上。记录下此刻,共勉。

首发于公众号「南山独唱团」 · 阅读原文 ↗
下一篇关于 ChatGPT,也说几句