AI 冒险手记硬核版

从写规则到大模型,AI 走过的每一步为什么非走不可

进阶20 课时约 17 小时

你会学到

沿着 AI 七十多年的发展路线,看清每一步卡在哪里、后来的人为什么只能那样走。全课规划 37 章,目前开放前 20 章,讲到规模定律。

  • 机器怎样从例子里学

    拟合与梯度下降、过拟合与泛化、监督与无监督、强化学习,从具体例子讲起。

  • 神经网络为什么先败后胜

    从感知机和第一次寒冬,讲到反向传播、卷积网络、ImageNet,以及算力为什么决定了结果。

  • 一台会说话的机器怎样搭起来

    Token 与词向量、高维空间、注意力、Transformer、预训练和规模定律。

  • 公式和代码随概念出场

    数学只要求高中水平;推导放在默认收起的进阶抽屉里,代码可以在浏览器里直接修改运行。

适合谁

只会高中数学、但想真正弄明白 AI 原理的人,比如大学生和工程师。

大纲

  1. 什么是 AI

    什么样的机器才算有智能?

  2. 规则 vs 学习

    把规则一条条写给机器,为什么总也写不完?

  3. 拟合与梯度下降

    机器怎样一点点调旋钮,让错误变小?

  4. 过拟合与泛化

    把例子背得滚瓜烂熟,为什么反而做不好新题?

  5. 监督与无监督

    没人给标准答案,机器还能学到什么?

  6. 强化学习:在试错中学

    只告诉它做得好不好,它能自己摸索出办法吗?

  7. 学习即搜索:从演化到梯度下降

    演化和调旋钮,为什么是同一种搜索?

  8. 说出几成把握

    深度学习出现以前,机器靠哪些办法学,又怎样说出几成把握?

  9. 数据与偏见

    学的数据本身有毛病,模型会变成什么样?

  10. 感知机与第一次寒冬

    一个人造神经元能学会什么,又卡在了哪里?

  11. 反向传播

    很多层叠在一起,出了错该怎么往回分责任?

  12. 卷积网络与 ImageNet

    机器是怎么学会看图的?

  13. 序列、深度与苦涩的教训

    一串接一串的文字和声音怎么处理,网络为什么越深越好?

  14. 算力:GPU、CUDA 与芯片

    为什么最后赢在算力上?

  15. Token 与词向量

    文字怎样变成机器能算的数?

  16. 高维空间:超出直觉的几何

    这些数住在什么样的空间里?

  17. 注意力:词怎样彼此关注

    一句话里的词,怎样彼此关注?

  18. Transformer 和它的对手

    整台机器怎么搭起来,还有别的搭法吗?

  19. 预训练:读完整个互联网

    怎样用海量文字把它读成一个会说话的模型?

  20. 规模定律

    只练猜下一个词,为什么模型越大越好?

评论

正在载入…