学习路径与资源·蒸馏
定位：行动指南。面向嵌入式工程师的 AI 转型路径与精选资源。
目标：不走弯路，只学核心，掌握高效学习法。
一、核心心法：嵌入式工程师如何学 AI？
1. 语言思维转换：C -> Python
- 旧思维：关注内存布局、指针、寄存器、实时性。
- 新思维：关注张量（多维数组）、矩阵运算、概率分布、数据流。
- 行动：先跑通 Python + PyTorch 代码，不要一开始就推导数学公式。代码即文档。
2. 学习顺序：直觉 > 数学
- 错误路径：看微积分 -> 看线性代数 -> 推导反向传播 -> 还是不懂。
- 正确路径：看视频建立直觉 -> 跑通代码 -> 遇到问题再查数学原理。
- 原文金句：
"学习深度学习不需要高深的数学。你只需要懂高中数学，加上愿意动手写代码的心。"
3. 实践驱动：Run it, then Understand it
- 理念：AI 系统是实验科学。先让模型跑起来（Hello World），看到 Loss 下降，再去理解为什么。
- 类比：就像嵌入式开发，先点个灯（Blink），再研究时钟树配置。
二、四阶段学习路线（6 个月计划）
阶段 1：建立直觉（1-2 周）
- 目标：知道 AI 能做什么，不能做什么。
- 动作：
- 看：吴恩达《Generative AI for Everyone》。
- 读：《AI 3.0》。
- 产出：能用大白话向同事解释大模型原理。
阶段 2：掌握核心技术（3-6 周）
- 目标：理解 Transformer、反向传播、注意力机制。
- 动作：
- 看：李宏毅《生成式 AI》、李沐《动手学深度学习》（重点章节）。
- 读：《深度学习入门》（鱼书）第 1-5 章。
- 产出：能手推注意力公式，能画出 Transformer 架构图。
阶段 3：深入底层实现（4-8 周）
- 目标：能手写 GPT 模型，理解训练流程。
- 动作：
- 看：Karpathy《Neural Networks: Zero to Hero》。
- 读：《大模型从零开始构建》。
- 产出：从零用 PyTorch 写出一个能写诗的 GPT。
阶段 4：架构与部署（持续）
- 目标：能设计 AI 系统，能在边缘部署。
- 动作：
- 学：RAG、Agent 架构、量化（llama.cpp）。
- 产出：在嵌入式设备上跑通量化后的大模型。
三、精选资源蒸馏（只看这些就够）
1. 必读书籍（Top 3）
| 书名 | 一句话总结 | 核心金句 |
|---|---|---|
| 《动手学深度学习》 (李沐) | 最好的中文教材。代码 + 理论 + 直觉。 | "看懂了不一定会写，写出来不一定能跑，跑通了不一定能解释。" |
| 《大模型从零开始构建》 (Raschka) | 硬核实战。从第一行代码手搓 GPT。 | "理解 LLM 最好的方式是自己从零构建一个。调包让你能用，构建让你懂。" |
| 《深度学习入门》 (鱼书) | 零基础友好。纯 numpy 实现，不依赖框架。 | "深度学习是‘数据驱动的编程’——你只需要提供数据，模型自己学会规则。" |
2. 必看视频（Top 3）
| 视频 | 一句话总结 | 核心金句 |
|---|---|---|
| Karpathy Zero to Hero | 封神之作。从零手写神经网络和 GPT。 | "不要只是调用 API，去看看里面到底发生了什么。" |
| 李宏毅 生成式 AI | 生动幽默。华人世界最好的 AI 课程。 | "AI 不是替代人类，而是放大人类的能力。" |
| 吴恩达 Prompt Engineering | 短小精悍。1.5 小时学会写 Prompt。 | "Prompt 的本质是与模型对齐。" |
四、架构师避坑指南（学习篇）
- 坑 1：陷入数学泥潭。
- 症状：卡在推导公式，迟迟不动手。
- 正解：把公式当 API 调用，先用起来，以后再看源码。
- 坑 2：只看不练。
- 症状：视频看懂了，代码一写就废。
- 正解：每一章代码必须亲手敲一遍（Copy-Paste 没效果）。
- 坑 3：追求 100% 理解。
- 症状：试图搞懂每一个细节再往下学。
- 正解：模糊前进。AI 领域知识更新太快，先建立框架，细节以后再补。
五、灵魂金句库（Golden Quotes）
关于学习
- "调试神经网络和调试传统代码不同：传统代码有 bug 会报错，神经网络的 bug 是‘训练不收敛’——只有沉默的失败。"
- "数学是深度学习的语言，但不是深度学习的灵魂。直觉和实验同样重要。"
关于工程
- "在深度学习中，数据质量比模型架构更重要。"
- "学习率是最难调的超参数：太大则震荡不收敛，太小则训练缓慢。"
关于成长
- "不要做调包侠，要做系统思考者。工具会变，但模式会沉淀。"