01 · 18 分钟
ResNet
从退化问题进入 ResNet;先读原文与最小对照脚本,再把自己的解释写成可被实验推翻的假设。
状态:ResNet · 学习中
进入章节专题 · Algorithm foundations
用三篇论文补上算法基础:从残差连接、注意力到扩散去噪,沿着可运行的最小复现理解模型为什么这样工作。 这里记录真实的学习进度,不把尚未验证的解释写成结论。
2b8b41e6信息如何在越来越深、越来越复杂的模型中稳定流动?这是一条帮助建立联系的阅读线索,不暗示三篇论文构成严格的线性技术演进。
改善深层网络中的信息与梯度传递。
用残差结构承载多层注意力和前馈计算。
在去噪网络中继续使用残差块,并可引入注意力。
每一轮都留下可追溯的来源、运行命令和边界;实验结果不能替代论文结论。
进度仅保存在当前浏览器,不会同步到账号或其他设备。
如果浏览器存储不可用,勾选仍会保留在当前页面会话。