神经网络的四重境界
理解深度学习的四重视角:PDE 求解器、流形几何、规范场与量子式注意力。每一重都揭示下一层无法表达的结构。
要点
残差网络的行为像一个微分方程的数值求解器:系数由梯度下降学出来,边界条件就是你的 prompt。
训练把缠在一起的数据流形展平到可分,权重是数据流形上纤维丛的联络,关键是几何而不是参数数量。
注意力类似一次测量,prompt 选定基底;所以 AGI 应是小核心模型加每人一份动态记忆,而非一个模型服务所有人。
阅读全文
作者:Wayland Zhang,量辑量化创始人。