标签： #时序预测

堆 50 层网络，参数就翻 50 倍——深度和参数量被死死绑在一起。深度均衡模型(DEQ)换一条路：只训练「单层变换」f_θ，把隐藏状态定义为它的不动点 z* = f_θ(z*, x)，用求根代替层层堆叠。本文用 numpy 从零实现有界 tanh 型 DEQ，在「单层算子反复作用」生成的 4186/1794 条合成时序上证明：DEQ 用 1705 个参数达到 R²=0.867，与 19345 个参数(11 倍)的 16 层独立深网精度相同(0.873)，而线性基线仅 0.701；不动点约 3–6 步即收敛，推理迭代越多模型越深。附完整 numpy 实现与四张真实计算图。

递归神经网络（RNN）靠隐藏状态把「过去」压缩进「现在」，天然适合「给定过去 T 个收益，预测下一期」这类时序任务。但金融序列信噪比极低，RNN 常常「训得动却赢不了线性模型」。本文用纯 numpy 从零实现 Vanilla RNN（BPTT + 梯度裁剪，无任何深度学习框架），在一个含慢因子+波动率聚集+短期动量的合成收益序列上做下一期收益预测，诚实报告结果：RNN 测试集 R²=0.171、方向准确率 0.658、MSE 比 OLS 低 1.1%；而 OLS 本身已比朴素基线低 34.7%。结论不是「RNN 完胜」，而是「在弱信号金融数据上，RNN 的增益是真实的但微小的，真正的价值在它对非线性/波动结构的建模能力，而非暴力拟合」。并附 LSTM 门控代码与四条最易踩的边界（中阶）。

N-BEATS 是 2019 年 M4 竞赛冠军——一个既没有卷积、也没有注意力、甚至没有 RNN 的纯残差网络，却把当时所有时序模型按在地上摩擦。它的秘密是「栈 + 残差 + 可学习基函数展开」：每个栈把输入同时做 backcast(拟合已知)与 forecast(外推未知)，残差层层传给下一栈。本文用自洽合成模型从零复现其机制，给出多步预测、95% 区间与对基线的 RMSE 对比，并诚实指出它在一步预测上打不过随机游走，附完整 Python 与六类真实陷阱。

TFT（Temporal Fusion Transformer，Lim 等 2020）是少有的「既用 Transformer 注意力、又刻意追求可解释」的时序模型。它靠三道门控——变量选择网络(VSN)、时序注意力(TIA)、门控残差——把「哪几个变量重要、过去哪段历史重要、线性还是非线性重要」全部量化出来。本文用自洽合成模型从零复现这三步，给出变量选择 265× 信噪比、多变量融合 SMAPE 比单变量低 43.7% 的实算结果，并诚实指出注意力可解释性的边界，附完整 Python 与六类真实陷阱。