- N-BEATS 神经基展开:无卷积无注意力的纯残差时序预测
N-BEATS 是 2019 年 M4 竞赛冠军——一个既没有卷积、也没有注意力、甚至没有 RNN 的纯残差网络,却把当时所有时序模型按在地上摩擦。它的秘密是「栈 + 残差 + 可学习基函数展开」:每个栈把输入同时做 backcast(拟合已知)与 forecast(外推未知),残差层层传给下一栈。本文用自洽合成模型从零复现其机制,给出多步预测、95% 区间与对基线的 RMSE 对比,并诚实指出它在一步预测上打不过随机游走,附完整 Python 与六类真实陷阱。
13 min Chinese - Temporal Fusion Transformer:把多变量时序预测做成可解释黑盒
TFT(Temporal Fusion Transformer,Lim 等 2020)是少有的「既用 Transformer 注意力、又刻意追求可解释」的时序模型。它靠三道门控——变量选择网络(VSN)、时序注意力(TIA)、门控残差——把「哪几个变量重要、过去哪段历史重要、线性还是非线性重要」全部量化出来。本文用自洽合成模型从零复现这三步,给出变量选择 265× 信噪比、多变量融合 SMAPE 比单变量低 43.7% 的实算结果,并诚实指出注意力可解释性的边界,附完整 Python 与六类真实陷阱。
13 min Chinese - 注意力机制因子:让模型自己决定看哪些特征
把注意力机制从 NLP 搬进多因子选股:用特征级自注意力让模型自己决定看哪些因子,再门控加权出 1 维注意力因子。合成里门控因子 OOS R²=0.59 远超等权平均 0.15(高阶)。
15 min Chinese - 注意力机制的可解释性:用特征归因解释模型决策
注意力权重只告诉你模型「看了哪里」,不等于「哪里重要」。本文用纯 numpy 搭一个小的特征级自注意力收益预测器,故意只让一个特征携带信号,对比注意力权重与 Integrated Gradients 特征归因——后者能精确锁定真正驱动预测的因子,并给出归因的实战边界。
11 min Chinese - SHAP 与可解释机器学习:让量化因子不再黑箱
机器学习选股模型往往是个黑箱——你拿到一个高夏普的策略,却说不清它到底在押注什么因子。SHAP 用博弈论的 Shapley 值把模型的每一次预测拆解到每个因子头上,既能做全局因子筛选,也能解释单笔交易。本文从零实现蒙特卡洛 Shapley 值估计,并用真实图表展示全局重要性、摘要蜂群图、依赖图与瀑布图。
13 min Chinese
返回