- Temporal Fusion Transformer:把多变量时序预测做成可解释黑盒
TFT(Temporal Fusion Transformer,Lim 等 2020)是少有的「既用 Transformer 注意力、又刻意追求可解释」的时序模型。它靠三道门控——变量选择网络(VSN)、时序注意力(TIA)、门控残差——把「哪几个变量重要、过去哪段历史重要、线性还是非线性重要」全部量化出来。本文用自洽合成模型从零复现这三步,给出变量选择 265× 信噪比、多变量融合 SMAPE 比单变量低 43.7% 的实算结果,并诚实指出注意力可解释性的边界,附完整 Python 与六类真实陷阱。
13 min Chinese - 注意力机制因子:让模型自己决定看哪些特征
把注意力机制从 NLP 搬进多因子选股:用特征级自注意力让模型自己决定看哪些因子,再门控加权出 1 维注意力因子。合成里门控因子 OOS R²=0.59 远超等权平均 0.15(高阶)。
15 min Chinese - 注意力机制的可解释性:用特征归因解释模型决策
注意力权重只告诉你模型「看了哪里」,不等于「哪里重要」。本文用纯 numpy 搭一个小的特征级自注意力收益预测器,故意只让一个特征携带信号,对比注意力权重与 Integrated Gradients 特征归因——后者能精确锁定真正驱动预测的因子,并给出归因的实战边界。
11 min Chinese
返回