- 贝叶斯深度学习因子:用 MC Dropout 给神经网络预测配不确定性
深度学习因子模型给出的是“点预测”——下期收益 1.2%,却不说“我有多大把握”。真实市场里把握比点值更重要:低把握的预测不该和铁板钉钉的预测一样重仓。本文用纯 numpy 从零实现一个带 dropout 的小 MLP,证明 MC Dropout(推理时保持 dropout 开启、T 次随机前向取均值+方差)能在不重训、不换架构的前提下,给每个预测配一个 epistemic 不确定性。受控实验给出四个诚实结论:分布外样本不确定性显著抬升(OOD 分离 AUC 0.97)、按不确定性弃投 30% 最不确定样本后混合池 RMSE 降 40%、但 MC Dropout 只建模认知不确定性导致 90% 区间实际仅覆盖 50%(叠加 aleatoric 噪声后回到 89%)、且 iid 同方差下 epistemic σ 与单样本误差几乎无关(r=0.08)。附完整 Python 与四张真实计算图。
14 min Chinese - 神经过程 Neural Process:用元学习给出带置信区间的点预测
普通神经网络只给一个点预测,但交易里最该知道的是『我有多确定』。神经过程(Neural Process, Garnelo et al. 2018)把函数视为可学习分布,用一组 context 观测点编码成全局表示,对目标点输出高斯均值+方差——天然带置信区间。本文用纯 numpy 从零训练一个条件神经过程(含手写前向/反向),在 GP 元学习任务上证明:95% 区间经验覆盖 0.93(贴近标称)、OOD 未覆盖区 σ 从 0.64 抬升到 0.77(自动承认不确定),而确定性 MLP 永远只有一条过窄的常数带。附完整 Python 与四张真实计算图。
12 min Chinese
返回