标签： #深度学习

Black-Scholes 假设价格连续，可股灾里价格是『跳』下去的。Merton 跳扩散有闭式解，但真实市场要联合校准 σ 与跳参数，解析解很快失效。本文用 numpy 从零实现一个两层 MLP，喂 (σ, λ, μ_J, δ, moneyness, T) 六个特征，去逼近 Merton 欧式看涨价格——在 10584 个参数组合上训练，测试集 R²=0.94、RMSE=2.08，并证明网络『学会』了跳跃溢价：期权价随跳跃强度 λ 单调上升。附完整 Python（含手写前向/反向）与四张真实计算图。

对比学习用「同标的增强视图=正对、不同标的=负对」把股票压成可迁移表征。但负样本怎么选，决定模型学到的是噪声还是真信号。本文用 numpy 从零复现四类负采样：难负例（高相似、确属异板块）把 InfoNCE 损失压到 0.355、下游分类 1.000；错标签负例（没剔除同板块）损失飙到 7.28、准确率掉到 0.276；随机负例易满足却学最浅。并做难负比例消融：纯难负反而不如适度混入——倒 U 形态。附完整 Python 与四张真实计算图。

牛/熊/震荡这种市场状态，硬切成几类是丢了信息的——真实市场是在连续光谱上滑动的。变分自编码器（VAE）能把一个高维市场微观状态向量压缩进低维隐空间，训练后从中挑一个维度，就得到一条平滑、可解释的『连续市场状态曲线』。本文用纯 numpy 从零实现 VAE（含手写重参数化反向），在受控数据上证明：隐变量与真值 regime 的 1-NN 验证相关达 -0.82、与趋势/波动率原始维度的相关分别 -0.78/-0.75，重建 MSE 仅 0.52，且 β 权衡可调节隐空间的规整度。附完整 Python 与四张真实计算图。

组合是集合不是序列，但 DeepSets 的「逐资产编码+对称池化」有个盲区：池化前每个资产互相看不见，成对交互（拥挤度、相似持仓共振）只能靠编码器隐式凑。Set Transformer（ICML 2019）把交互焊进结构：SAB 让集合内元素两两做注意力，PMA 用可学习种子向量做注意力池化，ISAB 用 m 个诱导点把 O(K²) 注意力砍成 O(K·m)。纯 numpy 从零实现 SAB+PMA（手写 einsum 反向传播，梯度校验 1e-9 级），在组合拥挤度聚合任务上实测：SetTransformer R²=0.843 > DeepSets-mean 0.831 ≈ 统计聚合+Ridge 0.830——成对交互任务上有真实但温和的优势；注意力矩阵与真实相似度结构吻合，置换偏移 1.4e-15；ISAB 实测 K=2048 时提速 55 倍。但诚实翻车：n=300 小样本下 SetTransformer 过拟合（train 0.92 / test 0.53），被 DeepSets（0.80）反杀——注意力参数多，先吃数据。拆穿注意力必胜/池化都一样/诱导点无损/交互自动学会/直接上实盘五类陷阱（中阶）。

朴素词袋(BoW)把标题当成一堆无序词的集合，丢掉了「词序」和「哪几个词最关键」。Transformer 的自注意力让每个词去「看」标题里所有其他词、按相关性加权聚合——于是「标题头段和中段的情绪词」能被自动放大。本文用纯 numpy 从零实现自注意力编码器(含完整前向/反向)，在「位置加权的好/坏消息」合成标题上实测：测试集 R² Transformer=−0.026 远优于 BoW 的 −0.873（提升 97%）、方向准确率 54.0% vs 46.4%、读出 token 对关键位置(12,30)的注意力命中率 1.00、互换两个非关键 token 后预测一致性 1.000，并诚实拆穿「注意力一定尖锐聚焦 / 位置编码多余 / 深层才有效 / 小数据随便训 / 注意力=因果」五类真实陷阱（中阶）。

普通 CNN 做序列预测有个死穴：卷积核宽锁死感受野，要看到 32 步前的周期相位得堆几十层。膨胀卷积（dilated convolution）用「每隔 d 个点采一个样」把感受野从线性拉成指数级——d 逐层翻倍 (1,2,4,8,16)，5 层就能覆盖 1+(3−1)·(1+2+4+8+16)=63 步，整根周期纳进窗口；左填充 (k−1)·d 个零保证严格因果、不偷看未来。本文用纯 numpy 从零实现因果膨胀卷积 + 有限差分梯度校验，在多周期正弦叠加合成序列（周期 5/11/17/23/31 步）上实测：膨胀因果 CNN 测试集 R²=0.997、MSE=0.0029，相对普通 CNN(0.996/0.0041) 略有改进，但讽刺的是它仍输给 OLS 线性(0.999/0.0009)——因为任务本质是已知周期的线性叠加，OLS 在精确频率特征上近最优。文章诚实拆穿「膨胀救一切 / 膨胀 CNN 比线性强 / 感受野越大越好 / 因果填充零成本 / 真周期≠可预测」五类真实误区(中阶)。

普通神经网络是「离散层」——你叠 N 层就是 N 次变换，深度=层数、和参数量绑死。Neural ODE（Chen et al. 2018）换了个范式：隐藏状态不靠「第几层」，而靠「积分到时刻 T」得到，dh/dt=f_θ(h,t)，从 h(0)=x 用 RK4 积到 h(T) 再读出 y。于是「深度=积分时长 T」，可任意细分、与参数量解耦。本文用纯 numpy 从零实现 RK4 积分 + 把积分计算图展开做反向传播，在「数据来自已知非线性 ODE 流」的合成任务上实测：Neural ODE 测试集 R²=0.992、MSE=0.00204，相对固定深度 MLP(0.989) 改进 25.1%、相对线性(0.158) 改进 99.0%——因为连续流的归纳偏置正好匹配「数据来自连续动力学」。文章诚实拆穿「ODE 比 MLP 强是普适的 / 连续深度免费 / 反向传播廉价 / 数值积分无误差 / 小数据可辨识」五类真实误区（中阶）。

递归神经网络（RNN）靠隐藏状态把「过去」压缩进「现在」，天然适合「给定过去 T 个收益，预测下一期」这类时序任务。但金融序列信噪比极低，RNN 常常「训得动却赢不了线性模型」。本文用纯 numpy 从零实现 Vanilla RNN（BPTT + 梯度裁剪，无任何深度学习框架），在一个含慢因子+波动率聚集+短期动量的合成收益序列上做下一期收益预测，诚实报告结果：RNN 测试集 R²=0.171、方向准确率 0.658、MSE 比 OLS 低 1.1%；而 OLS 本身已比朴素基线低 34.7%。结论不是「RNN 完胜」，而是「在弱信号金融数据上，RNN 的增益是真实的但微小的，真正的价值在它对非线性/波动结构的建模能力，而非暴力拟合」。并附 LSTM 门控代码与四条最易踩的边界（中阶）。