前两天我们使用hermes+deepseek v4pro和antigravity+gemini 3.5flash 两套AI agent工具模型，对kaggle ROGII竞赛项目进行实战分析，哪个更能打我们直接看kaggle提交后的public评分。
gemini 3.5flash “豪华集成流”（Viterbi DP +各种模型轮番上），deepseek v4pro折腾的 Ridge V2。先说结论：Viterbi DP 本地CV 10.99（Hybrid），Kaggle LB 15.77，CV → LB 衰减43%（严重过拟合）。Ridge V2 本地CV 15.54，Kaggle LB 15.792，CV → LB 衰减6%较为稳定。
表面上看kaggle LB差距都不大，但是在特征工程细节和模型基础调试上，gemini 3.5flash 都远远优于deepseek v4pro。在后续优化能力上，gemini 3.5flash 提供了多个优化方向，deepseek v4pro 直接放飞自我说目前方案已经最优。
然后，我把gemini 3.5flash Viterbi DP 方案给到hermes+deepseek分析对比，给出分析报告如下：
一、一图流：各维度对比？
直接上各维度对比硬指标：
维度 | gemini 3.5flash Viterbi DP | deepseek v4pro Ridge V2 |
本地CV | 10.99（Hybrid） / 11.46（纯Viterbi） | 15.54 |
Kaggle LB | 15.77 | 15.792 |
CV → LB 衰减 | +43%（严重过拟合） | 仅+6%（较稳定） |
核心方法 | Viterbi DP + 物理约束 | TVT_input外推 + Ridge |
GR归一化 | Typewell均值/标准差 | 每口井自己归一化（错的） |
GR缺失处理 | 线性插值 | 没处理（惭愧） |
边界对齐 | 强制0.0ft跳变 | SG平滑 |
空间特征 | 用过，相关性-0.13，已废弃 | 用过NCC，噪声太多，也废弃 |
二、挨个阶段看：hermes能学点啥？
阶段 | gemini 3.5flash Viterbi DP | deepseek v4pro Ridge | 能学点啥？ |
EDA | 揪出GR缺失1-19ft间隙 | 基础统计+验证TVT-Z | 人家看得细，服气 |
基线 | 常数12.25 / 线性1259 Viterbi | Ridge 169.62 → V2 15.54 | 基线差距不大大 |
特征工程 | Typewell归一化 + cKDTree（后弃）+ DTW | NCC翻车 → TVT_input外推 | 他们的归一化思路极香 |
ML建模 | LGB+XGB+Cat 三件套集成 | Ridge（好用） + LGB（拉胯） | 集成不是万能药 |
后处理 | 边界0.0ft强对齐 + 高斯平滑（弃） | SG平滑 | 边界强制对齐值得抄 |
架构优化 | 无泄漏CV + 纯Viterbi物理11.46 | — | 这必须偷师 |
混合模型 | GBDT+Viterbi CV 10.99 → LB 15.77 | — | 集成一时爽，LB火葬场 |
三、三个可以直接抄过来的优化
1. Typewell的GR归一化（我们做错了）
我们之前写的：
错的。应该按Typewell的均值和标准差来：
别小看这一改，Viterbi的RMSE从12.67降到12.47。
就一行代码的事，效果立竿见影。
2. GR缺失值：直接线性插值就够了
95%的缺失都是1-19ft的小间隙，线性插值完全能打。
我们之前完全没处理，属于低级失误。
3. 边界对齐：别软绵绵，直接硬对齐
隔壁做法：
强制在0.0ft处对齐。
我们用的SG平滑太温柔，边界反而飘了。
边界这个地方，温柔是原罪。
四、隔壁踩过的坑，咱们就别再踩了
坑 | 后果 |
空间KNN邻井特征 | 相关系数-0.13，RMSE飙到1052ft |
GBDT + 绝对空间坐标 | 过拟合42.40ft |
GBDT+Viterbi过度集成 | CV 10.99 → LB 15.77（+43%衰减） |
额外高斯平滑 | RMSE不降反升 |
看到“空间特征”四个字，我们当初也折腾过NCC，最后发现全是噪声。
有时候，加特征不如删特征，或者是用的姿势还不对。
五、最终路线：别搞花活，纯Viterbi最香
纯Viterbi（CV 11.46）在LB上的泛化能力，反而吊打那个CV 10.99的Hybrid。
这个教训值千金：CV好看 ≠ 线上能打。
下一步计划：
实现 Viterbi + Typewell归一化 + GR插值 + 边界对齐
目标LB：15左右。
结论：hermes+deepseek疯狂的想抄作业！！！
后续，我们继续将两个工具模型的方案思路相互融合借鉴，看下最终在kaggle public的跑分情况。
Loading...
