Paper Morning 2026-09-30

各位早上好，Paper Morning又和大家见面了。 先聊聊两篇视觉领域的工作。VisionHOPE提出了第一个将视觉骨干网络建模为自修改学习系统的框架，简单说就是让模型在处理每张图像时同时“记住”什么和“学习”什么，这两个过程协同演化。在AI4S的视角下，这让我想到我们一直在追求的物理先验嵌入——与其预设规则，不如让模型学会自适应地构建内部表示。另一篇关于无编码器多模态大语言模型Scaling Laws的论文则回答了一个很实际的问题：去掉视觉编码器后，模型应该如何分配计算资源？答案是算力分配需要向更大的模型倾斜，而这种权衡在文本任务上影响不大，但在多模态任务上，无编码器方案在小规模时明显落后，但随规模增大而改善。这对科学计算很有启发——我们在构建PDE基础模型时，是否也应该更勇敢地简化架构，让模型从原始数据中学习真正的物理规律？ 再来看强化学习与代码智能体的研究。GAGAR提出了对代码智能体强化学习的改进，它不再只关注测试是否通过，而是引入智能体评审员来评估代码质量差异，从而给出更细粒度的学习信号。这和我们在科学计算中设计损失函数的思路其实一脉相承——不能只要求“答案对了”，还要追求“方法优雅”。RL的核心问题是信用分配，GAGAR的洞见在于把这个问题从单条轨迹扩展到整个组，让组内比较成为学习信号，这个思路也许能为物理模拟的强化学习提供参考。 最后两篇论文都涉及知识复用的新范式。Recursive Harness Distillation把强大智能体的经验蒸馏成“剧本”，让轻量级智能体也能复用干预知识，这本质上是一种不更新模型参数的知识迁移。这种“可组合的知识表示”让我想到神经算子的追求——我们也想提取与网格分辨率无关的物理规律，而SINO正好回应了这个问题。SINO提出尺度不变的神经算子，解决的是PDE求解中的闭包问题——粗网格丢失的信息如何建模。传统方法容易让模型记住网格特定的模式，SINO的方案是通过双分支架构在频谱域和空间域同时操作，让模型学习与尺度无关的物理规律。这和VisionHOPE的自适应思想形成了有趣的对照：一个让视觉模型自适应输入，一个让物理模型自适应尺度。 今天聊的这些论文其实都指向同一个趋势：让模型学会“如何学习”比预设规则更重要。无论是VisionHOPE的共演化记忆、SINO的尺度不变性、GAGAR的比较学习，还是无编码器架构的端到端训练，都在打破固定表征的束缚。这或许预示着AI4S的下一个阶段——不仅学习物理规律，还要学习如何在不同任务和尺度上灵活运用这些规律。好了，明天见。