专栏名称: CreateAMind
ALLinCreateAMind.AGI.top , 前沿AGI技术探索,论文跟进,复现验证,落地实验。 鼓励新思想的探讨及验证等。 探索比大模型更优的智能模型。
今天看啥  ›  专栏  ›  CreateAMind

推理阶段同时从提示数据中学习算子并将其应用于新问题,而无需任何权重更新

CreateAMind  · 公众号  ·  · 2024-11-05 09:10

文章预览

In-context operator learning with data prompts for differential  equation problems 带有微分方程问题数据提示的上下文运算符学习 https://www.pnas.org/doi/epdf/10.1073/pnas.2310142120 本文介绍了“上下文内算子学习”的范式及其相应的模型“上下文内算子网络”,以在 推理阶段同时从提示数据中学习算子并将其应用于新问题,而无需任何权重更新 。现有方法受限于使用神经网络来近似特定方程的解或特定算子,当切换到具有不同方程的新问题时需要重新训练。通过将单个神经网络训练为算子学习器,而不是解/算子近似器,我们不仅可以摆脱为新问题重新训练(甚至微调)神经网络,还可以利用跨算子共享的共性,从而在学习新算子时只需要提示中的几个示例。我们的数值结果显示了单个神经网络作为 多样化类型微分方程问题(包括常微分方程、偏微分方程和平均场控制问 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览