来gongzhonghao【图灵学术计算机论文辅导】,快速拿捏更多计算机SCI/CCF发文资讯~

大家做深度学习会不会被评创新性不足?今天我来给大家推荐一个小众创新点:贝叶斯神经网络+PINN。贝叶斯神经网络用不确定性量化把“参数高效、模态对齐、鲁棒泛化”串成一条线。把贝叶斯推断塞进LoRA、Prompt、Adapter里做轻量化,再让不确定性指挥跨模态动态路由,可以实现“少样本、多模态、任意域”一把梭。这对于论文er来讲,可以说是绝佳发文选择!近期更是有成果登上顶刊TPAMI、顶会Neurips。

本文整理了3篇顶会论文,旨在帮助大家把握前沿思路,为相关研究提供参考,有需求可自取,满满干货,点赞收藏不迷路~

Multi-Attribute Multi-Grained Adaptation of Pre-Trained Language Models for Text Understanding from Bayesian Perspective

方法:文章把每个数据样本同时投影到用户、平台等多个属性及其粗细粒度视图上,通过贝叶斯神经网络采样得到不同粒度下的权重后验;接着以多任务目标联合优化任务标签似然与文本重构似然,使 PLM 既捕获领域特有分布又保持全局知识;最后通过知识蒸馏将细粒度模块整合为统一的粗粒度模型,在训练后期仅更新极少量参数即可完成跨域稳健适配。

图片

创新点:

  • 首次将贝叶斯推断与 BNN 结合,用多属性多粒度视角显式建模 IID 与非 IID 特征的互补关系。

  • 设计了基于 LoRA/KronA 的参数高效模块与联合蒸馏学习策略,实现大模型在异构数据上的低成本微调。

  • 引入无监督文本生成任务作为先验,显著提升领域模块的泛化能力并减少对标注的依赖。

图片

总结:这篇文章从贝叶斯视角重新审视“非独立同分布数据如何影响预训练语言模型”这一根本假设,提出轻量级多属性多粒度适配框架 M2A,一举破解 PLM 在非 IID 场景下的不确定性与资源瓶颈难题。

Learning to Double Guess: An Active Perception Approach for Estimating the Center of Mass of Arbitrary Objects

方法:系统先以默认竖直姿态抓取物体,利用 BNN 融合六维力-力矩与二维姿态输入给出初始三维质心分布及其不确定度;ActiveNet 在该分布引导下遍历候选旋转姿态并预测每个姿态的信息增益;最后将两次高斯预测按逆方差加权融合得到后验估计,实现仅两次交互即可显著提升质心定位精度。

图片

创新点:

  • 首次将贝叶斯神经网络引入机器人质心估计,用可解释的不确定性指导下一步动作。

  • 提出 ActiveNet 网络,通过网格搜索与打分机制在连续旋转空间中寻找信息增益最大的第二姿态,实现真正的主动感知。

  • 仅用两个简单训练物体、204 次抓取的有限数据完成训练,却能在 12 种全新真实物体上零样本迁移并保持低误差,展现惊人泛化能力。

图片

总结:这篇文章提出 U-GRAPH 框架,首次让机器人仅凭两次触觉交互就能在任意未知物体上把质心估计误差降到 1.5 cm,一举破解非结构化环境中“抓不住、估不准”的长期难题。

纠结选题?导师放养?投稿被拒?对论文有任何问题的同学,欢迎来gongzhonghao【图灵学术计算机论文辅导】,获取顶会顶刊前沿资讯~

Bayesian Cross-Modal Alignment Learning for Few-Shot Out-of-Distribution Generalization

方法:文章冻结 CLIP 的图像与文本编码器,仅把任务相关的文本提示视为随机变量,在其上建立高斯先验并用 ELBO 优化;同时引入梯度正交损失使类别预测梯度与环境预测梯度正交,从而让图像特征中的类别信息与环境噪声解耦;最后通过 IRM 梯度惩罚约束提示在训练各域上具有一致性。

图片

创新点:

  • 首次将贝叶斯变分推断引入跨模态对齐,仅对文本侧进行分布建模,显著抑制对基类的过拟合。

  • 提出梯度正交损失,显式解耦图像特征中的因果类别线索与环境伪相关,实现更鲁棒的图像-文本对齐。

  • 把不变风险最小化正则化搬进贝叶斯框架,确保学得文本提示在多环境下稳定预测

图片

总结:这篇文章直击“少量样本+分布漂移”的死结,用贝叶斯跨模态对齐让 CLIP 在未见类别上飙升 10–20% 准确率,首次把小样本 OoD 难题推向可解区间

来gongzhonghao【图灵学术计算机论文辅导】,快速拿捏更多计算机SCI/CCF发文资讯~

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐