★ 3
SOAR:面向搜索智能体的来源感知强化学习
针对搜索智能体常绕过外部信息、编造答案的「证据捏造」问题,研究者提出SOAR范式,通过来源感知工作流将外部与内部知识拆解为可观测的并行流,并引入来源一致性奖励实现精确信用分配。在3B与7B骨干上分别较基线提升7.3%与5.4%,证据捏造减少74.8%,在知识密集型基准上表现更忠实可靠。
arXiv NLP21 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
针对搜索智能体常绕过外部信息、编造答案的「证据捏造」问题,研究者提出SOAR范式,通过来源感知工作流将外部与内部知识拆解为可观测的并行流,并引入来源一致性奖励实现精确信用分配。在3B与7B骨干上分别较基线提升7.3%与5.4%,证据捏造减少74.8%,在知识密集型基准上表现更忠实可靠。