软本体先验缓解弱监督神经符号学习推理捷径
论文针对弱监督神经符号预测器的推理捷径问题,在训练目标中注入潜在概念的软本体先验,并与任务约束一起编译为平滑可分解的概率电路。软编译把专家公理放入电路权重而非支撑集,使有噪公理只重分配先验质量而不会清空支撑集。作者证明硬支撑版本可被单条损坏公理退化,并在 BDD-OIA 驾驶基准上验证。
共 6 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对弱监督神经符号预测器的推理捷径问题,在训练目标中注入潜在概念的软本体先验,并与任务约束一起编译为平滑可分解的概率电路。软编译把专家公理放入电路权重而非支撑集,使有噪公理只重分配先验质量而不会清空支撑集。作者证明硬支撑版本可被单条损坏公理退化,并在 BDD-OIA 驾驶基准上验证。
论文提出EmoStance框架,利用多标注者表情符号分布作为弱监督信号,控制共情回应中的反应侧情感取向。在盲评中,EmoStance以62.2%的胜率显著优于基线,尤其在上下文特异性和感知响应性方面表现突出。该方法与外部知识方法互补,代码已开源。
论文提出教师-学生弱监督框架,用 LLM 为无标注网络安全推文生成弱标签,训练领域专用预训练语言模型。结果显示仅用 LLM 标签训练的模型 F1 均超 0.92,与全人工监督模型差距在 3 个百分点内。
研究提出可训练的原子链接器,在无原子对标注的情况下,利用句级 NLI 标签联合预测链接存在性、来源选择与关系类型,用于 AMR 到 SAT 的神经符号推理。在 SNLI、SICK、MNLI 上较固定链接器基线提升 8.14-27.09 个百分点。
神经符号模型常仅以最终标签监督,导致中间概念未被观测,出现“推理捷径”。研究提出Soft-PNet,将概念接地重构为在预计算可行符号解缓存上的Metropolis游走,由每个概念单个标注锚点构建的原型分布引导,并以统一的KL目标训练。在MNIST-EvenOdd、Visual Sudoku和Kan…
论文发布约 16 万篇巴西葡萄牙语金融新闻的大规模语料,并基于语义相似度建立弱监督多分类基准。实验显示任务对标签质量与类别分布高度敏感:人工标注子集上 KNN 最佳(准确率 47.3%),而 LLM 标注子集 F1 降至约 20%,凸显高质量人工标注的必要性。