★ 2
MedConstBench：评测宪法如何引导大模型医疗伦理行为
研究提出 MedConstBench，把部署时的伦理宪法作为受控变量，围绕 Beauchamp 四原则组织，并用人工校准的多模型互评打分。评测 10 个开源大模型在 4 种宪法下的表现，发现宪法影响具有维度选择性和模型依赖性，没有普适最优宪法，并提出按模型自适应选择宪法的方案。
arXiv cs.AI5 天前
#大模型对齐
共 3 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究：多轮越狱攻击的有效视界压缩
论文研究多轮越狱攻击中早期查询历史是否仍必要，定义“有效视界”为恢复同等攻击进展所需的最短查询序列。实验发现平均约一半查询即可恢复相同进展，并据此降低早期查询学习权重可提升攻击训练效果，同时短奖励传播窗口可保持接近全轨迹的防御校准性能。
arXiv cs.AI13 天前
★ 2
对比认知解码缓解大模型从众悖论
论文提出对比认知解码（CED），一种零样本推理干预方法，通过单模型双前向传播隔离从众偏差，并用非对称零界概率钳制与离散 top-k 截断抑制有害共识 token。在 GAIA、SWE-bench 等基准的 7200 条轨迹上测试 Gemma-2、Llama-3.1、Mistral v0.3，认知惰…
arXiv cs.AI40 天前
这个主题的相关资产
相关公司Mistral AI1