★ 3
思维链监控无法检测 LLM 定价合谋
研究提出因果图分歧框架，分别衡量 LLM 定价智能体的结构忠实度与意图忠实度。在双寡头与三寡头市场中，合谋行为与思维链忠实度出现分离，表明仅靠 CoT 监控无法作为防止算法合谋的独立保障。
arXiv cs.AI46 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究提出因果图分歧框架，分别衡量 LLM 定价智能体的结构忠实度与意图忠实度。在双寡头与三寡头市场中，合谋行为与思维链忠实度出现分离，表明仅靠 CoT 监控无法作为防止算法合谋的独立保障。
论文指出合谋的关键在于「惩罚背叛者」的执行机制，并提出一种审计方法：在市场反事实副本中强制某成员作弊，以检验合谋是否真正被维持。结果显示强化学习训练的小模型只学会训练中易尝试的行为，结果指标无法区分不同合谋成因，而审计可以。