★ 4
AI幻觉险些触发美军行动
一起AI幻觉事件几乎导致美国军方采取实际行动，GovAI研究学者警告称，军人需要理解大语言模型固有的不确定性。该事件凸显出将LLM用于军事决策场景时的严重风险。
TechCrunch AI44 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一起AI幻觉事件几乎导致美国军方采取实际行动，GovAI研究学者警告称，军人需要理解大语言模型固有的不确定性。该事件凸显出将LLM用于军事决策场景时的严重风险。
研究通过模拟两个LLM智能体对话，考察影响者智能体如何使目标智能体信念更极端，区分「共鸣」（强化既有信念）与「说服」（推广原本不重视的信念）两条路径。结果显示两种机制都能导致极端化，但共鸣效果更强，且会传播到相关信念。作者警告个性化AI智能体与多智能体生态存在被极端化的脆弱性。