★ 3
市场信号注入攻击 LLM 定价智能体
研究提出市场信号注入（MSI）攻击，通过操纵数字格式、竞争对手排序或定性评论，在不发出明确指令的情况下改变 LLM 定价智能体行为。情感类攻击影响最大并会传导至其他企业，改变利润与消费者剩余，输入规范化可消除已测试的情感攻击。
arXiv cs.AI46 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究提出市场信号注入（MSI）攻击，通过操纵数字格式、竞争对手排序或定性评论，在不发出明确指令的情况下改变 LLM 定价智能体行为。情感类攻击影响最大并会传导至其他企业，改变利润与消费者剩余，输入规范化可消除已测试的情感攻击。
研究提出因果图分歧框架，分别衡量 LLM 定价智能体的结构忠实度与意图忠实度。在双寡头与三寡头市场中，合谋行为与思维链忠实度出现分离，表明仅靠 CoT 监控无法作为防止算法合谋的独立保障。