★ 4
研究：更强 LLM 在金融市场中制造更危险系统风险
研究显示，提升个体模型能力可能降低系统级表现，因共享训练导致行为相关。在金融市场模拟中，前沿LLM行为相关随能力增强，准确时降低风险，但共同错误信息下成隐患，揭示能力悖论。
arXiv cs.AI56 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究显示，提升个体模型能力可能降低系统级表现，因共享训练导致行为相关。在金融市场模拟中，前沿LLM行为相关随能力增强，准确时降低风险，但共同错误信息下成隐患，揭示能力悖论。
论文提出一个框架，将结构化危害分析、组件级测试和概率系统建模相结合，以量化AI在关键国家基础设施等复杂系统中的影响。以英国RTGS系统为例，展示了对抗性输入如何改变系统韧性，增加银行倒闭风险。