#过度信任

研究：14 个 LLM 智能体过度信任不可靠工具返回

研究评估了14个LLM在工具返回信息不可靠时的表现，发现智能体平均采纳超过三分之一的错误内容，网络搜索采纳率高达68%。智能体常识别出冲突但仅呈现错误答案而不警告用户。干预措施无法一致缓解过度信任问题。