研究:大模型城市安全判断受社区名称污名影响
研究调查了七个指令调优模型在洛杉矶和芝加哥186个街区的安全判断,发现模型对街区名称的依赖超过实际地理坐标,且名称效应与少数族裔比例相关,即使控制犯罪和收入后仍存在。模型的地理知识越强,对真实街区的刻板印象越强。研究对LLM在建议和决策支持中的应用有启示。
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究调查了七个指令调优模型在洛杉矶和芝加哥186个街区的安全判断,发现模型对街区名称的依赖超过实际地理坐标,且名称效应与少数族裔比例相关,即使控制犯罪和收入后仍存在。模型的地理知识越强,对真实街区的刻板印象越强。研究对LLM在建议和决策支持中的应用有启示。
研究构建 FrameBench-HPS,含 240 个高风险场景衍生的 2880 条提示,覆盖医疗、金融、教育职业与法律消费权益。七款 LLM 中,得失框架使 32.4% 的完整组推荐类别发生变化,多为不确定性表述而非直接反转。概率规范化可显著降低框架敏感性,为提升高风险决策一致性提供抓手。
论文指出 LLM 在信息不完整决策中易陷入「信息陷阱」,会为无法改变决策或成本过高的检查付费。提出的 DIVA 让模型通过简短数值问题构建小型决策模型,并按净收益评估每次检查的价值,无需训练即可用于任意 LLM。在四个领域 20 个模型上,DIVA-U 遗憾值低于所有基线,DIVA 在合成场景中将…
研究提出 THPL 生成式投喂决策框架,面向循环水养殖系统(RAS)中的虹鳟。方法先用 Fishsort 提取轨迹并计算摄食活动系数,再以分层行为编码器将轨迹转为显式物理与隐式软令牌的双证据表示,最后结合环境参数与专家规则,通过 LoRA 微调大模型并用反事实多模态 DPO 强化因果推理。结果显示…
论文提出面向供应链分析的智能体系统,由协调智能体解读用户意图并将子任务分派给专业智能体,兼顾探索性分析与确定性工作流。领域逻辑封装于专业智能体与提示中,实现可扩展、模块化、可审计的设计。在多级库存管理测试环境中,多智能体设计达到 90% 准确率,与单智能体基线相当,同时将输入 token 用量降低…