★ 4
GROUND框架减少企业分析LLM幻觉
提出GROUND框架,通过治理语义层约束LLM生成的分析,确保符合已批准定义和安全规则。在基准测试中,GROUND是唯一在所有六类中无幻觉的系统,且强制行级安全零违规。
arXiv cs.AI66 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
提出GROUND框架,通过治理语义层约束LLM生成的分析,确保符合已批准定义和安全规则。在基准测试中,GROUND是唯一在所有六类中无幻觉的系统,且强制行级安全零违规。
开发者发布开源项目MentaAgent,一款可本地部署的AI商业分析师,能读取企业的表格、合同、PDF和邮件,指出业务短板、风险与改进点,并标注答案来源文件。项目默认使用开放权重模型,采用Apache 2.0协议,数据留在本地,无需注册或订阅。
OpenAI介绍ChatGPT Work和Codex分析功能,帮助团队了解AI使用情况与支出、识别培训需求,并将AI采用与业务成果相连接。该内容面向企业管理者,强调AI投入的可衡量回报。
该研究探索受治理的企业分析:语言模型解释问题,确定性策略选择并运行预批准的分析程序。在440次运行中,策略执行的分析器全部匹配答案与证据,而运行时规划无一成功,表明受控方法在特定配置下更可靠。