★ 4
论文提出不可逆性预算:为LLM智能体集群做风险记账与准入控制
该研究提出“不可逆性预算”概念,作为代理操作系统中每个主体的累积风险价值账户,以解决单个代理授权但整体超支的问题。实验表明,该预算能有效限制车队级超支,但依赖感知的保守定价仍是部署的核心挑战。
arXiv cs.AI61 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该研究提出“不可逆性预算”概念,作为代理操作系统中每个主体的累积风险价值账户,以解决单个代理授权但整体超支的问题。实验表明,该预算能有效限制车队级超支,但依赖感知的保守定价仍是部署的核心挑战。
针对企业 GenAI 项目难以证明业务价值的问题,论文提出 EnterpriseVal 用例级评估系统,涵盖用例规范、指标目录、专家与 LLM 混合评分、阈值门控和价值风险模型。在全球银行的三个工作流试点中,信贷备忘录起草引用精度达 88%、幻觉率 1.6%。
论文对欧盟 AI 法案第 2 节高风险 AI 系统要求进行系统分类,发现仅少数要求直接针对 AI 特有风险源,多数为组织流程与文档义务。研究据此提炼出「欧盟 AI 法案风险源清单」,为衔接法律义务与 AI 风险管理实践提供结构化参考,帮助从业者对照现有风险分类体系。
论文对A2C、PPO、DDPG、TD3、SAC五种actor-critic深度强化学习方法在20只标普500大盘股上进行基准测试,并与监督式价格预测基线对比。DDPG年化收益最高达55.5%、夏普比率1.38,但市场beta也最高;TD3与SAC风险收益更均衡。前向重训练改善A2C、PPO、SAC…