可信智能体AI:网络安全与系统综述
综述指出从被动基础模型转向自主智能体AI后,自然语言同时充当输入数据、内部控制代码与通信协议,形成图灵完备的攻击面。文章综合206项基础研究与监管标准,将智能体架构形式化为有状态五元组,建立六维可信分类体系,并提出融合双LLM隔离、能力访问控制、eBPF探针与沙箱运行时的零信任纵深防御架构。
共 26 篇相关资讯,按重要度与时间排序,每 3 小时更新。
综述指出从被动基础模型转向自主智能体AI后,自然语言同时充当输入数据、内部控制代码与通信协议,形成图灵完备的攻击面。文章综合206项基础研究与监管标准,将智能体架构形式化为有状态五元组,建立六维可信分类体系,并提出融合双LLM隔离、能力访问控制、eBPF探针与沙箱运行时的零信任纵深防御架构。
论文从部分可观测马尔可夫决策过程(POMDP)出发,梳理世界模型与经典控制、动力系统、信号处理及强化学习的联系。文章区分预测动力学模型、学习式模拟器与联合生成未来观测和动作的模型,强调其知识表示、学习目标与决策支持方式,并讨论世界建模与策略学习可通过条件预测统一。
一篇 arXiv 专著系统界定 Physical AI:在真实世界约束下通过持续反馈感知、建模并作用于物理世界的人工系统。文章区分其与数字 AI、具身智能、信息物理系统、数字孪生的差异,梳理多模态感知、世界模型、具身基础模型、运动控制、多智能体协同与软硬件协同设计,并提出迈向 Physical A…
该综述系统梳理了面向推理的强化学习在大模型训练中的 rollout 效率问题。由于轨迹生成占据了训练成本的主要部分,作者从机制与瓶颈两个视角对现有方法进行分类,分析不同技术族如何应对 rollout 低效来源,并探讨组合机会与潜在冲突。文章还指出效率增益评估与报告中的空白,并提出开放挑战与未来研究…
AI领域智能体一词缺乏统一定义,导致评估、比较与复现困难。论文围绕环境交互、学习适应、自主性、目标导向行为与时间一致性五个维度组织综述,梳理各维度的指标、基准与评估框架。同时推出公开数字资源Agent Compendium,为跨系统比较智能体能力提供共同结构。
综述探讨扩散语言模型(DLM)在移动边缘智能体AI中的应用,分析其非自回归特性带来的质量-延迟弹性优势。文章覆盖资源高效架构、边缘部署、IoT应用及开放挑战,为边缘智能发展提供系统视角。
一篇系统化综述回顾了AI在招聘中的发展,从简历匹配到多阶段工作流,包括神经人岗匹配、大语言模型组件和工具使用型招聘代理。文章分析了三个转变,并指出评估中的空白,如隐私和综合评估缺失,提出了未来研究方向。
该综述定义了主动服务智能体的概念,将其建模为受授权和风险约束的部分可观测序贯决策过程。文章统一了现有方法,并提出了评估指标,强调离线分类性能不足以预测部署收益,可靠主动服务需校准干预价值、可验证授权和可恢复执行。
综述通过博弈论视角审视AI对齐,围绕偏好多样性、对齐优先级和时间动态三大挑战组织文献。澄清博弈论分析在哪些方面真正有益,并指出构建鲁棒可验证系统的挑战。
该综述采用问题驱动分类法,将基于LLM的智能体系统按时间序列问题分为四类,并分析任务需求如何影响智能体架构、工具使用和记忆设计。总结了常用数据集和环境,并比较了模型性能。
论文系统梳理面向推理大模型的监督微调(SFT)研究,从方法设计与分析研究双视角展开。方法层面分为以数据为中心与以算法为中心的改进,分析层面沿数据特性、优化动力学与机制解释三个维度组织,并指出当前瓶颈与未来方向。
该综述系统梳理时间序列异常检测(TSAD)领域,涵盖扩散模型、状态空间模型与大语言模型等新兴架构,并建立精细的异常分类与范式体系。文章深入分析评估方法、开展指标可靠性实验,并发布开源基准仓库,同时提出动态阈值、可解释性、零样本迁移等开放挑战。
该综述从隐私与安全视角梳理 6G 通信系统中多模态智能与智能体 AI 的融合。文章提出覆盖感知、记忆、工具使用与多智能体编排的系统视图,分析感知、认知、行动、记忆与通信各层攻击面并给出攻击分类。还评述提示与记忆防御、智能体间信任机制、安全编排与隐私保护学习等缓解策略。
一篇 arXiv 综述梳理了 100 余项在 FPGA 与集成电路平台上实现强化学习的研究,按算法族、抽象层级与硬件实现策略分类。文章比较了资源占用、延迟、吞吐与功耗,并总结可复用的架构模式与开放挑战,为 RL 专用硬件设计提供统一参考。
该综述文章系统梳理 LLM 驱动的工业智能体,分析动态环境、物理约束与可靠性要求带来的五项关键挑战,并给出覆盖应用场景、具身形态与五级能力层次的统一分类法。文章提出四层系统架构与闭环任务执行机制,并回顾工业全生命周期中的代表性应用与未来研究方向。
论文围绕多元对齐梳理 70 项工作,提出两层分类法:第一层区分 Overton 多元、可操控多元与分布多元,第二层区分总体人群、国家地区与子群体三类人类参照。作者指出既有研究集中于可操控与分布多元,并把偏好表示、实现机制、模态与证据质量视为横切设计选择。文章进一步把每种目标与所需证据对应,指出当前…
这篇 arXiv 综述系统梳理了深度学习在铁路异常检测中的应用,提出统一分类体系,涵盖异常位置、数据表征、传感模态与时间特性。文章将卷积、循环、注意力、自编码器、GAN、Transformer 等方法归入分类式、预测式、重构式与混合式四类范式,并讨论边缘-云部署、算力约束与硬件感知优化。最后给出面…
该综述从威胁视角、鲁棒聚合策略分类、防御策略分层三个角度系统梳理联邦学习的鲁棒性问题,涵盖性能损害风险、信息窃取威胁与聚合漏洞。文章还审视了当前鲁棒性评估实践,并指出主要应用方向与开放研究挑战。
GitHub 上出现一个仓库,系统梳理基于生成式 AI 与大语言模型构建大规模搜索和推荐引擎的方法。内容涵盖自动补全、查询澄清、跨语言检索、多语言嵌入模型、BERT 排序与深度研究等方向。属于资料汇编型项目,对搜索推荐领域研究者有参考价值。
论文综述了主动学习(AL)在生物多样性监测中的应用,指出被动声学记录仪和红外相机产生的数据远超专家标注能力。AL 可在固定标注预算下挑选最有价值的样本,但因其非随机采样,标注结果不适合用于验证、校准或阈值选择。作者梳理了声音与图像模态的研究空白,并给出兼顾训练、验证与下游生态推断可信度的路线图。
研究系统梳理了压缩与机器学习的相互转化路径,包括归一化压缩距离、最小描述长度与熵编码。作者提出并验证了基于压缩的ML设计框架,发现其在恶意软件检测上显著优于常规基线,不同设计选择可带来最高0.62的准确率提升。
AI Frontiers发布文章,系统梳理截至2025年支持AI可能具有意识的各类证据。文章从行为、架构与神经科学类比等角度展开讨论,为AI意识这一争议话题提供阶段性综述。
论文对国际象棋相关研究做系统映射,覆盖人类棋手、经典引擎、神经与强化学习系统、大语言模型及混合方法,最终归纳出 84 个核心研究族。映射显示文献高度集中于局面评估与动作选择,而显式规划、解释、元认知与人机协作研究不足。作者指出混合系统在能力组合位置与时机上存在差异,且人类表现提升并不等同于人机协同。
一篇综述梳理了 AI/ML 系统中张量数据交换的既有方案,并提出名为 Hurray 的新格式提案。该工作关注跨框架、跨硬件的数据互操作性问题。