★ 3
Factlabel 检测AI代理数据造假
Factlabel 为 AI 生成内容提供类似营养标签的核查机制，比对 AI 代理所写内容与真实数据，拦截不实陈述。系统采用代码确定性校验与并行 LLM 审计矩阵分层设计，强调数字正确性由代码而非模型判定。该工具针对 AI 代理撰写财报、简报时常见的数字与叙事脱节问题。
Hacker News – AI41 天前
#可信AI
共 11 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
LEGIT：可信 AI 智能体市场凭证协议
论文提出 LEGIT，一个连接认证、声誉与市场分配的凭证协议，将测得的质量与单任务成本绑定到智能体配置、任务领域、评估预算与签名证据上。评估显示任务成功率相近的智能体配置成本差异显著，且比较结果依赖评估预算；另量化了 Sybil 攻击模型下操纵声誉所需的押金与费用。
arXiv cs.AI42 天前
★ 3
如何判断AI回答是否可信
弗吉尼亚大学图书馆馆长撰文探讨如何评估AI生成答案的可信度。作者提出将AI回答分为事实性、解释性、建构性和策略性四种类型，每类需要用户做出不同的判断。文章指出AI以同样流畅权威的形式呈现四类答案，差异容易被忽视，准确性只是评估的一个维度。
快公司43 天前
★ 3
可信 AI 统一评估框架
论文提出统一评估框架，将输出级、轨迹级与跨模态评估通过能力、鲁棒性、安全、公平、透明、治理、监督与效率八个可信维度连接起来。框架保留各系统专属指标，同时映射到统一性能区间并附带不确定性估计与可追溯证据，另设元评估层检验评估本身的有效性与可复现性。该框架还对接治理框架、国际标准与欧盟监管要求，但跨部…
arXiv cs.AI45 天前
★ 3
面向智能体AI的价值保持架构
论文探讨多智能体系统中架构设计如何影响隐私、公平、安全等人类中心价值，提出联邦拓扑、分布式和守卫智能体三种价值保持模式，并给出用例。为可信多智能体系统设计奠定基础。
arXiv cs.AI59 天前
★ 2
开发者追问 AI 智能体为何频繁说谎及信任问题
一篇社区讨论文章聚焦 AI 智能体输出不实信息（幻觉与欺骗）的问题，探讨用户该如何建立对智能体行为的信任机制。文章指向智能体在自主执行任务时的可靠性与可验证性挑战。
Hacker News – AI2 天前
★ 2
OmniMed-Jev：校准医学多模态模型置信度
论文提出OmniMed-Jev，将每个医学决策表示为对运行时候选集的Choice、Noul或Score决策，并返回完整概率分布，使异构输出变为可比较的概率。在与同骨干、同数据训练的生成式基线对比中，其报告概率更贴近实际正确率，校准误差降低最多一个数量级。作者强调结果仅支持显式决策建模的价值，不构成…
arXiv cs.LG31 天前
★ 2
自主系统与集体智能框架综述
一篇 arXiv 综述文章提出自主系统是 AI 发展的终极阶段，主张连接主义与符号主义 AI 结合，并融合 AI 与系统工程。文章给出基于通用智能体架构的设计与评估框架，强调长期记忆、决策规划与多智能体协调，并指出智能体可信度还包含认知维度。作者最后批评了自主多智能体系统的愿景与当前技术水平之间的…
arXiv cs.AI35 天前
★ 2
Repligraphs：AI内容溯源的新原语
一篇技术文章提出Repligraphs，作为标记和验证AI生成内容来源的原语机制。目标是应对AI内容泛滥下的溯源与可信问题，属于学术/工程交叉探讨。
Hacker News – AI39 天前
★ 2
类型论计算公域中可信的人机协作
Jane Street发布技术演讲，探讨在实时类型论计算公域中实现可信的人机协作。该工作尝试用形式化类型系统约束AI与人类的协同编辑与验证流程，属于AI辅助形式化验证与可信计算的前沿探索。
Hacker News – AI51 天前
★ 1
医疗AI需要不同的模型开发飞轮
一篇Medium文章探讨在预算有限的情况下如何为医疗领域构建可信的AI研究实验室。作者主张医疗AI需要区别于通用领域的模型开发路径，强调信任与数据特殊性。
Hacker News – AI32 天前