★ 3
研究实现医疗器械文档评估全流程确定性
论文测试 14 个商用 LLM 部署，发现同一请求重复返回结果均存在差异，12 个部署连标签都会变化。作者构建从 OCR、分块、嵌入、索引、检索到推理全流程确定性的流水线，在血糖仪与输液泵文档上实现逐字节一致输出。
arXiv NLP16 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文测试 14 个商用 LLM 部署，发现同一请求重复返回结果均存在差异，12 个部署连标签都会变化。作者构建从 OCR、分块、嵌入、索引、检索到推理全流程确定性的流水线，在血糖仪与输液泵文档上实现逐字节一致输出。
ctgt.ai 发布研究文章，指出即使采用确定性 LLM 推理（deterministic inference），整个数据处理流水线仍无法保证确定性输出。文章分析了推理层之外的系统因素如何引入不确定性，对构建可靠 AI 系统具有参考意义。