★ 2
AI生成数据异常下的数据集临界性
研究探讨未来LLM训练数据中大量包含AI生成内容的影响,将AI生成数据视为与主数据点关联的异常,分析随机数据集的分解与欠采样特性。通过冗余图与迭代技术,证明强相异分解最小规模存在相变现象:异常数量低于阈值时由主数据决定,超过阈值后由异常主导。
arXiv cs.LG48 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究探讨未来LLM训练数据中大量包含AI生成内容的影响,将AI生成数据视为与主数据点关联的异常,分析随机数据集的分解与欠采样特性。通过冗余图与迭代技术,证明强相异分解最小规模存在相变现象:异常数量低于阈值时由主数据决定,超过阈值后由异常主导。