★ 3
AutoData:用智能体搜索预训练数据选择算法
研究将预训练数据选择视为对可执行选择算法的智能体搜索,提出AutoData,在评分、分层与随机选择规则构成的程序空间中迭代优化。仅用小型代理模型搜索一夜,即发现优于人工设计数据筛选流程的算法,并能迁移到更大规模、提升下游CORE指标。该工作把数据工程纳入智能体自动机器学习范畴。
arXiv cs.AI45 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究将预训练数据选择视为对可执行选择算法的智能体搜索,提出AutoData,在评分、分层与随机选择规则构成的程序空间中迭代优化。仅用小型代理模型搜索一夜,即发现优于人工设计数据筛选流程的算法,并能迁移到更大规模、提升下游CORE指标。该工作把数据工程纳入智能体自动机器学习范畴。
论文提出基于强化学习的“四度学习”方法,让系统自动挑选合适的分类算法,用于预测原发性胆汁性肝硬化等疾病。作者称该方法将所用分类算法的准确率从 63% 提升至 98%,核心创新在于用评分式强化学习自动增强学习过程。