★ 3
研究:表格基础模型是否仍需特征工程
研究对两大表格基础模型(TFM)家族的多个版本进行受控实验,测试多种特征工程技术在TabArena基准上的效果。发现特征工程收益集中在早期模型代际,对最强模型已可忽略;但补充相关数据集的上下文信息仍能提升性能,表明性能增益来源正从输入重表示转向任务相关上下文。
arXiv cs.LG48 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究对两大表格基础模型(TFM)家族的多个版本进行受控实验,测试多种特征工程技术在TabArena基准上的效果。发现特征工程收益集中在早期模型代际,对最强模型已可忽略;但补充相关数据集的上下文信息仍能提升性能,表明性能增益来源正从输入重表示转向任务相关上下文。
研究探索简单统计流程在单变量时间序列异常检测中的上限,发现候选特征池决定性能天花板,而选择策略影响有限。作者用多模态 LLM 结合领域内示例窗口生成特征池,与手工池互补,合并后达到排行榜最佳水平。
一篇技术文章提出,使用大语言模型进行分类任务时,其本质仍属于特征工程,而非真正意义上的推理或理解。该观点引发对LLM能力边界与工程实践的讨论,提示开发者应理性看待模型在结构化任务中的角色。