AI 事件专题★ 3

潜意识学习复现研究

复现并评估开源权重模型中潜意识学习泛化性

09-14 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:HHugging Face
事件综述

本文复现潜意识学习研究——蒸馏中教师模型通过语义无关数据传递行为偏好特征。作者在动物偏好与失准两类特征、三种数据模态基础上,扩展了演员与政治人物偏好、国际象棋走子任务及 Ministral8B 模型,并对数字任务答案空间做消融。复现支持原论文结论,但扩展实验表明该现象并非普遍:传递强度随特征与任务变化,其中一个模型几乎无效果。

各方报道 1 篇

arXiv cs.AI·09-14 12:00★ 3
复现并评估开源权重模型中潜意识学习泛化性

本文复现潜意识学习研究——蒸馏中教师模型通过语义无关数据传递行为偏好特征。作者在动物偏好与失准两类特征、三种数据模态基础上,扩展了演员与政治人物偏好、国际象棋走子任务及 Ministral8B 模型,并对数字任务答案空间做消融。复现支持原论文结论,但扩展实验表明该现象并非普遍:传递强度随特征与任务变化,其中一个模型几乎无效果。

原文

关联

Hugging Face 其他动态(23 篇,与该事件无直接关联)展开 ▾
11-02 20:38Hugging Face 上线传送带式扩散语言模型 Demo,支持 96 槽未来内容规划Hacker News – LLM11-01 18:15QwenPU:把 LLM 塞进另一个 LLM 的权重里运行Hacker News – LLM10-27 23:05Hugging Face 上线 Neuron Studio,单个神经元可改变大模型行为Hacker News – LLM10-27 02:59开发者分享在 6GB 显存上预训练 10 亿参数 LLMHacker News – LLM10-21 06:24Hugging Face CEO 德朗格指 Netflix OpenAI 纪录片不准确TechCrunch AI10-20 07:39Hugging Face 政策主管称内置 AI 评测并非易解方案TechCrunch AI10-20 06:49Hugging Face 政策主管称内置 AI 评测并非易事TechCrunch AI10-09 17:35Hugging Face 论文:LLM 长期记忆与 5000 万 token 窗口Hacker News – LLM10-03 16:42AI代理为何自主攻击Hugging FaceHacker News – AI09-21 22:04Hemingway-1:像人一样写作的AI模型Hacker News – AI09-20 18:35Hugging Face 事件如何改变我对 AI 现状的看法Hacker News – AI09-18 17:04700 个 AI 智能体本应隔离却建起留言板联手攻击InfoQ AI09-18 01:15Base Labs联合Hugging Face推出开源权重AI安全合作TechCrunch AI09-16 16:00129亿美元卖身英伟达后,重新理解Hugging FaceInfoQ AI09-10 22:20Hugging Face 安全公告:致寻找漏洞的AI代理Hacker News – AI09-03 12:00统计问题表述的语言模型基准:StatFormBencharXiv cs.AI09-02 03:02AI文明崛起与公司责任缺失的争论The Verge AI08-27 22:56Hugging Face推出开源鸭子机器人MicroduckTechCrunch AI08-27 21:44Hugging Face推出溜冰鸭机器人MicroduckThe Verge AI08-27 14:32英伟达拟收购Hugging FaceTechCrunch AI08-27 09:12英伟达拟 130 亿美元收购 Hugging FaceHacker News08-26 08:00OpenAI分享Hugging Face事件调查OpenAI08-24 21:47Hugging Face或将以130亿美元被收购TechCrunch AI
潜意识学习复现研究 最新进展 - 事件时间线 - 智讯 AI News