★ 2
arXiv:语言模型在输出前已结构化掌握官能团知识
研究读取 5 个开源模型在 92 个分子、20 类官能团提示下的内部表征,发现即便未经化学训练,模型也按化学族组织官能团并以一致方向编码化学差异,该结构在中间层突然涌现。基础模型仅 58.5% 提示答对,但错误多为「答不出」而非「答错」,说明仅凭输出评估会低估模型编码的化学信息。
arXiv cs.AI14 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究读取 5 个开源模型在 92 个分子、20 类官能团提示下的内部表征,发现即便未经化学训练,模型也按化学族组织官能团并以一致方向编码化学差异,该结构在中间层突然涌现。基础模型仅 58.5% 提示答对,但错误多为「答不出」而非「答错」,说明仅凭输出评估会低估模型编码的化学信息。