★ 2
HN 讨论:大模型的内部语言
一位 Hacker News 用户提出,大模型在预测下一个 token 前会将英语翻译成一种内部向量语言,类似「king」对应 [monarch, man] 的向量表示。发帖者设想若能学习这种内部语言,或可更直接地与机器沟通并消除语言歧义,询问是否有人在做相关研究。
Hacker News – AI23 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
一位 Hacker News 用户提出,大模型在预测下一个 token 前会将英语翻译成一种内部向量语言,类似「king」对应 [monarch, man] 的向量表示。发帖者设想若能学习这种内部语言,或可更直接地与机器沟通并消除语言歧义,询问是否有人在做相关研究。