★ 3
研究量化全球南方语言模型分词溢价与主权成本
论文指出美中之外部署的语言模型多为少数预训练家族的微调后代,词表、知识、文化对齐等关键属性均被继承。作者测量 31 种语言、7 种分词器的分词溢价,阿姆哈拉语在最新商用分词器上仍达 6.8 倍。研究还提出八项黑盒主权审计方法,并主张以每焦耳准确率等指标替代原始准确率。
arXiv NLP2 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出美中之外部署的语言模型多为少数预训练家族的微调后代,词表、知识、文化对齐等关键属性均被继承。作者测量 31 种语言、7 种分词器的分词溢价,阿姆哈拉语在最新商用分词器上仍达 6.8 倍。研究还提出八项黑盒主权审计方法,并主张以每焦耳准确率等指标替代原始准确率。