★ 2
基于均匀信息密度的偏好优化算法 UIDPO
研究借鉴心理语言学中的均匀信息密度理论,提出偏好优化算法 UIDPO,通过结合全局标准差与局部二阶差分的复合指标将信息均匀性融入优化目标。在 AlpacaEval2、ArenaHard、MT-Bench 上取得与 SimPO 相当甚至更优的表现。
arXiv NLP19 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究借鉴心理语言学中的均匀信息密度理论,提出偏好优化算法 UIDPO,通过结合全局标准差与局部二阶差分的复合指标将信息均匀性融入优化目标。在 AlpacaEval2、ArenaHard、MT-Bench 上取得与 SimPO 相当甚至更优的表现。