技术
LLM 可解释性
研究大语言模型内部如何计算与决策，使人类能理解其输出依据的技术方向。
详细解释
大模型是黑箱，可解释性旨在揭示其神经元、注意力与特征表示的含义。方法包括探针分析、稀疏自编码器、注意力可视化与因果干预等。它有助于发现偏见、幻觉与安全风险，支撑模型审计与对齐，是可信AI的关键研究领域，目前仍处早期。
别名与相关写法
llm 可解释性
研究大语言模型内部如何计算与决策，使人类能理解其输出依据的技术方向。
大模型是黑箱，可解释性旨在揭示其神经元、注意力与特征表示的含义。方法包括探针分析、稀疏自编码器、注意力可视化与因果干预等。它有助于发现偏见、幻觉与安全风险，支撑模型审计与对齐，是可信AI的关键研究领域，目前仍处早期。