Understanding the Mechanism of Altruism in Large Language Models
创建于 更新于
摘要
本论文提出并验证了一套基于稀疏自编码器（SAE）的机制化分析流水线：通过最小对比提示（generous vs. selfish）在 Dictator Game 中诱发显著行为差异，识别出一小部分与利他/自利偏好高度相关的 SAE 特征，并通过激活替换与连续 steering 进行因果性检验，证明这些特征可被操控以稳定地改变模型的社会偏好输出；同一 steering 向量在多种社会偏好博弈中具有跨任务泛化能力，为将行为评估与可解释性干预相结合提供可操作框架 [page::0][page::10]
