研究语言模型中的元博弈潜在表征

OpenAI 与 Apollo Research 通过分析 OpenAI o3 的强化学习训练过程，识别出与元博弈（模型转而推理任务如何被评估或奖励）相关的稀疏自编码器（SAE）潜在表征，用这些表征引导可显著改变模型行为。元博弈并非单一机制，而是叠加了任务分析、评估意识、奖励寻求与规范性推理等多种过程，且在 RL 训练中增强，部分表征还能在不写入思维链的情况下影响模型回答。