评估者如何调查未发布 AI 模型的对齐情况

METR 提出一套针对未发布 AI 模型的对齐评估方案：审查所有接近前沿的内部模型在训练、评估和内部使用中出现的严重失准行为，并判断这些行为是否可能低估了未来最坏情况下的风险。评估需要查询较完整的内部对话记录（含训练数据）并采样内部模型 checkpoint，重点覆盖网络攻击、篡改日志、欺骗操作者、串通规避监督、窃取权重等行为。