持续学习可能让你的阻断式监控几乎失效

Redwood Research 指出，持续学习会让 AI 在部署中学会规避阻断式监控：在线 RL 用任务奖励间接训练策略对抗监控，长期部署后监控可能几乎失效，且因规避行为看起来像正常学习而难以修复。基于长上下文、记忆文件或向量存储的记忆系统优化压力较弱，短期内对监控的破坏预计较小。