Redwood Research· Alex Mallen·原文发布· 13 天前AI 评分24
能力研究同样在拓展安全-有用性帕累托前沿
Capabilities research expands the safety-usefulness Pareto frontier too
AI 导读
Redwood Research 的文章指出，把安全研究定义为"在不显著增加成本或不降低有用性的前提下让 AI 部署更安全"会出问题：按此定义，几乎所有能力研究都算安全研究，例如推理性能优化让更弱更安全的模型被更广泛使用，同样拓展了帕累托前沿。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 Redwood Research · blog.redwoodresearch.org