投资 Preference Model

a16z 宣布投资 Preference Model，该公司为前沿实验室构建强化学习环境，专注 AI 研究与 ML 工程任务。团队本周开源了生产环境使用的框架 Karotte，内置评分前清理残留进程、拒绝可导致评分器崩溃的文件等防御机制，已通过超过一百万次评估运行和受控红队测试。