OpenAI暂停大规模前沿强化学习训练，强化安全监控措施

据最新消息，在当地时间8月18日，OpenAI的联合创始人之一格雷格·布罗克曼对外透露，公司近期做出了一个重要决策，即暂时放缓前沿模型的训练进程。这一决定具体包括暂停规模最大的、原本计划中的前沿强化学习训练项目，目的是为了进一步强化安全监控机制。OpenAI方面表示，公司已经决定暂停最新部署模型的强化学习训练工作，为期两周。在这段时间里，公司将集中精力强化研究环境，并扩大监控的覆盖范围，以确保训练过程的安全性和可控性。目前，规模最大的前沿强化学习训练项目仍然处于暂停状态。OpenAI强调，在重启大规模训练之前，公司将先通过较小规模的训练和评估来验证相关安全措施的有效性，并进一步收集模型行为与预期保持一致的证据，从而确保训练的顺利进行和模型的安全性。