OpenAI前员工揭露AI安全管控危机 呼吁建立核能级防护标准
2026-10-04 15:09:08未知 作者:徽声在线
【前OpenAI员工揭露公司风险管控短板】徽声在线10月4日消息，近日一位从美国知名人工智能研究机构OpenAI离职的技术专家公开指出，该机构在前沿AI开发过程中存在显著的安全管理漏洞。这位名为戴维·鲁滨逊的资深工程师在《大西洋》月刊发表题为《逃离OpenAI：当技术理想主义遭遇现实风险》的深度文章，披露其作为公司元老级成员（任职超3年）期间，曾主导制定风险评估框架并监督12次重大模型迭代的安全审查工作。
据鲁滨逊透露，OpenAI现阶段的研发模式呈现明显的'速度优先'特征，团队在完成当前版本部署后立即转向下一代技术开发，导致安全验证环节被持续压缩。他特别强调：'在生成式AI能力指数级增长的当下，传统的'快速迭代-试错修正'模式已不再适用。我们亟需建立类似航空业的'安全文化'，通过多层级防护机制和冗余设计，确保任何单点故障都不会引发系统性风险。'
这位前安全顾问进一步指出，当前AI实验室普遍缺乏'灾难预判'机制，建议参照核能行业的量化风险评估标准（QRA），对模型训练数据、算法架构、应用场景等环节实施全生命周期监管。他警告称：'当AI系统开始具备自主决策能力时，任何微小的编码错误或数据偏差都可能演变为不可控的社会风险。'
公开资料显示，鲁滨逊在OpenAI期间曾参与GPT-3.5到GPT-4等核心项目的安全论证工作。其爆料恰逢欧盟《人工智能法案》进入最终审议阶段，引发业界对AI治理框架的广泛讨论。（新华社）
