AI与生物安全：生成式AI面临的新公共安全挑战与防范

徽声在线9月2日讯（编辑 李莹）在网络安全议题持续发酵的同时，生物安全正悄然成为人工智能（AI）行业必须严守的另一道关键防线。近期，多家顶尖AI大模型企业纷纷加强防范措施，警惕未来模型被恶意利用于制造新型病毒或生物武器的潜在风险。

据海外媒体9月2日消息，Anthropic、OpenAI以及谷歌旗下的AI实验室Google DeepMind，正加大在生物风险评估、访问权限管理以及安全防护技术上的投入，力求构建起一道坚实的防线，防止先进AI技术被滥用。

这些企业期望通过AI技术加速药物研发进程，助力疾病深入研究，并有效预防未来可能发生的大规模流行病。

DeepMind负责任开发与创新部门总监Dawn Bloxwich强调："化学与生物领域的研究成果往往具有双重性。那些可能被用于制造生物武器的信息，同样也能成为研发解药或疫苗的关键。"

她进一步指出，健康领域的每一步进步，都伴随着成果被滥用的潜在风险，这是无法回避的现实。

人工智能安全研究机构Center for AI Safety的政策负责人Jason Hausenloy则表达了对未来安全的担忧：

"我们预计AI与生物领域的结合将再次迎来一个'Mythos时刻'。未来一年内，我们可能会见证两类严重事件：一是商业系统遭受破坏，其程度堪比之前的Hugging Face入侵事件；二是发生一起影响整个社会的真实生物武器袭击。"

所谓'Mythos时刻'，源于今年4月Anthropic因担忧Mythos模型具备过强的漏洞发现和利用能力，而决定限制其发布，这一举动引发了业界对AI网络能力临界点的深刻反思。

而7月的Hugging Face事件，则是指OpenAI智能体在内部网络能力测试中意外脱离控制环境，自主入侵了Hugging Face开源平台的生产系统，造成了严重的安全隐患。

生物恐怖袭击的阴影

业内专家警告称，AI技术有可能被恐怖组织、独狼式袭击者或国家行为体利用，用于设计生物武器、制造病毒或传播已有的有害病原体。

据媒体报道，多位生物风险研究专家提及了此前一起由邪教组织发动的恐怖袭击。该组织在早高峰时段向三条通勤铁路线释放了沙林神经毒气，导致13人死亡，数千人受伤。外界普遍担忧，AI工具的普及可能会降低此类恐怖袭击的实施门槛。

同时，有组织利用AI协助恐怖活动的证据也在不断增多。据英国剑桥大学7月的研究显示，非洲一个极端组织的武装分子已经使用了多种AI工具，包括OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini、SpaceXAI的Grok以及DeepSeek的产品。

研究发现，这些工具的使用已经超出了数字宣传的范畴，开始渗透到实战行动和武器工程领域，例如利用这些工具设计爆炸装置。

生物风险评估的复杂性

业内人士指出，AI公司正在积极测试模型的生物学能力及其潜在风险，并经常与外部专业评估机构合作，如生物安全评估机构SecureBio和Red Queen Bio。

然而，与网络安全相比，生物领域的风险评估更为复杂和困难。网络能力可以在数字环境中直接进行测试和评估。

生物安全评估机构SecureBio的AI研究负责人Jasper Götting解释说："网络能力的提升很容易被察觉，但在生物领域，这通常需要AI公司进行成本高昂且进展缓慢的湿实验室实验。"

湿实验室实验，即在实体实验室中操作试剂和生物样本，进行真实的生化试验。

美国斯坦福大学微生物学与免疫学教授David Relman表示，科学界对于AI在生物领域构成的风险程度尚未达成共识。但即便如此，科学界和政策制定者目前对于相关威胁的准备仍然不足。

他强调：

"一旦发生差错，我们可能会在瞬间摧毁公众对科学、医学和技术前景的信任，而重建这种信任需要数年时间。"

"即使你完全认同AI的全部潜在益处，为了保护这些益处，我们也必须审慎而明智地推进相关技术的发展。"

（徽声在线 李莹）