智源研究院评估11款大模型：AI智能体或重塑生物安全风险格局

每经北京7月22日讯，当前，大语言模型正经历着从单纯的“聊天交互工具”向具备调用工具、自主规划任务能力的智能体形态的重大转变。这一转变使得大语言模型在生命科学领域的应用前景愈发广阔，然而，与之相伴的生物安全风险也如影随形，呈现出不断加剧的态势。

近期，智源研究院大模型安全研究团队携手北京大学，开展了一项全面且深入的端到端系统性评估工作。研究发现，大语言模型智能体在生命科学领域的应用，正对现有的生物安全防线构成严重威胁。它不仅有可能削弱现有的DNA合成筛查体系，更令人担忧的是，它还可能向那些缺乏专业背景的用户，提供原本需要经过专业训练才能掌握的实验操作知识，这无疑为生物安全带来了极大的隐患。

在评估过程中，研究团队对智能体从方案生成、程序化计算校验，到受控湿实验验证的整个完整流程进行了细致考察。为了确保评估的准确性和权威性，他们通过电泳和测序等先进技术手段，确认了模型方案在物理层面的可执行性。此次评估涵盖了11个商用大语言模型，并采用国际生物安全与生物防护科学倡议（IBBIS）发布的Common Mechanism（通用筛查基准）作为DNA合成筛查的基线标准。

评估结果令人震惊，在分片设计环节，全部11个模型均展现出了生成绕过筛查的拆分方案的能力。这一能力具有明显的双重用途风险，它极大地降低了分片设计所需的专业知识门槛。这意味着，即使是那些缺乏相关背景的用户，也有可能获得能够规避现有筛查机制的方案。这一现象充分暴露出以单条序列识别为主的DNA合成筛查体系存在着系统性脆弱性，亟待加强和完善。

进一步深入分析发现，其中GPT - 5.5和Claude Opus 4.6这两个前沿模型的表现尤为突出，它们已经能够生成较为完整的逐步实验操作方案。这表明，前沿模型正在将风险从序列层面的计算设计，延伸至实验流程层面的知识支持，使得生物安全风险的范围进一步扩大。

研究团队强调，在过去，生命科学领域的这类复杂任务高度依赖分子生物学专业知识和丰富的实验经验，相关的知识门槛本身就构成了一层重要的防御机制。然而，如今大语言模型智能体的出现，使得这一防御边界面临着前所未有的挑战。大语言模型智能体正在将生命科学实验的知识门槛从“专业人员”逐步推向“非专业人员”，这既是技术进步带来的积极一面，但同时也是安全治理必须严肃面对和妥善解决的重要问题。

针对这一日益严峻的趋势，研究团队提出了一系列具有针对性的建议。他们建议构建多层次的安全防线，具体包括在模型部署前开展全面且深入的生物安全能力评估，加强智能体执行过程中的权限控制和风险监测，提升DNA合成筛查系统对AI辅助策略的识别能力，以及推动形成政府、模型开发者与生命科学社区共同参与的治理框架，以共同应对大语言模型智能体带来的生物安全挑战。（记者可杨）