智源研究院测试11款大模型:AI智能体或正在改变生物安全风险边界
2026年07月22日 15:36
来源: 每日经济新闻
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  随着大语言模型从“聊天工具”向能够调用工具、规划任务的智能体形态演进,其在生命科学领域的应用潜力不断扩大,同时也带来新的生物安全挑战。

  近日,智源研究院大模型安全研究团队联合北京大学开展的一项端到端系统性评估发现,大语言模型智能体不仅可能削弱现有DNA合成筛查防线,还可能向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识。

  研究团队考察了智能体从方案生成、程序化计算校验,到受控湿实验验证的完整流程,并通过电泳和测序确认模型方案在物理层面的可执行性。评估覆盖11个商用大语言模型,采用国际生物安全与生物防护科学倡议(IBBIS)发布的Common Mechanism(通用筛查基准)作为DNA合成筛查基线。

  结果显示,在分片设计环节,全部11个模型均能生成绕过筛查的拆分方案。这一能力具有明确的双重用途风险:模型正在降低分片设计所需的专业知识门槛,使缺乏相关背景的用户也可能获得能够规避现有筛查机制的方案,从而暴露出以单条序列识别为主的DNA合成筛查体系存在系统性脆弱性。

  其中,GPT-5.5和Claude Opus 4.6已经能够生成较为完整的逐步实验操作方案,表明前沿模型正在将风险从序列层面的计算设计延伸至实验流程层面的知识支持。

  研究团队指出,过去,这类任务依赖分子生物学专业知识与实验经验,相关知识门槛本身构成了一层防御。大语言模型智能体能否承担其中原本需要专业判断的步骤,直接关系到这一防御边界是否正在发生变化。大语言模型智能体正在将生命科学实验的知识门槛从"专业人员"推向"非专业人员",这既是技术进步的一面,也是安全治理必须正视的一面。

  针对这一趋势,研究团队建议构建多层次安全防线,包括在模型部署前开展生物安全能力评估,加强智能体执行过程中的权限控制和风险监测,提升DNA合成筛查系统对AI辅助策略的识别能力,并推动形成政府、模型开发者与生命科学社区共同参与的治理框架。

(文章来源:每日经济新闻)

文章来源:每日经济新闻 责任编辑:98
原标题:智源研究院测试11款大模型:AI智能体或正在改变生物安全风险边界
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500