永信至诚AI测评“数字风洞”平台上线应用与数据安全“DNA验证”功能
2024年06月25日 10:54
来源: 中国证券报·中证网
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈


K图 688244_0

  6月24日,永信至诚发布AI大模型领域全新研究成果,旗下的AI测评“数字风洞”平台上线应用与数据安全“DNA验证”模块。

  据了解,该平台凭借智能永信团队提出的基于生成数据提取应激反馈特征的“DNA验证”创新测试方法,实现了针对不同大模型之间的“同源性”验证,能够有效助力开发团队保护和验证自身大模型的技术原创性与知识产权合规性,帮助开发团队、建设和监管单位快速发现安全隐患,助力大模型安全建设、监管与风险处置。

  通过对生成应激数据的观测比对,AI测评“数字风洞”平台能够提取开源基座大模型的“应激反馈特征”,形成测试载荷对大模型展开安全检测,验证不同大模型之间是否存在同源性,通过识别大模型之间的数据关联关系,来发现从亲缘关系中继承来的安全风险。这一创新研究,填补了当前大模型产业内在大模型相似性、亲缘性关系验证能力方面的空白。

  永信至诚表示,接下来将基于对各大开源基座大模型的测评数据,以及全新上线的应用与数据安全“DNA验证”模块,识别不同开源大模型的“应激反馈特征”,积累沉淀出开源大模型“过敏源特征库”,将所有异常敏感数据打造为测试载荷,更高效地实现对业界大模型产品安全策略的检测。利用观测数据绘制大模型领域的“血缘关系”图谱,帮助各大AI创业团队、建设和监管单位,评估模型的稳健性和安全性,共同推动AI大模型生态的健康发展。

(文章来源:中国证券报·中证网)

文章来源:中国证券报·中证网 责任编辑:33
原标题:永信至诚AI测评“数字风洞”平台上线应用与数据安全“DNA验证”功能
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500