当地时间28日，英伟达发布名为“Open Agent Safety Platform”的AI安全平台。该系统由OpenShell开源软件和Sentry参考系统设计组成，能为AI智能体设定更安全的运行边界。英伟达表示，该平台本可以阻止今年7月OpenAI模型攻击抱抱脸。
OpenShell可以在智能体运行时提供安全边界，AI代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令，就会被拒绝、记录，甚至被隔离。该软件既可部署在英伟达硬件上，也可拓展至安谋、英特尔等第三方平台。Sentry运行于英伟达硬件上，独立于智能体的软件运行环境，持续监控智能体行为，AI代理如果试图越界，能以毫秒级的速度隔离异常代理。
英伟达AI副总裁贾斯汀·博伊塔诺表示，仅靠模型层面的保障措施无法管控智能体可访问资源与执行动作，近期多起智能体失控事件更是凸显这一点。分析认为，英伟达正尝试将AI安全能力进一步嵌入AI基础设施，通过权限控制和异常隔离降低自主代理的安全风险。这也意味着，英伟达的业务触角正从AI芯片进一步延伸至软件及安全基础设施领域。
（文章来源：央视财经）
