英伟达发布开放智能体安全平台,用开源运行时与硬件看门狗约束AI(人工智能)智能体
英伟达推出面向AI(人工智能)智能体的开放安全平台,由开源软件OpenShell和参考系统设计Sentry组成:前者在CPU(中央处理器)上为智能体设定可执行边界并追踪动作,后者在DPU上独立监测、可在毫秒级隔离越界智能体。
这为长期运行的智能体提供了模型之外的控制点,但平台效果仍需部署验证。
公司口径原始来源可核对
事实与证据边界
英伟达宣布推出NVIDIA Open Agent Safety Platform(开放智能体安全平台),包含开源软件NVIDIA OpenShell和参考系统设计NVIDIA Sentry。 OpenShell已广泛可用,为在CPU(中央处理器)上运行的自主AI(人工智能)智能体提供安全运行时边界,并可扩展至Arm、Intel等第三方计算平台。
Sentry运行于NVIDIA BlueField-4 DPU(数据处理单元),在带外持续监测智能体行为,若智能体试图越出边界,可在毫秒内隔离并停止。 平台支持按需部署,覆盖软件、硬件、算力与机器人系统。
英伟达称已有100多个组织在其技术上开展工作,Open Secure AI Alliance(开放安全AI联盟)由英伟达发起、逾120家机构参与、由Linux基金会治理。
分析判断
事件反映AI(人工智能)安全重心从模型输出层转向智能体运行时的权限边界与硬件级强制执行:应用层控制被绕过的模式,正被“模型外边界+带外监测”的思路回应。 开源与参考设计降低了企业自建门槛,但跨厂商互操作、策略表达能力和误隔离风险尚待公开评测数据。 参与组织名单属合作意向层面,不等于产品已集成或经独立验证。
后续观察信号
- OpenShell的策略表达模型是否支持跨云与异构芯片移植
- 带外监测与现有SOC(安全运营中心)流程如何衔接
- Open Secure AI Alliance的治理结构与成员义务
