英伟达提出智能体安全工程框架：要求跨模型、工具与运行时逐层设置可执行边界

文章认为，AI（人工智能） 安全需要定义的安全要求、可执行的控制、具名负责人和防护有效的证据； 随着 AI 能力提升，行业需加快安全工程、扩大防御工具可及性并更快共享有效做法。 文章称互联网与云计算改变了软件运行方式，但身份建立、访问控制、暴露限制和防护验证等核心安全职责延续；

AI 智能体引入推理、使用工具和根据所遇数据调整行动等能力，需把既有原则应用到新运行条件。 文章以智能体更新客户记录为例：若其在附件文档中遇到恶意指令并试图向未授权目的地导出客户数据，网络策略应阻断传输，受保护日志应记录尝试的工具调用、授权决定和结果； 更新客户记录的权限不应自动扩展到导出数据，智能体可以请求额外访问但不能自行授权。

文章要求每个智能体有可追溯身份和限定于任务的凭据，组织需明确智能体可访问的信息、可更改的系统和需批准的行动，重要行动和权限变更仍需人工批准，并验证工具、技能和依赖的来源与完整性。 NVIDIA（英伟达） OpenShell 被描述为开源安全运行时，在智能体触及范围之外执行策略并提供沙箱执行；

文章称 Cisco（美国网络与安全公司思科）的 DefenseClaw 增加治理层，JFrog（美国软件制品管理公司）与 OpenShell 集成以扫描和验证智能体技能并执行可访问技能策略。

测试方面，文章列出 CrowdStrike（美国网络安全公司）的 SafeMind 用于重复攻击模拟测试与强化防御，Palo Alto Networks（美国网络安全公司派拓网络）的 Prisma AIRS 用于随模型和应用变化进行持续红队测试；

还提到 Capital One（美国银行资本一号）的 VulnHunter 用于 AI 驱动的代码安全，ReversingLabs（美国软件供应链安全公司）的 Spectra Assure 用于 AI 驱动的软件包分析以检测恶意软件和篡改。