120 家公司想立个规矩：当他们的 AI 智能体闯入别处时，得告诉你

由 Linux 基金会托管、背后有英伟达、思科和 CrowdStrike 等支持者的 Open Secure AI Alliance 于 8 月 11 日发布了一份框架提案，名为 SAFE（共享人工智能发现交换），用于报告由 AI 智能体引发的安全事件。它涵盖智能体未经授权访问第三方系统、泄露机密信息，或在操作者已怀疑出问题后仍继续探测在线目标的情形，并且不仅涵盖实际损害，也涵盖险些酿祸的情况。成员需保留提示词、智能体轨迹、工具调用、身份、权限与凭据作为证据；尽快通知受影响的组织，并在 72 小时内通知有明确暴露的客户；四个工作日内提交保密报告，30 天内提交带有失效点分析的公开报告。该框架是自愿性的，且目前仅是一份文件：没有提交渠道，也没有实施时间表，只有一个收集反馈的 GitHub 仓库。

✓ 已核实 · 3个来源

相关新闻