2023年11月26日 ，美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》，旨在实现保护人工智能模型不被恶意篡改，并敦促人工智能公司在开发或使用人工智能模型时更加关注“设计安全”。

美国网络安全和基础设施安全局（CISA）作为主要参与方之一，表示世界正在经历AI技术快速发展的拐点，而AI技术很可能是当今最具影响力的技术。然而，确保网络安全是建立安全、可靠和值得信赖AI系统的关键。为此，我们联合了多个国家的网络安全监管部门，并与谷歌、亚马逊、OpenAI和微软等公司的技术专家合作，共同编写并发布了这份准则，旨在提高AI技术应用的安全性

据了解，这份准则是全球第一份由官方机构发布的针对AI系统开发安全的指导文件。准则明确要求AI企业必须优先考虑为客户确保安全结果，积极倡导AI应用的透明度和问责机制，并以保障安全设计为首要任务来构建组织的管理结构。准则旨在提高AI的网络安全性，有助于确保安全地设计、开发和部署AI技术。

除此之外，根据美国政府一直以来在网络安全风险管理方面的经验，准则要求所有AI研发公司在公开发布新的AI工具之前必须进行充分的测试，确保已经采取了安全措施以尽量减少社会危害（如偏见和歧视）和隐私问题。准则还要求AI研发公司承诺，通过漏洞悬赏系统，方便第三方发现和报告其AI系统中的漏洞，以便快速发现和修复漏洞

具体而言，此次发布的准则为AI系统安全开发提出了4大方面的监管要求：

1、要优先考虑“设计安全”和“默认安全”

AI开发公司在准则中多次强调了“设计安全”和“默认安全”原则。这意味着他们应该积极采取措施，保护AI产品不受攻击。为了遵守准则，AI开发人员应该在决策过程中优先考虑安全性，而不仅仅是关注产品功能和性能。准则还建议产品提供最安全的默认应用选项，并向用户清楚传达替代该默认配置的风险。此外，根据准则要求，AI系统的开发人员应该为下游的应用结果负责，而不是依赖客户来控制安全

要求摘录：“用户（无论是‘最终用户’还是整合外部AI组件的提供商）通常缺乏足够的可见性及专业知识来充分了解、评估或解决与他们正在使用的AI系统相关的风险。因此，根据‘设计安全’原则，AI组件的提供商应该对供应链下游用户的安全后果负责。”

2、密切关注复杂的供应链安全

AI工具开发人员在设计自己的产品时常依赖第三方组件，比如基础模型、训练数据集和API。庞大的供应商网络会给AI系统带来更大的攻击面，其中任何一个薄弱环节都可能会对产品的安全性产生负面影响。因此，准则要求开发人员在决定引用第三方组件时，需要充分评估其中的安全风险。在与第三方合作时，开发人员应该审查和监控供应商的安全状况，要求供应商遵守与自己组织相同的安全标准，并对导入的第三方代码实施扫描和隔离。

要求摘录：“如果第三方组件未达到安全标准，开发者要为关键任务系统准备好切换到替代解决方案。企业可以使用NCSC的《供应链指南》等资源，以及软件工件供应链级别（SLSA）等资源，用于跟踪供应链和软件开发生命周期的认证。”

3、考虑AI应用中面临的独特风险

AI系统应用时会产生一些特有的威胁（如提示注入攻击和数据中毒），因此开发者需要充分考虑AI系统独特的安全因素。AI系统“设计安全”方法的一个重要组成部分就是为AI模型输出设置安全护栏，以防止敏感数据泄露，并限制用于文件编辑等任务的AI组件的操作。开发人员应该将AI特有的威胁场景纳入发布前的测试中，并监控用户输入以判断是否存在恶意利用系统的企图。

要求摘录：“‘对抗性机器学习’（AML）一词用于描述利用机器学习组件（包括硬件、软件、工作流和供应链）中的安全漏洞。AML使攻击者能够在机器学习系统中引发意想不到的行为，包括：影响模型的分类或回归性能、允许用户执行未经授权的操作以及提取敏感的模型信息。”

4、AI系统安全开发应该具有持续性和协作性

准则概述了AI系统设计、开发、部署、操作及维护等全生命周期阶段的最佳安全实践，并强调了持续监控已部署AI系统的重要性，以便发现模型行为变化和可疑用户输入。"设计安全"原则是任何软件更新的关键组成部分，准则建议开发者默认情况下自动更新。最后，建议开发人员利用庞大的AI社区反馈和信息共享，不断改进系统的安全性

要求摘录：“需要时，AI系统开发者可以将遇到的安全问题上报到更庞大的社区，比如发布响应漏洞披露的公告，包括详细而完整的常见漏洞枚举。当发现安全问题时，开发者要采取行动，迅速而适当地缓解和修复问题。”

参考链接：

需要重新写作的内容如下：2023年11月，美国、英国及全球合作伙伴发布了一份声明

全球人工智能安全指南的4个关键要点