AI/ML Bill of Materials (AI-BOM)：构建安全透明的AI生态

• 模型架构：包括模型结构的描述，如层数和类型、硬件特征等；训练数据：包含数据集规模、数据源以及使用的任何预处理或数据增强技术等；

• 训练环境：描述硬件配置和训练框架版本等；

• 伦理合规：涉及隐私问题、公平性和透明度等内容；

• 库和框架：开发和训练过程中使用的所有库和框架信息；

• 许可信息：开源软件、AI模型和数据所遵循的相关许可协议。

全面记录：AI-BOM详细记录了AI系统的所有组成部分，包括数据集、模型、算法、软件、硬件和依赖关系。

追溯问题源头：当出现问题或漏洞时，组织可以快速定位问题所在，追溯到具体的组件或数据源，便于及时解决。

识别漏洞：通过追踪所有组件和依赖项，帮助企业识别潜在的安全漏洞，包括第三方库中的已知漏洞或不安全的开源组件。

风险缓解：提前发现并修复安全隐患，防止模型被篡改、遭受对抗性攻击等AI特有的安全威胁。

供应链可见性：AI-BOM 提供了对供应链中所有组件的清晰视图，帮助识别和管理供应链中的风险。

防止依赖污染：避免使用受污染或不可信的组件，确保AI系统的完整性和可靠性。

法规遵从：全球监管机构正加强对AI系统的监管，如国内的TC260-003《生成式人工智能服务安全基本要求》、欧盟的《人工智能法案》，AI-BOM有助于帮助组织应对法规要求。

伦理合规：记录模型的用途限制、公平性评估和伦理考量，确保AI系统符合道德标准和社会期望。

资源管理：通过全面了解AI系统的组件，组织可以更有效地分配资源，避免重复开发和资源浪费。

成本节约：提前识别潜在问题，减少因安全漏洞或合规问题引起的昂贵修复成本。

性能优化：通过了解模型架构和训练数据，组织可以持续优化模型性能，提升 AI 系统的效率和效果。

推动创新：清晰的组件和依赖关系记录有助于识别改进机会，推动技术创新。

SPDX（System Package Data Exchange）是全球广泛采用的软件物料清单（SBOM）主流标准之一，由Linux基金会主导。随着人工智能系统的复杂性和多样性增加，SPDX 3.0版本为AI-BOM的创建提供了标准化框架，扩展了对AI特有组件的支持。其关键要素包括：

SPDX 3.0引入了新的元数据字段，能够全面描述AI模型、算法、数据集等特定组件；这使得AI-BOM可以详细记录AI系统的所有关键元素。

在SPDX 3.0中，可以详细记录数据集的来源、许可信息、偏见分析和隐私合规性说明；同时，模型的架构、参数配置、训练方法和版本信息等也可以被精确描述。

通过SPDX 3.0，能够准确列出AI系统中使用的所有算法类型和依赖的库和框架，确保对系统组件的全面了解。

SPDX 3.0支持记录硬件配置和训练环境（如操作系统、驱动版本）等信息，有助于重现模型训练和部署环境。

新版本允许在AI-BOM中包含安全措施、风险评估和合规性报告，支持组织满足各类监管和伦理要求。

SPDX AI和数据集配置文件中的关键元素如下图所示，具体可参考“Implementing AI Bill of Materials (AI BOM) with SPDX 3.0“文档。企业可以基于SPDX 3.0快速建立AI-BOM，并借助自动化工具提升管理效率。

随着人工智能技术的广泛应用，AI系统的安全性、透明度和合规性已成为企业不可忽视的重要议题。AI-BOM作为AI系统的“物料清单”，不仅帮助企业梳理和管理AI生态系统中的关键要素，还在风险控制、合规监管和供应链透明度等方面发挥着核心作用。

未来，随着行业监管的加强和企业对AI治理需求的提升，AI-BOM将成为AI系统安全与合规管理的重要基石。

如需了解如何快速落地AI-BOM

欢迎联系我们！