发表时间：2025.09.02     作者：管铭     来源：模安局     阅读：17

美国人工智能风险管理框架（AIRMF）指标解释

原标题：美国人工智能风险管理框架-可信AI七大特征与四大支柱（NIST,2023)

作者：管铭

美国国家标准与技术研究院（NIST）于2023年发布AI风险管理框架1.0（下称“AIRMF 1.0”），作为指导组织识别和管理AI风险的自愿性框架。

AIRMF提出了“地图-测评-管理-治理”四大职能支柱，用于构建可信AI。框架强调一系列信任特征，包括有效性、可靠性、安全性、抗干扰性、可问责与透明性、可解释性、隐私增强、公平性等，以帮助企业平衡创新与风险。

近日，美国国家标准与技术研究院（NIST）已向卡内基梅隆大学（CMU）拨款600万美元，用于建立一个联合中心，支持合作研究和实验，以测试和评估现代人工智能能力和工具。该中心将设在匹兹堡的卡内基梅隆大学校园内。

Raimondo表示：“人工智能是我们这一代人的决定性技术，我们致力于与卡内基梅隆大学等美国世界一流的高等教育机构合作，推动人工智能的安全、可靠和值得信赖的发展。”。

“这个新的合作研究中心将扩大NIST在人工智能方面的知识库和基础研究能力，”NIST主任Laurie E.Locascio表示。“通过这种合作关系，我们将加强对基础模型的理解，并在这个快速发展的领域支持新的研究和新的研究人员。”

该中心将专注于基础研究和开发人工智能系统级工具、指标、评估程序、开发流程和最佳实践，以帮助人工智能建设者始终如一地设计安全的人工智能系统。其努力将与NIST的人工智能优先事项保持一致，包括衡量有效性、可靠性、安全性、隐私性和安全性的更好方法；问责制、透明度、公平性和可解释性；以及在开发或部署的任何阶段进行生成式人工智能评估。

ShoelessCai 评注，AIRMF，总结为“七大步骤、七大特征、四大支柱”。其中，支柱的含义是，基础性要素，例如“治理”这个动作，属于基础要素。

01 AIRMF 七大步骤

七大步骤分别是

1. 系统规划与设计 Plan and Design
2. 数据采集与处理 Collect and Process Data
3. 模型训练与构建 Build and Use Models
4. 验证与确认 Validate and Verify
5. 部署与使用 Deploy and Use
6. 运行与监控 Operate and Monitor
7. 使用与影响 Use or Be Affected

注意，表格中高亮的部分，是 ShoelessCai 认为属于数据科学家职责的部分。

02 AIRMF 七大特征

七大特征

1. 有效性与可靠性 Valid and Reliable
2. 安全性 Safe
3. 安全与韧性 Secure and Resilient
4. 可问责与透明 Accountable and Transparent
5. 可解释与可理解 Explainable and Interpretable
6. 隐私增强 Privacy-Enhanced
7. 公平-有害偏见管理 Fair-with Harrmful Bias Managed

03 AIRMF 四大支柱

四大支柱

1. 治理 GOVERN
2. 地图 MAP
3. 测评 MEASURE
4. 管理 MANAGE

点击阅读全文

美国国家标准与技术研究院（NIST）推出人工智能风险和影响评估项目（ARIA）

美国人工智能风险管理框架-可信AI七大特征与四大支柱（NIST,2023)

长按/扫码，有您的支持，我们会更加努力！