ISO/IEC 42001 - 第八章 - 运行
ISO/IEC 42001 中的要求第八章运行概述了在组织内部有效管理和运行人工智能系统所需的执行流程。包括规划、实施和控制与人工智能相关的流程，确保这些流程与组织的人工智能方针、目标和本标准要求保持一致，以实现预期结果。
了解 ISO 42001 要求第八章运行
ISO/IEC 42001 要求第八章聚焦运行，对于确保人工智能管理体系不仅在设计上，而且在道德和负责任的框架内运行至关重要。这一要求强调了组织规划、实施和控制有效满足人工智能系统要求所需的流程的必要性。强调为这些流程制定标准，并根据这些标准实施控制。
- 要求第八章的关键组成部分
要求第八章的关键组成部分包括运行规划和控制、人工智能风险评估、人工智能风险处置和人工智能系统影响评估。其中每一个组成部分都对保持人工智能管理体系的完整性和有效性起着显著作用。
- 支撑人工智能管理体系
运行规划和控制是人工智能管理体系的基石，可确保人工智能流程与组织目标保持一致，并合乎道德准则。这种一致性对于促进负责任的创新和使用人工智能技术至关重要。
- 确保人工智能实践符合道德准则
要求第八章规定进行全面的风险评估、影响分析和实施强健的控制措施，有助于促进合乎道德的人工智能实践。这些做法可确保人工智能系统透明、公平、安全地运行，保障用户隐私和数据完整性。
运行规划和控制流程
根据 ISO/IEC 42001 要求第八章要求，组织必须精心制定人工智能系统流程标准。包括为每个流程定义清晰、可衡量的目标，确保其设计旨在支持合乎道德的人工智能实践，包括隐私、安全、公平、透明度和问责制。这些标准可作为实施和控制人工智能系统的基准，指导组织保持负责任的人工智能管理实践。
- 实施和控制人工智能系统流程
人工智能系统流程的有效实施和控制需采用结构化的方法。组织应采用“计划-执行-检查-行动”（Plan-Do-Check-Act, PDCA）循环，PDCA 循环有助于管理和改进人工智能系统流程的持续改进方法。包括规划人工智能活动、执行计划、根据既定标准监控和评估流程，并在必要时采取纠正措施等。这种循环流程可确保人工智能系统始终与组织目标和合规要求保持一致。
- 合规的文件化要求
文件化信息对于证明组织符合 ISO/IEC 42001 要求第八章至关重要。组织必须保存能证明人工智能系统流程的规划、实施、监控和改进的记录。包括记录既定标准、控制措施、风险评估、影响评估和采取的任何纠正措施等。这些文件不仅支持合规工作，还提供对人工智能管理实践有效性的洞察。
人工智能风险评估策略
- 人工智能风险评估的推荐方法
在进行人工智能风险评估时，我们提倡采用包含定性和定量分析的综合方法。包括但不限于威胁建模、漏洞分析和影响评估等。通过这些方法，组织可以识别人工智能系统的潜在风险，并评估潜在风险的严重性和可能性。
- 人工智能风险评估的频率
人工智能风险评估应按计划间隔进行，并应对人工智能系统或其运行环境的重大变化。定期评估可以确保组织及时发现和应对新的或不断变化的风险。建议组织至少每年进行一次人工智能风险评估，或对高风险系统进行更频繁的评估，以保持对人工智能风险状况的深入了解。
- 人工智能风险评估文件
保留人工智能风险评估的文件化信息对于证明组织的合规性和为风险处理决策提供信息至关重要。这些文件应包括风险评估方法的详细信息、已识别的风险、风险严重程度和建议的缓解策略等。
实施人工智能风险处置方案
- 解决无效风险处置方案的步骤
当发现现有的风险处置方案无效时，必须进行彻底评审以了解其根本原因。这可能涉及重新评估风险、考虑替代处理方案并相应地更新风险处理计划。
- 处置评估过程中发现的新风险
评估过程中发现的新风险需要及时关注。建议将这些风险纳入组织现有的风险管理框架，为发现的每个新风险制定具体的处置方案。以确保所有风险，无论何时被发现，都能得到系统化和有效的管理。
进行人工智能系统影响评估
- 人工智能系统影响评估的目的
人工智能系统影响评估是 ISO/IEC 42001 要求第八章的组成部分，旨在评估人工智能系统对隐私、安全、公平、透明度和问责制的潜在影响。这些评估有助于组织识别和减轻负面影响，确保人工智能系统符合道德准则和监管要求。
- 人工智能系统影响评估的频率
建议按照计划的时间间隔或当人工智能系统或其运行环境发生重大变化时进行人工智能系统影响评估。通常建议每年进行一次评估，并在重大系统更新或监管环境发生变化时进行额外评估。
- 需要评估的影响类型
全面评估应涵盖广泛的影响，包括但不限于数据隐私、安全漏洞、道德影响以及相关法律法规和标准的合规情况。对这些领域进行评估可确保全面了解人工智能系统对利益相关方和整个社会的影响。
管理人工智能运行中的变更
为遵守 ISO/IEC 42001 要求第八章要求，组织就必须对人工智能运行中计划内和计划外的变更进行有效管理。需要采用系统的方法来评审和控制变更，以确保它们不会对人工智能管理体系产生不利影响。
- 管理计划变更的策略
对于计划中的变更，必须进行全面的影响评估，以了解对人工智能管理体系的潜在影响。包括评估变更对隐私、安全和道德等方面的影响。
- 应对意外变更
意外变更带来了独特的挑战，组织需要迅速采取行动以减轻任何不利影响。包括识别变更、评估其影响以及实施纠正措施等。
- 对人工智能运行变更的指导性评审
ISO/IEC 42001 的要求第八章为评审人工智能运行的变更提供了结构化框架。包括制定评审过程的标准、记录评审情况以及根据评审结果采取必要的行动。
对外部流程、产品或服务的控制
确保外部提供的流程、产品或服务符合 ISO/IEC 42001 标准对于维护人工智能管理体系的完整性至关重要。需要组织实施控制措施，评估和管理与外部实体相关的风险。
- 制定外部提供商评估标准
为确保外部流程符合 ISO/IEC 42001 标准，制定明确的评估标准至关重要。这些标准应涵盖遵守相关法律法规、遵守人工智能道德准则以及维护数据保密性和完整性的能力等方面。
- 管理与外部提供商相关的挑战
组织在确保外部服务符合 ISO/IEC 42001 方面可能会遇到挑战，例如安全实践的差异或监管要求的不同等。为应对这些挑战，建议组织对外部提供商进行定期审核和评审。
遵守 ISO/IEC 42001 要求第八章的益处
遵守 ISO/IEC 42001 要求第八章可为组织带来诸多益处，其中最重要的是为人工智能管理体系建立了强大的框架。该框架可确保人工智能运行以合乎道德的方式进行，并着重强调隐私、安全、公平、透明度和问责制。通过遵守要求第八章，组织可以显著降低与人工智能系统相关的风险，确保其符合道德准则和监管要求。
- 促进合乎道德地使用人工智能
遵守要求第八章从本质上促进了合乎道德地使用人工智能。为遵守要求，组织需实施尊重用户隐私、确保数据安全、维护公平和透明度的人工智能系统。这一道德基础不仅提高了人工智能系统的可信度，也符合社会价值观和期望。
- 获得的竞争优势
获得 ISO/IEC 42001 认证，尤其是对要求第八章的遵守，使组织在市场上更具竞争力。它向客户、合作伙伴和监管机构表明，组织致力于负责任的人工智能管理。这种承诺可以增加信任度和客户忠诚度，并有可能进入以合乎道德的人工智能使用为先决条件的新市场。
- 向利益相关方传达益处
对于合规员来说，有效地向利益相关方传达这些益处至关重要。强调 ISO/IEC 42001 合规性与加强风险管理、合乎道德地使用人工智能以及竞争优势之间的直接联系，有助于为实施要求第八章赢得支持。
