ISO∕IEC 42001-2023人工智能管理体系之8：“6策划-6.1 确定风险和机遇的措施”解读、实施流程和风险描述(雷泽佳编制-2024).pdfVIP

“6策划-6.1确定风险和机遇的措施”解读、实施流程和风险描述

ISO∕IEC42001-2023《信息技术-人工智能管理体系》之8：

“6策划-6.1确定风险和机遇的措施”解读、实施流程和风险描述

(雷泽佳编制，2024年9月)

第1部分：“6.1确定风险和机遇的措施”解读

“6.1确定风险和机遇的措施”条文“6.1确定风险和机遇的措施”标准条文解读

6.1确定风险和机遇的措施

6.1.1总则—策划AI管理体系需考虑内外部因素，明确风险与机遇

(1)策划AI管理体系需全面考虑内外部因素；

-在策划人工智能管理体系时，组织必须全面审视“4.1理解组织及其环境”中提到的各种内部因素（如组织文化、组织结构、人工智能系统的角色和人员能力、技术资源、财务状况

、信息系统等）和外部因素（如，如法律法规、市场竞争环境、技术进步、社会文化因素、经济状况、供应链关系等）；

-应需要考虑“4.2理解相关方的需求和期望”中明确的相关方(包括组织内部员工、客户、供应商和合作伙伴、监管机构、社区和公众)等要求，确保人工智能管理体系能够满足这些

要求。这有助于组织在策划阶段就明确管理方向和重点，为后续的风险和机遇识别奠定坚实基础。

6策划(2)确定需要应对的风险和机遇，以实现以下目的；

6.1确定风险和机遇的措施(a)确保人工智能管理体系能够有效实现其预期结果：

6.1.1总则-这些预期结果可能涉及AI系统的有效性和效率、安全性、合规性、业务目标达成、提升竞争力、风险管理和可持续发展等多个方面；

在对人工智能管理体系进行策划时，组织-通过系统地识别和评估风险，组织可以预见潜在的问题和挑战，提前制定应对策略，从而确保管理体系的稳定运行和预期目标的实现；

-识别并抓住机遇，有助于组织在竞争激烈的市场环境中保持领先地位，推动业务创新和持续发展。

应考虑4.1中提及的因素和4.2中提及的要

求，并确定需要应对的风险和机遇，以：(b)预防或减少不利影响；

-“不利影响”的涵义：它是一个广泛的概念，它涵盖了人工智能管理体系实施过程中可能对组织、个人及社会造成的各种负面后果。这些不利影响可以细分为以下几个方面：

——确保人工智能管理体系能够实现其预

期结果；组织层面：包括但不限于业务运营中断、财务损失、品牌声誉受损、法律合规风险增加等。例如，如果人工智能系统存在安全漏洞，可能导致数据泄露，进而引发法律纠纷和

——预防或减少不利影响；财务赔偿；

——实现持续改进。个人层面：可能涉及个人隐私泄露、权益受损、歧视性决策等。例如，基于有偏见的人工智能算法做出的决策可能影响到特定群体的就业机会或信贷评估；

社会层面：涉及伦理道德争议、社会不公、就业结构变化等。人工智能技术的广泛应用可能加剧社会不平等，特别是当自动化取代了大量低技能劳动岗位时；

环境层面：考虑到人工智能系统的运行可能需要大量计算资源和能源，其不利影响还可能包括能源消