尊龙凯时人生就博的版权声明 尊龙凯时网址 copyrightstatement 本报告尊龙凯时人生就博的版权属于出品方所有,并受法律保护。转载、摘编或利用其他方式使用报告文字或者观点的,应注明来源。违反上述声明者,本单位将追究其相关法律责任。 出品方 安永(中国)企业咨询有限公司上海市人工智能与社会发展研究会 前言 foreword 21世纪人类社会迎来了前所未有的技术革命——人工智能(ai)的兴起。它以迅雷不及掩耳之势,渗透到我们生活的方方面面,重塑着我们的认知和社会格局。它不仅极大地提高了生产效率,还为解决复杂的社会问题提供了新的视角和工具。然而,随着ai技术的迅猛发展,其所带来的伦理、法律和社会问题也日益凸显,如何确保ai技术的“可信”属性,成为全球关注的焦点。 在此背景下,《可信人工智能治理白皮书》应运而生。本白皮书由安永(中国)企业咨询有限公司和上海市人工智能社会发展研究会联合撰写,旨在深入探讨人工智能的全球发展态势、监管体系、可信原则、关键问题、企业合规要求、风险治理理论、进阶工具以及行业洞察等多个方面。我们希望通过这份白皮书,为政策制定者、企业管理者、技术开发者以及所有关心ai发展的读者,提供一份全面、深入、客观的参考和指导。 在这份白皮书中,我们将重点探讨“可信人工智能”的内涵,分析其在算法透明度、数据安全、伦理道德等方面所面临的挑战。同时,我们也将关注企业在ai应用中的合规要求以及风险治理这一ai发展中的重要议题。本白皮书将详细阐述风险治理架构的构建,以及如何在ai的生命周期中实施有效的风险管理。此外,我们还将介绍企业ai治理的进阶工具——可信ai等级标识,为企业构建和完善自身的ai治理体系提供实用的指导。 在提供有效的ai治理工具的同时,我们也将聚焦具有启发性的行业实践。我们将深入分析汽车、医药、零售、服务等行业在ai应用上的现状和挑战,以及这些行业如何构建和运营自己的ai管理体系。通过这些行业案例,我们希望能够为读者提供具体的行业应用视角,以及在实际操作中可能遇到的问题和尊龙凯时人生就博的解决方案。 在这份白皮书的撰写过程中,我们深刻感受到ai技术的发展不仅仅是技术层面的突破,更是对人类社会价值观、伦理道德和法律体系的一次全面考验。我们相信,只有通过不断提高对风险的把控能力,预判、分析和应对潜在的治理问题,建立起一套公正、透明、高效的ai治理体系,才能确保ai技术的健康发展,让它成为推动人类社会进步的正能量。 在此,我们诚挚地邀请您一同走进ai的世界,探索其无限可能,同时也思考和面对它所带来的挑战。让我们携手前行,在ai的时代中,共同寻找可信ai实现的最佳路径。 目录 comtents 第一章全球人工智能发展与监管体系1 1.1全球人工智能发展概述1 1.1.1欧盟人工智能发展1 1.1.2美国人工智能发展1 1.1.3中国人工智能发展2 1.2“可信人工智能”概念提出3 第二章人工智能的可信原则5 2.1g20人工智能可信原则5 2.2欧盟可信人工智能原则6 2.3安永观点:可信人工智能原则6 第三章可信人工智能的关键问题8 3.1算法黑箱与信息茧房问题8 3.2算法偏见问题9 3.3数据安全问题9 3.3.1底层数据源10 3.3.2数据泄露10 3.3.3出海涉及相关数据出境规制10 3.4内生安全问题10 3.4.1人工智能基础设施安全风险10 3.4.2数据安全风险10 3.4.3模型安全风险11 3.4.4应用服务安全风险11 3.5科技伦理问题11 第四章企业级ai的合规要求12 4.1资质监管要求12 4.1.1互联网信息服务提供者的基础资质12 4.1.2提供具体服务的特殊资质12 4.2算法合规要求13 4.2.1算法备案要求13 4.2.2算法评估要求13 4.2.3算法透明性要求14 4.3内容合规要求15 4.3.1生成内容审核义务15 4.3.2生成内容标识义务16 4.3.3建立投诉举报机制16 目录 comtents 第五章人工智能风险治理17 5.1风险治理架构17 5.1.1风险治理架构对企业的指导18 5.1.2风险治理架构对创新的推动18 5.1.3风险治理架构对市场的维护19 5.2生命周期风险治理19 5.2.1风险管理左移20 5.2.2敏捷管理模式20 5.2.3审慎评估及监控21 5.3人员风险治理22 第六章企业ai治理进阶工具23 6.1ai治理国际标准23 6.1.1iso42001的意义与价值23 6.1.2iso42001内容简介24 6.2ai治理可信等级管理24 6.2.1可信ai治理等级标识24 6.2.2可信ai治理等级标识服务25 6.2.3可信ai治理重点领域解析25 第七章行业洞察与ai治理情况调研28 7.1汽车行业调研28 7.1.1汽车行业人工智能技术的应用28 7.1.2汽车行业对人工智能技术应用的普遍认知28 7.1.3汽车行业人工智能技术应用的挑战29 7.1.4汽车行业人工智能管理体系的搭建与运营29 7.2医药行业调研29 7.2.1医药行业人工智能技术的应用30 7.2.2医药行业对人工智能技术应用的普遍认知30 7.2.3医药行业人工智能技术应用的挑战30 7.2.4医药行业人工智能管理体系的搭建与运营31 7.3零售行业调研31 7.3.1零售行业人工智能技术的应用31 7.3.2零售行业对人工智能技术应用的普遍认知32 7.3.3零售行业人工智能技术应用的挑战32 7.3.4零售行业人工智能管理体系的搭建和运营32 目录 comtents 第七章行业洞察与ai治理情况调研28 7.4服务行业调研33 7.4.1服务行业人工智能的应用33 7.4.2服务行业对人工智能技术应用的普遍认知34 7.4.3服务行业人工智能技术应用的挑战34 7.4.4服务行业人工智能管理体系的搭建与运营35 第八章ai应用的典型案例36 8.1典型案例一:某互联网平台公司内部人工智能技术应用36 8.1.1人工智能技术使用现状36 8.1.2人工智能模型使用与评估36 8.1.3人工智能技术投入分析37 8.2典型案例二:典型案例二:某汽车公司内部人工智能技术应用37 8.2.1人工智能模型使用现状37 8.2.2人工智能模型使用与评估38 8.2.3人工智能技术投入分析38 结语39 参考文献39 可信人工智能治理白皮书 第一章全球人工智能发展与监管体系01 第一章 全球人工智能发展与监管体系 01 part 当前,全球人工智能正处于技术创新、重塑行业、重新定义我们与技术互动方式的 快速更迭阶段。ai技术已经走出实验室,逐渐嵌入医疗、金融、零售、制造、交通、娱乐等行业领域的各项应用之中,社会也随之展开深刻变革。据fortunebusinessinsights预测,人工智能市场预计将在未来十年内出现强劲增长,预计将从2024年的6211.9亿美元 增长到2032年27404.6亿美元1。面对这一潜力巨大的颠覆性技术,全球各国竞相发力,正在共同将人工智能发展推向时代浪潮顶峰。 1.1全球人工智能发展概述 截至2024年,全球共有69个国家和地区制定了人工智能相关政策和立法,涵盖了从ai治理、隐私保护、数据监管到伦理规范等广泛的主题,反映了各国对ai技术发展的重视及其潜在风险的管理需求。 以下国家或地区明确针对人工智能出台了立法或监管要求: 1.1.1欧盟人工智能发展 欧盟《人工智能法案》是全球首部全面且具影响力的人工智能法规,于2024年5月21日获批通过,并于2024年8月1日正式生效。该法案将“人工智能系统”定义为一种基于机器的系统,被设计为以不同程度的自主性运行,并且在部署后可能表现出适应性。该系统基于明确或隐含的目标,从接收到的输入中推断如何生成可影响物理或虚拟环境的输出,例如预测、内容、推荐或决策。《人工智能法案》采取了基于风险的方法,将人工智能系统分为最低风险、低风险、高风险和不可接受风险这四级。其中,认知行为操纵和社会评分等具有不被接受风险的人工智能系统被禁止进入欧盟市场;高风险人工智能系统需要获得批准,同时需要遵守技术要求、风险管理、数据治理、透明度等一系列要求和义务才被允许进入欧盟市场;其他非高风险人工智能系统的提供者则被鼓励制定行为守则,包括相关的治理机 制,以促进自愿适用高风险人工智能系统的部分或全部强制性要求。 此外,欧盟委员会正在制定《人工智能责任指令》 (artificialintelligenceliabilitydirective),该指令草案提出于2022年9月28日,旨在为人工智能系统造成的、非合同类责任的特定类型损害提供统一规则,解决举证责任难的问题,确保受到人工智能技术伤害的人能够获得经济补偿。该提案共九条,主要规定了高风险人工智能提供者的证据披露义务、过错与ai输出之间因果关系的推定两方面核心内容。 1.1.2美国人工智能发展 美国正在选择一种针对特定行业的方法 (sector-specificapproach)。2023年9月,美国参议员和众议员提出的《2023年算法问责法案》草案(algorithmicaccountabilityactof2023)为受人工智能系统影响的人们提供了新的保护措施。该法案适用于用于关键决策的新型生成式人工智能系统, 以及其他人工智能和自动化系统,要求公司评估其使用和销售的人工智能系统的影响,为何时以及如何使用此类系统创造新的透明度,使消费者能够在与人工智能系统交互时做出明智的选择。 同年10月,拜登总统签署了一项人工智能行政命令《关于安全、可靠和可信赖地开发和使用人工智能的行政命令》(executiveorderonthesafe,secure,andtrustworthydevelopmentanduseofartificialintelligence),为人工智能安全、安保、隐私保护、促进公平和公民权利、促进竞争和创新建立了新的基准。该行政命令要求制定一份国家安全备忘录,以指导人工智能在军事和情报行动中的安全和合乎道德的应用,确保保护美国人的隐私,并培育一个开放、竞争激烈的人工智能市场,强调美国的创新。 为应对人工智能生成内容的知识产权挑战,美国专利商标局(uspto)和尊龙凯时人生就博的版权局(usco)已经发布了相关执法行动和指南。2024年2月,美国专利商标局发布的关于人工智能辅助发明的详细指南(aiandinventorshipguidance:incentivizinghumaningenuityandinvestmentinai-assistedinventions)明确规定了ai辅助创新中的发明权确定问题,即人类贡献必须足够显著才能获得专利保护。2023年,美国尊龙凯时人生就博的版权局发布的“包含人工智能生成材料的作品”(workscontainingmaterialgeneratedbyartificialintelligence)的政策规定,如果作品纯粹由ai生成,除非有显著的人类创作参与,否则不符合尊龙凯时人生就博的版权保护条件。如果人类在ai生成材料的选择、安排或修改中作出了重大贡献,则人类创作元素可获得尊龙凯时人生就博的版权保护。 此外,美国一些州也已经在人工智能相关领域制定监管法律。例如,2024年5月17日,科罗 拉多州州长签署了参议院第24-205号《关于在人工智能系统交互中保护消费者权益》(concerningconsumerprotectionsininteractionswithartificial intelligencesystems)的法案。该法案将高风险人工智能系统定义为任何在投入使用时能够做出重大决策或在做出重大决策中起到关键作用的人工智能系统,要求高风险人工智能系统的开发者(developer)向部署者(deployer)披露有关高风险系统的特定信息、提供完成影响评估所需的信息和文件,并要求部署者实施风险管理政策和程序,定期进行影响评估,并向消费者披露其交互对象的人工智能系统的某些通知,以避免高风险人工智能系统内的算法歧视。再如,2022年伊利诺伊州颁布了《人