金色百科 | 什么是人工智能治理？
作者：Tayyub Yaqoob，CoinTelegraph；编译：邓通，金色财经
人工智能治理涵盖确保人工智能技术负责任地开发和使用的规则、原则和标准。
人工智能治理是一个综合术语，涵盖旨在指导人工智能（AI）技术的道德创造和利用的定义、原则、指南和政策。 这一治理框架对于解决与人工智能相关的一系列广泛问题和挑战至关重要，例如道德决策、数据隐私、算法偏见以及人工智能对社会的更广泛影响。
人工智能治理的概念超越了单纯的技术层面，涵盖了法律、社会和道德层面。 它是组织和政府的基础结构，确保人工智能系统以有益的方式开发和部署，不会造成无意的伤害。
从本质上讲，人工智能治理构成了负责任的人工智能开发和使用的支柱，提供了一套指导各种利益相关者（包括人工智能开发人员、政策制定者和最终用户）的标准和规范。 通过明确建立指导方针和道德原则，人工智能治理旨在将人工智能技术的快速进步与人类社区的社会和道德价值观相协调。
人工智能治理适应组织需求，没有固定的级别，采用 NIST 和 OECD 等框架作为指导。
人工智能治理并不遵循普遍标准化的水平，正如网络安全等领域所见。 相反，它利用来自不同实体的结构化方法和框架，允许组织根据其特定要求进行定制。
美国国家标准与技术研究院 (NIST) 人工智能风险管理框架、经济合作与发展组织 (OECD) 人工智能原则以及欧盟委员会可信人工智能道德准则等框架是最重要的框架之一。 它们涵盖了许多主题，包括透明度、问责制、公平、隐私、安全和保障，为治理实践提供了坚实的基础。
治理采用的程度取决于组织的规模、所采用的人工智能系统的复杂性以及其运作的监管环境。 人工智能治理的三种主要方法是：
最基本的形式依赖于组织的核心价值观和原则，并有一些非正式的流程，例如道德审查委员会，但缺乏正式的治理结构。
比非正式治理更加结构化的方法涉及制定具体政策和程序以应对特定挑战。 然而，它可能并不全面或系统。
最全面的方法需要开发一个广泛的人工智能治理框架，该框架反映组织的价值观，符合法律要求，并包括详细的风险评估和道德监督流程。
通过 GDPR、经合组织人工智能原则和企业道德委员会等各种示例来说明人工智能治理，展示了负责任的人工智能使用的多方面方法。
人工智能治理通过各种政策、框架和实践体现出来，旨在通过组织和政府以合乎道德的方式部署人工智能技术。 这些实例凸显了人工智能治理在不同场景中的应用：
《通用数据保护条例》（GDPR）是人工智能治理在保护个人数据和隐私方面的一个关键例子。 尽管 GDPR 不仅仅关注人工智能，但其法规对人工智能应用产生了重大影响，特别是那些在欧盟境内处理个人数据的应用，强调了透明度和数据保护的必要性。
经合组织人工智能原则得到 40 多个国家的认可，强调了对值得信赖的人工智能的承诺。 这些原则主张人工智能系统透明、公平和负责任，指导国际社会朝着负责任的人工智能开发和使用的方向努力。
企业人工智能道德委员会代表了人工智能治理的组织方法。 许多公司设立了道德委员会来监督人工智能项目，确保它们符合道德规范和社会期望。 例如，IBM 的人工智能道德委员会审查人工智能产品，以确保它们符合公司的人工智能道德规范，并邀请来自不同学科的多元化团队提供全面的监督。
利益相关者的参与对于制定反映广泛观点的包容性、有效的人工智能治理框架至关重要。
包括政府实体、国际组织、商业协会和民间社会组织在内的广泛利益相关者负责人工智能治理。 由于不同地区和国家有不同的法律、文化和政治背景，其监督结构也可能存在很大差异。
人工智能治理的复杂性需要政府、产业界、学术界和民间社会等社会各界的积极参与。 让不同的利益相关者参与，可以确保在开发人工智能治理框架时考虑多种观点，从而制定更稳健、更具包容性的政策。
这一承诺还培养了对人工智能技术的道德开发和使用的共同责任感。 通过让利益相关者参与治理过程，政策制定者可以利用广泛的专业知识和见解，确保人工智能治理框架信息灵通、适应性强，并能够应对人工智能带来的多方面挑战和机遇。
例如，数据收集和处理的指数增长引发了严重的隐私问题，需要严格的治理框架来保护个人的个人信息。 这涉及遵守 GDPR 等全球数据保护法规，以及利益相关者积极参与实施先进的数据安全技术，以防止未经授权的访问和数据泄露。
人工智能治理的未来将由技术进步、不断发展的社会价值观和国际合作的需求决定。
随着人工智能技术的发展，框架将对其进行管理。 人工智能治理的未来可能会更加强调可持续和以人为本的人工智能实践。
可持续人工智能专注于长期开发环境友好且经济可行的技术。 以人为本的人工智能优先考虑增强人类能力和福祉的系统，确保人工智能成为增强人类潜力而不是取代人类潜力的工具。
此外，人工智能技术的全球性需要人工智能治理方面的国际合作。 这包括协调跨境监管框架、培育人工智能道德的全球标准，以及确保人工智能技术可以在不同的文化和监管环境中安全部署。 全球合作是应对跨境数据流动等挑战和确保人工智能收益在全球范围内公平分享的关键。
