IEEE 庆祝将人工智能伦理纳入系统十周年

媒体报道 IEEE Spectrum AI 原文语言:英文

IEEE 标准协会迎来《伦理对齐设计》(EAD)报告发布十周年。该协会在过去十年中制定了包括 IEEE 7000 系列在内的 29 个标准项目、推出 AI 伦理认证项目,并发布了庆祝网站、播客和博客。

全文

决策者、技术专家和公众对人工智能快速发展可能对社会造成的危害表示了担忧。他们的担忧包括偏见、数据隐私侵犯、虚假信息的传播以及失去对AI代理的控制。

对许多人来说,这些问题相对较新,但IEEE标准协会在过去十年里一直致力于研究如何优先推进AI系统的负责任发展。

2016年,IEEE SA启动了IEEE自主与智能系统(A/IS)伦理考量全球倡议,并发布了《伦理对齐设计》(Ethically Aligned Design)报告。EAD的使命是鼓励所有参与设计自主与智能系统的人员,通过应用造福全人类的伦理考量,将人类福祉置于首位。

该报告由来自世界各地的多学科专家社区共同开发,概述了A/IS的八项基本原则。其中包括人权、人类福祉和透明度。100多位领先的AI伦理专家提供了意见。EAD的第二版报告于2017年发布。据该全球倡议创始执行董事、现任IEEE Planet Positive 2030全球总监的约翰·C·哈文斯(John C. Havens)称,两个版本都征求了公众意见,并收到了数百页的反馈。到2019年,贡献者已超过400人,且该社区仍在不断壮大。

哈文斯表示:“《伦理对齐设计》可以说是同类报告中的首创,它不仅仅是一份原则列表,而且来自具有IEEE信誉的组织。在它发布时,还没有与之类似的东西。”

自推出以来,一系列标准相继制定,为设计、构建和部署优先考虑人类价值的技术提供了实用指南。多项AI伦理认证计划也随之推出。

今年是EAD初稿发布10周年。为庆祝这一时刻,IEEE SA最近推出了一个网站、一个播客系列和一个博客,回顾该报告的成就与影响。

八项指导原则

根据EAD的第一版报告,在负责任的AI系统设计中,“伦理”一词经常与“道德”混用,但实际并非如此。该报告结合了古典伦理传统的见解与基于价值的设计方法论,为开发AI工具的工程师提供了切实可行的建议。

该报告确立了设计自主与智能系统的八项基本通用原则:尊重人权、将福祉的提升作为开发的成功标准、通过数据自主权赋予个人控制其身份的权力、有效性、透明度、问责制、对滥用的防范意识以及系统创建者的胜任能力。

作者写道,与产品发布后再关注伦理问题相比,这些原则将应用伦理学前置到了AI系统的设计阶段。

一套标准

IEEE 7000系列标准是在EAD框架的基础上制定的。目前该系列包含29个项目,其中11个已发布,并且还在不断增加中。它们涵盖了诸如伦理系统设计模型过程(IEEE 7000-2021)、AI系统透明度(IEEE 7001-2021)、数据隐私(IEEE 7002-2022)、算法偏见考量(IEEE 7003-2024)、对人类福祉的影响(IEEE 7010-2020)、机器可读的个人隐私要求(IEEE 7012-2025)以及模仿人类同理心的系统(IEEE 7014-2024)等主题。

AI伦理认证

IEEE SA提供了一套AI伦理计划,其中包括IEEE CertifAIEd,该计划包含两项认证:一项针对个人,另一项针对产品。

专业认证为个人提供了评估自主与智能系统是否符合IEEE方法论和伦理标准的技能。

“《伦理对齐设计》可以说是同类报告中的首创,它不仅仅是一份原则列表,而且来自具有IEEE信誉的组织。”——约翰·C·哈文斯(John C. Havens),该全球倡议的创始执行董事

该产品认证计划评估组织的 AI 工具或系统是否符合 IEEE 本体规范中的标准。CertifiAIEd 评估员会对产品进行评估,以确保其满足这些标准。评估完成后,所有者将其提交至 IEEE 合规评估计划,该计划可对其进行认证并颁发认证标志。

IEEE SA 最近还发布了其面向儿童的负责任 AI 认证计划。该计划认证儿童 AI 产品已通过独立测试并验证符合设计和伦理要求。

新行业连接小组

IEEE 人工智能系统(AIS)全球繁荣协作产业集合小组成立,旨在为 AI 系统开发者提供优先关注人类福祉所需的资源、知识和工具。该小组拥有超过 200 名成员。

该协作将其工作描述为一种实用的系统层面框架,用于负责任的技术设计,将繁荣转化为可在 AIS 生命周期中使用的应用方法、度量和工具。

小组正在制定指南,指导如何设计、评估和治理能够显著提升人类福祉和生态可持续性的系统。

分委员会专注于认知、教育、信仰、星球关怀、精神性及其他议题。

“该小组直接基于《伦理对齐设计》中的福祉章节以及 IEEE 7010 标准(评估自主和智能系统对人类福祉影响的推荐实践)进行构建,” Havens 说。“之所以如此,是因为如果在设计阶段不先解决人类和星球的繁荣问题,那么人类福祉和星球可持续性就会沦为事后考虑。”

播客和博客

为纪念十周年,IEEE SA 创建了五集《伦理对齐设计:十年影响》播客系列。该系列于 10 月 21 日上线。新节目每两周发布一次。

这些节目围绕 EAD 的愿景、其基础原则的选择过程以及这些原则如何转化为 IEEE 7000 标准展开。

第一期播客《伦理对齐设计的起源》探讨了将伦理作为 AI 与自主系统设计实践部分的早期努力。专家们讨论了挑战、争论、全球合作以及帮助将负责任技术从伦理原则转向可操作标准和实践的实际影响。

第二期播客《章节与委员会》聚焦于将广泛的人类价值转化为 AI 与自主系统实用指南的多学科团队。

播客讨论内容还作为思想领袖项目的材料,该项目还包括关于 IEEE 7000 系列的博客文章以及教育资源,以持续提升认知并支持这项开创性工作。

本文于 2026 年 11 月 18 日更新。

来自您的站点文章

微凭证如何帮助工程师构建可信 AI ›

IEEE 全球倡议旨在推进 AI 与自主系统的伦理设计 ›

IEEE 推出两项新的 AI 伦理认证 ›

相关网络文章

AI 伦理:工程师需要了解的内容 | IEEE ›

IEEE newsieee products and servicesieee standards associationartificial intelligenceethically aligned designtype:ti

正文为 AI 译文。

参考来源

← 返回每日AI报告