ACM通信gydF4y2Ba
首页gydF4y2Ba
/gydF4y2Ba
杂志存档gydF4y2Ba
/gydF4y2Ba
2023年3月(第66卷第三期)gydF4y2Ba
/gydF4y2Ba
这里谁该负责任?gydF4y2Ba
/gydF4y2Ba全文gydF4y2Ba
部门gydF4y2Ba
这里谁该负责任?gydF4y2Ba
2012年1月，我写道gydF4y2Ba一个gydF4y2Ba人工智能(AI)的过去和未来。我重申了比尔·乔伊2000年的问题:gydF4y2Ba未来需要我们吗?gydF4y2Ba当时我并不知道一场革命正在酝酿之中。到2011年，gpu大大加速了深度神经网络的训练，最终使一项可以追溯到20世纪40年代早期的技术得以实现gydF4y2BabgydF4y2Ba竞争力。到2011-2012年，深度神经网络AlexNet赢得了多项国际比赛，开启了深度学习革命。十年后，生成式人工智能(即可以生成新内容而不是简单地分析现有数据或根据现有数据采取行动的人工智能)风靡一时。在过去的几周里，ChatGPT这个“生成人工智能领域的新成员”几乎无处不在。gydF4y2Ba
媒体对这些新人工智能技术的报道往往集中在其社会风险上，人们提出了各种旨在遏制人工智能风险的建议。2022年10月，作为美国总统执行办公室一部分的美国科学技术政策办公室(OSTP)发布了一份gydF4y2Ba人工智能权利法案蓝图。gydF4y2Ba该法案确定了五项原则，“应指导自动化系统的设计、使用和部署，以保护人工智能时代的美国公众。”2022年11月，ACM技术政策委员会发布了一份关于负责任算法系统原则的声明，确定了“旨在促进公平、准确和有益的算法决策”的九项原则。gydF4y2Ba
PrinciplismgydF4y2Ba是生物医学伦理学中发展起来的一种方法，它使用了一个普遍的伦理原则框架，该框架应作为生物医学决策的基础。然而，它最近在计算机领域的崛起也受到了批评:gydF4y2BacgydF4y2Ba“它们是孤立的原则，存在于一个很大程度上忽视道德的工业和教育体系中;这些原则毫无效力，没有后果，只会遵循企业议程。”gydF4y2Ba
请参考ACM策略声明。该声明针对系统建设者和运营商、人工智能系统开发人员和人工智能系统运营商。换句话说，这份声明不是关于负责任的算法系统，而是关于负责任的个人和公司。然而，正如我之前指出的，gydF4y2BadgydF4y2BaACM一直不愿意解决技术公司及其领导者的不道德行为，即使这些公司公然违反了ACM的道德和职业行为准则。gydF4y2Ba
OSTP的使命是“最大限度地利用科学和技术，促进所有美国人的健康、繁荣、安全、环境质量和正义。”然而，OSTP是一个治理机构，而不是哲学系。治理通过行动发生，要么通过行政行动，要么通过国会法案。到目前为止，OSTP还没有分享任何关于将人工智能权利法案转变为可操作政策的计划。gydF4y2Ba
对人工智能造成社会危害的担忧并不新鲜。大约十年前，哲学家尼克·博斯特罗姆(Nick Bostrom)担心超级智能人工智能的存在风险。在他的“回形针最大化器”思想实验中，他假设了一个超级智能的代理，其目标是尽可能多地收集回形针。在完成任务的热情中，代理人可能会“首先把整个地球，然后把更多的空间变成回形针制造设施”。这个实验的目的是证明一个具有明显无害价值的人工代理可能对人类构成生存威胁。的gydF4y2Bavalue-alignmentgydF4y2Ba方法是对超级智能体风险的一种回应。人工智能对齐研究旨在引导人工智能系统朝着设计者的预期目标和兴趣方向发展。在他2021年的报告中，gydF4y2Ba我们的共同议程gydF4y2Ba联合国秘书长潘基文呼吁确保人工智能“与全球共同价值观保持一致”。gydF4y2Ba
然而，人工智能代理是由科技公司开发的。我们的根本问题不是回形针最大化，而是不受监管的利润最大化。亚当·斯密在1759年支持自由市场“看不见的手”的论点是“促进整个社会的利益”。从那时起，不受监管的利润最大化促进了整个社会的利益的论点，例如，前美联储主席艾伦·格林斯潘，已经被证明在理论上都是失败的gydF4y2BaegydF4y2Ba和实践。gydF4y2BafgydF4y2Ba虽然利润最大化带来了一些令人印象深刻的社会效益，例如信使rna疫苗，但它也导致了严重的不良后果，例如金融危机。总的来说，技术的进步快于监管。在定向广告和内容审核中不受监管地使用人工智能给我们的社会带来了深刻的两极分化，严重威胁着我们gydF4y2BaggydF4y2Ba民主。gydF4y2Ba
所以，让我们停止谈论“负责任的人工智能”。作为计算机专业人员，我们都应该承担责任gydF4y2Ba现在gydF4y2Ba，从ACM开始!gydF4y2Ba
脚注gydF4y2Ba
一个。gydF4y2Bahttp://bit.ly/3IZnyCtgydF4y2Ba
b。gydF4y2Bahttp://bit.ly/3H8jvSSgydF4y2Ba
c。gydF4y2Bahttp://bit.ly/3wfNvWtgydF4y2Ba
d。gydF4y2Bahttp://bit.ly/3KGjT9ugydF4y2Ba
e。gydF4y2Bahttp://bit.ly/3CQhdFmgydF4y2Ba
f。gydF4y2Bahttp://bit.ly/3WfOTTSgydF4y2Ba
g。gydF4y2Bahttp://bit.ly/3w6PFb0gydF4y2Ba
©2023 acm 0001-0782/23/03gydF4y2Ba
本论文部分或全部的电子版或硬拷贝供个人或课堂使用的许可是免费的，前提是副本不是为了盈利或商业利益而制作或分发的，并且副本的第一页上必须有本通知和完整的引用。除ACM外，本作品的其他组件的版权必须受到尊重。允许有署名的摘要。以其他方式复制，重新发布，在服务器上发布，或重新分发到列表，需要事先特定的许可和/或费用。请求发布权限gydF4y2Bapermissions@acm.orggydF4y2Ba或传真(212)869-0481。gydF4y2Ba
数字图书馆是由计算机协会出版的。版权所有©2023 ACM, Inc.gydF4y2Ba
评论gydF4y2Ba
Jeanna马修斯gydF4y2Ba
我和里卡多·巴伊扎·耶茨(Ricardo Baeza Yates)一起领导了最近关于负责任算法系统原则的声明。我同意，建立负责任的制度意味着人们采取负责任的行动，要求公司负责任。gydF4y2Ba
我认为光有原则是不够的。ACM本身可能无法在执行方面给予他们足够的“牙齿”，但政策制定者在制定立法、法规或标准时，会给予很多关注，并将ACM这样的专业协会视为可信赖的声音。欧洲在人工智能监管和隐私监管方面走在了美国的前面，但许多人认为美国也需要更多的监管。gydF4y2Ba
原则文件还为在职的工程师在要求负责任的行为时提供了一些内部依据。gydF4y2Ba
我鼓励人们从2022年12月1日开始查看USTPC热门话题网络研讨会，“走向公平的未来:新机器时代的算法责任”，以获取更多信息。gydF4y2Ba
珍妮特港gydF4y2Ba
原则不是终点，而是重要的起点。在制定标准、法规和法律的关键时刻，ACM和其他团体的专业、基于社区的倡导和研究将继续非常需要，并且已经产生了重大影响，这需要长期的跟进和参与。让那些不是技术说客的人参与进来，对于将道德标准和原则转化为明确的实践，并最终转化为法律要求，至关重要。我认为在这一点上，很少有人会反对高层原则，这本身就是一种胜利;现在的挑战是方法、实施和执行机制(以及在法律要求不满足时的惩罚/补救)。gydF4y2Ba
好消息是，我们正在看到《人工智能权利法案蓝图》等原则文件转变为政策和法律。举个例子:人工智能权利法案于2022年10月发布。上个月(2023年2月)，总统发布了14091号行政命令，进一步促进种族平等，该命令将AI权利法案的原则转变为联邦机构必须遵守的“法律要求”，包括在对私营部门产生重大影响的采购实践中。gydF4y2Ba
该行政命令提出了与人工智能和公平相关的具体指示，包括直接取自《人工智能权利法案》的算法歧视定义，以及明确声明，在联邦政府中设计、开发、获取和使用人工智能和自动化系统时，各机构应以促进公平的方式进行。《行政令》指示各机构就有关人工智能和自动化系统的设计、开发、获取和使用的决策咨询其民权办公室。此外，它还指示各机构积极促进公民权利，包括保护公众免受算法歧视，这是该蓝图列出的五项保护措施之一。gydF4y2Ba
同样，这份行政令针对的是联邦机构对算法系统和人工智能的使用，而不是更广泛的私营部门。但越来越多的机会表明，这样的EOs是第一步，支持立法必须紧随其后。例如，本周早些时候，参议院国土安全和政府事务委员会就人工智能的风险和机遇举行了听证会，为发言者提供了机会，说明国会需要采取行动管理人工智能，利用人工智能权利法案和nist人工智能风险管理框架(ACM成员也提供了重要的投入)作为来源。gydF4y2Ba
这一切都是说，这项工作并不以单一的文件或声明开始或结束，而是正在进行中，并且有越来越多的机会让ACM的同事进行干预。gydF4y2Ba
摩西·瓦迪gydF4y2Ba
我很高兴地得知，人工智能权利法案在EO 14091中获得了更多的牙齿!gydF4y2Ba
显示gydF4y2Ba3gydF4y2Ba评论gydF4y2Ba