ACM通信
我们如何让人工智能更有道德?
信贷:唉
道德是我们工作和个人生活的基础(至少应该如此)。
我们看到很多关于道德的定义。的韦氏在线词典将其定义为“处理好与坏以及道德责任和义务的纪律”。网站上的一篇文章马库拉应用伦理学中心圣克拉拉大学的教授说:“道德是两件事。首先，道德是指有充分依据的对与错的标准，规定了人类应该做什么，通常涉及权利、义务、对社会的好处、公平或特定美德。第二，伦理是研究和发展自己的伦理标准。”一个今日心理学文章提供了“简单地说，伦理就是指导一个人一生选择和行为的道德准则。”
ACM非常关注道德规范。该组织花了两年时间更新其道德规范和职业行为在2018年揭幕之前。修订后的守则序言州简单地说，“计算机专业人士的行为改变了世界。为了负责任地行动，他们应该反思其工作的更广泛影响，始终如一地支持公共利益。ACM道德和职业行为准则表达了该行业的良知。”
在第三届AAAI/ACM AI、伦理与社会会议上(唉本月早些时候，世界各地学术机构的代表齐聚一堂，讨论导致人工智能系统存在偏见的结构性和外部问题，以及如何在或大或小的程度上减轻这种偏见。
(一个明显的例外是来自中国的与会者，他们由于冠状病毒/Covid-19的传播而无法出席。会议组织者在会议开始前一周给与会者发了一封电子邮件，“大量在中国的与会者将被禁止前往参加会议。我们请求更广泛的社区来帮助他们，如果可能的话，为他们展示他们的论文，或者在必要时帮助进行远程或视频展示。”)
这次活动由美国人工智能协会(AAAI)、ACM和ACM人工智能特别兴趣小组(SIGAI)，在纽约市与《纽约时报》(the第34届AAAI人工智能大会，第32届人工智能创新应用年会(IAAI-20)，以及第十届人工智能教育进展研讨会(EAAI-20）.
会议的主题包括规划“公正的人工智能未来”，制定算法问责的伦理准则，人工智能的社会化及其对社会的影响，以及与人工智能相关的相互冲突的伦理考虑和治理方法。在一个晚上的招待会上，甚至还有一场名为“导航监视之地”的诗歌和舞蹈表演。
学生和/或他们的教授也有很多简短的会议，主题包括公平/消除人工智能中的偏见，发展算法透明度/让人工智能解释其决策背后的基本原理，以及人工智能对未来工作的影响。
在题为“表面下的伦理”的会议中，克拉克森大学计算机科学副教授Jeanna Matthews代表她的合著者做了一个简短的报告。当受信任的黑盒不同意:激励关键软件系统的迭代改进和责任她解释说:“我们在论文中提出的最大问题是，是否存在足够的激励机制来识别和修复软件中的缺陷?”我们觉得，绝对不行。”
正如Matthews所观察到的，我们都经历过软件中的bug，并期望制造商最终会修复它，因为没有人愿意购买有bug的软件;市场为软件的修复提供了动力。然而，她说，对于像在刑事司法系统中使用的量刑软件这样被发现存在种族偏见的产品，“市场力量真的完全不足以”通过调试和迭代改进来纠正这种固有的偏见;软件生产商真的没有动力这样做。
除此之外，一些关键软件产品的内部工作被视为商业机密而受到保护，“服务条款方面的障碍使测试或发布结果变得困难，”Matthews说。
马修斯和她的同事建议，每当公共资金被用于购买关键的软件系统，采购机构应该要求内部文件，如风险评估和设计文件，“这甚至不是说源代码;源代码，那就更好了。”她补充道:“我们的一大要求是，所有这些系统都应该需要可脚本化的界面。我们工作的一个重要部分就是围绕这些(软件产品)进行测试，这样我们就可以对它们进行成千上万的测试。所有这些供应商没有理由不能提供一个可编写脚本的接口。它们应该被设计得更合理地进行比较，这将是像NIST这样的组织的一个重要角色。验证研究要求明确规定其测试范围，而不是全有或全无验证。以及奖励和激励第三方测试的内容。”
Matthews说，我们需要添加“正确的激励机制，使关键软件响应个人、社会和法律的需求，而不仅仅是客户、决策者和开发人员的需求。我们真的不应该在没有可信的计划来激励迭代改进的环境中部署关键的软件系统。”
科罗拉多大学博尔德分校的博士生、伦理学研究员娜塔莉·加勒特和她的同事想知道，伦理学是如何在人工智能课程中呈现的。为他们的论文《超越‘如果时间允许’:伦理在人工智能教育中的作用》，Garrett和她的同事Nathan Beard(马里兰大学的博士生)以及Casey Fiesler(科罗拉多大学博尔德分校信息科学系和计算机科学系的助理教授)“分析了独立的AI伦理课程，以及一些技术机器学习和AI课程，以理解正在教授的主题。”
加勒特说，菲斯勒之前的研究发现，“只有大约12%的人工智能技术课程实际上包含道德规范。因此，我们希望研究独立的道德和技术课程，并将两者进行比较。”她说，他们最新的研究结果“说明了哪些伦理话题可以添加到技术课程中，或作为独立的AI伦理课程。”
她拒绝讨论他们的研究结果，而是建议与会者在他们的海报上查看，你将在下面看到:
劳伦斯·m·费雪是ACM杂志的高级编辑，新闻。
没有发现记录