ACM通信
计算伦理
行动的号召
信贷:在上面
用于学习、健康、政治和商业的数字技术丰富了世界。像Tim Berners-Lee爵士、Batya Friedman、Alan Kay、JCR Licklider和Joe Weizenbaum这样的数字英雄已经开辟了道路。然而问题还是存在的。我们依赖没有人完全理解的软件。我们很容易受到网络恐怖主义的攻击。隐私被监控资本主义泛滥。7极权控制的进步。每天的网络新闻与我们的信念相符，这让我们很难分辨真假。人们对电子设备上瘾。没有社会保障网络，工作岗位就会消失。数字庞然大物威胁着要控制所有的商业。我们的价值观受到了威胁。
在卫生、刑事司法、老年人护理和战争等领域过早使用人工智能存在风险。目前的许多人工智能是不可靠的，没有常识，隐藏着它是一个算法的欺骗性，无法解释决策，不公正，既不负责也不负责，不值得信任。
我们的数字梦想现在变成了数字噩梦。
我们不能把魔鬼放回瓶子里，但我们可以确保人类的控制。我们作为计算机科学家的道德责任就是这样做。我们可以为有思想的公民和社会提供有益的行动建议。我们自己可以做很多事情。数字世界可以与我们的价值观相一致。
公民能够而且必须行动起来
我将从为普通人采取行动开始。我指的是每天都能接触到技术的非技术人员——我们的父母、邻居和朋友。
我们必须对数字技术进行自我控制，限制使用手机，并设置断网时间——一次甚至几天。我们可以与家人或朋友建立“不可用区”。你最后一次乘坐交通工具，不是发短信或玩游戏，而是环顾四周，注意到令人愉快或奇怪的事情，甚至微笑和挥手是什么时候?
父母可以制定规则，让孩子适当地沉浸在数字世界中。就像看电视有限制一样，上网和使用社交媒体的时间也有限制。父母可以解释他们对电子垃圾食品的限制。
许多人对科技感到不足。他们觉得他们不理解，他们做不到，这是他们的错，因为他们是愚蠢的。他们并不愚蠢。尽管有UX专业人士的工作，软件的功能和复杂性增长得比简单性快。用户继续不堪重负。然而，负责任的计算机专业人员用通俗易懂的语言解释不了的技术概念很少。
人们不应该忍受行话:极客语。如果有人使用:复杂性…并发性…网络钓鱼…平台…系统，演讲者必须被要求解释。告诉你的父母和邻居，他们可以期待清楚地解释技术的想法和概念。GOFAI、身份盗窃、智能导师、机器学习、精准医疗、用户体验等等，都可以解释为让人们不那么被高科技压垮。
许多技术应用的背后都是关于它们的使用、关于我们的优先事项、关于正义和善良的社会和伦理问题。对这些问题的回答将推动有关技术和适用的法规和法律的行动。计算机科学家必须参与道德行动。
人们可以通过购买力来表示对大型科技公司的支持或反对。如果你不同意他们的行为，不要购买他们的产品。不要下载他们的应用程序。告诉员工和公司你做了什么以及为什么。
公民必须参与有关技术及其使用的关键决策。他们必须充分参与社会、政治和伦理讨论。他们必须发出自己的声音。
市民可以游说和投票，表达对涉及技术的行动的支持或反对，比如使用你城市的街道测试自动驾驶汽车，或者它是否应该成为一个“智慧城市”。这些案例都是最近发生的，后者发生在我住的多伦多。3.关心此事的公民应该写信给编辑或他们的代表，并通过社交媒体发声。
投资公司股票的人可以让股东听到他们的声音就像亚马逊在气候变化方面所经历的那样。如果你感觉强烈，就买你觉得邪恶的公司的股票;在股东大会上发言。
社会能够而且必须行动起来
其他行动可以由社会采取，通常是通过政府采取行动。20世纪60年代以前，大学致力于博雅教育。这在20世纪70年代被许多大学抛弃了。今天，许多计算机科学专业的学生在接受教育时，对世界的本质和他们作为公民的责任知之甚少。
这必须改变。CS学生应该学习美德伦理和功利主义，李尔王的痛苦和K的困惑，以及政治上被剥夺者的渴望。学习计算机科学的学生不能完全专注于计算和数学，就像现在经常发生的那样。大多数大学都是政府资助的，所以社会可以施加压力。
计算机科学专业的学生应该被要求选修“计算机与社会”或“计算机伦理”课程，而现在许多大学通常不要求选修这些课程。我2019年的教科书提供了一个全面的方法。1另一种富有想象力和吸引力的方法是通过阅读和观看科幻小说或电影来介绍问题。2
在CS教授Barbara Grosz的领导下，哈佛大学与哲学教授Alison Simmons合作，开发了一个名为“嵌入式伦理”的项目。5哲学家被嵌入到课程中，教学生如何思考伦理和社会问题。学生学习机器学习中的偏见，网络中的假新闻，以及人机交互中的可访问性。结果是积极的。该项目在整个课程中始终把伦理道德放在首位。学生们参与其中，“表达了对……有更多机会发展道德推理技能的渴望。”
对医学、法律和工程从业人员进行执照认证，并对其资格和学位授予机构进行认证。医生、律师和工程师可能要对他们的工作负法律责任。违反道德规范的行为会受到制裁，取消执业资格，甚至受到刑事起诉。CS没有这样的标准，没有机制来确保可接受的性能。这必须改变。
大学计算机科学系必须同意认证。必须加强通识教育认证要求。目前的ABET认证只需要一半的计算机和社会课程，没有道德要求。这是错误的。
计算机科学家必须有执照，有继续教育的要求，遵守专业实践标准的要求，还有取消执照和纪律的程序——罚款甚至监禁——对计算机科学的不当行为。
监管一直很松散。法律诉讼很少。由于社交媒体的仇恨言论、假新闻和侵犯隐私，这种情况正在改变。欧洲一直是立法的先锋，比如《通用数据保护条例》(General Data Protection Regulation)。一个它有效地执行了针对大型科技公司的法律。
大型科技公司创造了很棒的产品。但是庞然大物必须被拆分，以防止垄断势力的增加——垄断势力压制创新竞争者，不受限制地向新市场扩张，控制价格。
CS人员能够而且必须行动起来
我坚持认为普通人不接受极客语言，所以你必须尽你的一份力。练习用简单的英语向亲朋好友描述你的技术工作或媒体上的文章的能力。
当您遇到无法使用、杂乱无章、令人困惑、测试不足、让人们不高兴和沮丧的系统时，请大声说出来。如果你在一家生产这种设计拙劣、执行草率的怪物的公司工作，可以向经理抱怨。
臃肿软件它的系统充斥着成千上万的命令和功能，大多数只对极少数用户有吸引力。当今的很多软件都包含了超出人类正常需求和使用范围的功能。6膨胀软件使系统不可靠、不可用和令人生畏。大力反对臃肿软件的运动。
科技研发需要计算机技术人才来实现人类的梦想，而不是噩梦。帮助人类的人工智能代理必须被识别为算法。算法的决策和动作应该是透明和可解释的。有机会确保算法做出公平、公正的决策。
在设计AI时牢记开放、透明和公平等目标就是一个例子值敏感设计(VSD)这是华盛顿大学教授巴蒂亚·弗里德曼及其合作者开发的。4设计系统的计算专业人员可以设计出确保功能和UI反映其价值的方法。其他关键的系统价值是安全、简单、清晰、诚实、同情和同理心。
我们不能把魔鬼放回瓶子里，但我们可以确保人类的控制。
VSD是由社会公益推动的技术的一个例子。计算机科学专业的学生可以寻找解决紧迫社会问题的应用程序，比如环境问题。他们可以寻找与用户需求相关的技术方面，如用户体验的清晰度，或敏感客户支持的可用性。
由于数字技术的普及，计算机科学专业的学生应该考虑从事政府工作，甚至竞选公职。大多数当选官员都接受过律师培训。我们偶尔会看到医生或教师出身的议员。计算机科学家也应该承担政府的工作，利用他们的专业知识和他们的道德考量来丰富技术政策。
学生在决定是否在该公司工作时，可以考虑该公司的道德记录。2016年美国大选期间，社交媒体被滥用，导致许多应届毕业生对该公司避而远之。
当员工认为公司的行为不道德时，他们可以说出来。有一些相对安全的方法来升级言论。从与同事的私人谈话和电子邮件开始。把你的信念私下传达给经理。如果没有效果，那就公开，先在公司内部，然后在公司外部。
谷歌是一个关于员工信念和行为的案例研究。工人们对一个被视为可憎的军事项目、被视为不道德的美国移民和海关执法局(ICE)工作、中国实施审查的一个搜索引擎、以及该公司在性别平等和安全方面的行动似乎不够等问题发表了意见。该公司内部的动荡一直持续到现在，尤其是自从有人因为发表言论或发表论文而遭到报复后。b科技行业正在形成工会。
有两种行为超越了抗议。一个人可以成为良心反对者。类似于士兵拒绝在战争中服役，这就是拒绝工作。区别一般反对和选择性反对是关键。1969年，我的朋友路易斯·方特成为西点军校第一个选择性拒服兵役者，拒绝在越南服役，尽管他并不是反对所有战争。一个人可以反对一项特定的任务或所有的工作，这当然会给他的职业生涯带来很大的风险。
最后一个动作是爆料。这种情况发生在员工非常确定机密行为是不道德的，以至于向全世界宣布这些行为的时候。最近最好的例子是弗朗西丝·豪根(Frances Haugen)对Facebook的行为和失败所造成的巨大伤害的揭露。美国政府有禁止报复告密者的保护措施。公司就不是这样;举报需要很大的勇气。
结论
我们能做的还有很多。我们可以承担责任，让我们的朋友和邻居了解足够的技术，以行使他们作为公民在使用技术方面的权利。我们可以确保计算机科学家的教育和计算机科学的治理反映我们的信念。我们可以追忆我们的价值观，当公司的行为违反我们的价值观时，我们可以说出来。我们可以与政治家和活动人士合作，促进公共利益。
这是一个响亮的号召，要求我们清楚地解释计算机科学，承担起计算机科学的责任，克服冷漠和失败主义，认真思考我们的价值观，并向前迈进并采取行动。
参考文献
1.﹒贝克尔,R。计算机在社会中的应用:现代视角牛津大学出版社出版。(2019)。
2.Burton, E, Goldsmith, J.和Mattei, N.如何通过科幻小说教授计算机伦理。Commun。ACM61(2018年8月)，54-64。
3.Cecco, L.谷歌旗下Sidewalk Labs突然放弃多伦多智慧城市项目。《卫报》。(2020年5月7日)。
4.弗里德曼和亨德利价值敏感设计:理论、方法与实践。麻省理工学院出版社(2019)。
5.Grosz, B.J.等。嵌入伦理:在计算机科学教育中整合伦理。Commun。ACM 62， 8(2019年8月)，54-61。
数字图书馆是由计算机协会出版的。版权所有©2022 ACM, Inc.
没有发现记录