ACM通信
明确决策责任
还记得记录方面的麻烦，比如一笔数额巨大且明显错误的财产税账单，被归咎于“电脑错误”的日子吗?我们的技术社会在程序输出责任的分配上笨手笨脚。我们可以很容易地从科技新闻文摘中看到这样的夸张:“谷歌的人工智能(AI)已经学会了如何像人类一样导航。”哦,我的。看到自然谷歌研究人员的文章[谷歌的准确，谨慎，描述和评估。所给的引语引用了一篇文章快速公司，文中称“人工智能已经自发地学会了如何导航到不同的地方……”［快速公司)哦,亲爱的。
但这并不是问题的根源。在大众媒体，甚至在国家公共广播电台，我听到关于“机器做出有偏见的决定”的报道。简单的不准确已经超越了夸张。我们科技行业的专业人士常常对此视而不见，显然是因为我们相信公众真正理解机器和算法没有“决策”这个术语通常所指的那种能力;我们认为演讲者说的是我们自己的行话。当我们说“COMPAS系统决定罪犯B比罪犯D更有可能犯下另一项罪行”[ProPublica；它的缩写是“Northpointe软件公司的员工提前选择、量化和优先排序的因素给违规者B分配了比违规者d更高的数字风险”。当傻瓜式网站上说:“自2010年以来，股票市场的几次‘闪崩’都是电脑造成的，”这意味着“依赖于即时执行某人预先设定的股票买卖门槛的程序是造成这种情况的原因……等等。”［傻瓜式］
问题是没有方便的方式来表达这些事情。上面的解释揭示了控制算法的人类判断，但这些解释是笨拙的。在数十年的软件工程中，我们已经采用了一些将意志和影响归因于程序的俚语。观察结果可以在E. Raymond关于人格化的页面上找到[雷蒙德］．我怀疑许多黑客会把故意的立场归咎于程序;我更怀疑程序员使用这些表述是为了方便，就像“方便的虚构，允许‘一切照常’”(Caporael)一样。但公众的误解是字面上的，而且是严重的。
算法是没有偏见的，因为程序不做决定。该程序执行在其他地方做出的决定。程序由赋值、表达式求值和为加载指令而分支的地址组成。如果我们排除量子计算(我没有资格考虑量子计算)，那么不可预测的选择就没有意义，也就是说，一个不是由代码决定的选择(即使是“随机”数字生成)。某些场景可能会挑战这种纯粹的决定论。让我们简单地审视一下。
- 演绎闭包包括不立即明显的命题。
- 但是，即使在程序员不确定到底会发生什么的情况下，由于模糊的复合条件，算法也不会“做出决定”。所发生的是有效断言的一个含义(如果程序员费心制定断言，就写入代码中)，即演绎闭包的含义。程序员是否应该为遥远的可能性负责的问题是很重要的，注意到我们所认为的算法偏见似乎并不是故意的。无论如何，决定因素肯定不是机器。
- 互动的时机可能会导致意想不到的结果，比如通过计算机化股票交易的被动投资。
- 但意想不到的州并没有表现出恶魔的力量。有人已经提前决定，当一只股票失去百分之n的价值时卖出是有意义的。这不是我们所说的现场实时决策，因为它忽略了(1)实时和(2)现场。我们将正确地将其称为系统设计师在更早的时候和其他地方做出的决定，它将产生不可预见的结果。
- 深度学习的模式匹配排除了符号变量和条件的识别。
- 没有可用的语义，没有突出的代理，没有通过可跟踪的条件结构执行的执行，计算机看起来像近似决定者。但是没有。如果有训练案例，一些数值变量的复杂组合是从给定的初始值发展而来的，这些初始值随着时间的推移进行调整，以匹配一组输入和一组输出，而这些匹配是由系统设计师选择的。在无监督学习中，一些规律被揭示出来，这些规律已经存在于数据中。虽然说没有人在做任何决定可能很诱人，但肯定没有计算机在做任何可以被称为决定的事情。有人事先计划好了寻找那些规律。
选择、推荐和分类系统使用在其决策结构中实现的标准。我们在交易中都知道，无论算法技术是什么，计算机不是决定的。向公众解释计算机是愚蠢的可能会让人困惑和沮丧，而不是教育。赋予算法代理权的误用混淆了责任和责任的确定，也混淆了公众对整个科技的理解。人们可能试图“说服”计算机，或试图修复、增强或“驯服”程序，而不是仅仅拒绝它们的不适当部署。在极端情况下，当危险来自于像我们这样的生物时，人们会感到无助和恐惧——任性、武断、反复无常——除了更强大的。更糟糕的是冷漠:社会可能忽视困难，听任结果，仿佛这种有计划的评估是事实。
什么是正确的措辞，正确的表达方式，对机器是被动的，对程序员是主动的(或设计师、开发人员、规范编写人员或其他任何人)?我们应该如何注意到“推断关闭住房抵押贷款资格标准需要某些社区的红线”——除了说那些不引人注目的确切的词之外?我们该怎么说“反复调整权重标准应用于匿名变量的多维函数，接近于一个未知函数，其中一些正确的结果已经被过去的用户识别，将这个个人记录与你自己的离散声明的约会标准”——而不是说“约会应用程序为你选择了这个匹配”?
我们没有其他方式可以轻易地表达这样的结果。我们缺少用于计算的动词，这些动词表示达到看起来像决策的状态，以及采取看起来像选择的行动。我们需要替换“算法决定X”中的“决定”，来填补“程序_______ X”中的空白。也许“程序完成x。”也许“程序推导出x。”嗯…这似乎是瘸腿的。真正的问题是，我们必须避免使用任何暗示积极心理功能的动词。这是新的。据我所知，这对于计算来说是独一无二的。 The Industrial Revolution brought us many machines that seemed to have human capacities, but they also had material descriptions. For mechanical devices, verbs are available that describe physical functionality without the implication of cognition: "The wheel wobbles." "The fuel line clogged." We may say, jokingly or naively, that "the car chooses not to start today," but we are not forced into it by lack of vocabulary.
对于这个新的技术要求，我能想到的最好的表述是“编程假设的结果是x。”我已经有一段时间没有听到有人认真地将“计算机错误”作为最终解释了;这似乎是理解科技的进步。如果我们可以放弃这种措辞，也许我们就可以放弃“有偏见的算法”。任何其他想法?
参考文献
[ProPublica] Angwin, Julia等，2016。机器的偏见。ProPublica。5月23日,2016年。
[谷歌]Banino, Andrea等。2018。自然557;页429 - 433。在人工代理中使用类似网格表示的基于矢量的导航。doi: 10.1038 / s41586 - 018 - 0102 - 6
[卡波瑞尔]刘志强，1986。拟人论与机械论:人类机器的两种面貌。计算机与人类行为2;页215 - 234。https://doi.org/10.1016/0747 - 5632 (86) 90004 - x
[快公司]格劳索斯，迈克尔。2018。
(Raymond)雷蒙德,埃里克。人格化。从术语的文件．2003(?)。
威廉姆斯，肖恩(Sean)。2018.股票市场波动的演变。2018年4月3日上午7:01
罗宾·k·希尔是怀俄明大学哲学系和怀俄明人文研究所的兼职教授。她自1978年以来一直是ACM的成员。
没有发现记录