ACM通信
源自总统
什么是机器人?
我是一个超级科幻小说迷，机器人在我最喜欢的一些推测宇宙中扮演了重要角色。机器人的原型故事来自卡雷尔·阿佩克的戏剧《R.U.R.》，即“罗森通用机器人”的缩写。它写于20世纪20年代，设想了类似机器人的有知觉的机器人，被创造出来为人类服务。“Robot”一词来源于俄语单词“”(“rabotat”，意思是“工作”)。不用说，这个故事的结局对人类来说并不好。在一个更加良性和非常复杂的场景中，艾萨克·阿西莫夫(Isaac Asimov)创造了一个宇宙，在这个宇宙中，拥有“正电子”大脑的机器人为人类服务，并被机器人三定律禁止伤害人类:
- 机器人不得伤害人类，也不得坐视人类受到伤害。
- 机器人必须服从人类给它的命令，除非这些命令与第一定律相冲突。
- 机器人必须保护自己的存在，只要这种保护不违反第一或第二定律。
随后出现了“第零”定律:
- 机器人不能伤害人类，或者不作为，让人类受到伤害。
在大多数情况下，机器人具有操纵和影响现实世界的能力。例子包括组装汽车(或至少部分汽车)的机器人。不那么容易操作的机器人可能是把罐头装满食物或瓶子装满液体，然后再关上的装置。最原始的机器人在正常情况下甚至可能不被认为是机器人。一个例子是家庭供暖系统的温度控制，它依赖于一块双金属材料，根据环境温度的不同，这种材料会不同程度地膨胀，从而导致电路的关闭或打开。
然而，我想假设，机器人的概念可以有效地扩展到包括执行功能、吸收输入和产生具有可察觉效果的输出的程序。沿着这条线的一个弱概念可能是模拟，在其中真实世界不受影响。一个更有说服力的例子可能是高频股票交易系统，其行为在金融部门具有非常现实的后果。虽然没有发生任何实际的事情，但现实世界的账户会受到影响，在某些情况下，如果程序失控导致快速的市场波动，就会出现严重的后果。一些市场的崩溃被归咎于大量的高频交易程序，它们都以类似的方式对导致股市快速上行或下行的输入作出反应。
按照这条推理线，人们可能会得出这样的结论:我们应该把任何能够产生现实世界(如果不是物理效果的话)影响的程序都视为机器人。我不太确定我的目标是什么，除了建议我们这些生活在和参与创建基于软件的“宇宙”的人应该明智地考虑我们的软件可能对现实世界产生的潜在影响。在计算机社区建立一种专业责任感可能会增加软件产品和服务的安全性和可靠性。这并不是说今天的程序员在某种程度上是不负责任的，但我怀疑我们并没有一致认识到对软件产品和服务的过度依赖所带来的副作用，而这种依赖似乎每天都在增加。
我在许多对话中听到的一个共同主题是对我们这个由网络和软件驱动的世界的脆弱性的担忧。我们非常依赖基于软件的基础设施，当它不能正常工作时，就会产生严重的副作用。就像大多数基础设施一样，我们往往在它不能工作或不可用之前根本不会考虑它。我们大多数人不会躺在床上醒着担心停电(但是，我们确实依赖一些人做担心这些事情)。当权力做走出去，我们突然意识到电池能量的有限性或电在我们日常生活中扮演的巨大角色。在飓风桑迪期间，移动电话中断了，因为手机发射塔和基站没有电了，要么是因为电池故障，要么是因为备用发电机无法提供燃料，要么是因为它们在水下无法运行。
我相信，鼓励人们更深入地思考我们在计算机世界生产什么，我们用来生产它们的工具，这些产品展示的弹性和可靠性，以及它们可能带来的风险，将是对我们社会的一种贡献。几十年来，Peter Neumann一直致力于这个领域，记录和研究风险的本质以及它在软件世界中是如何表现的。我们都应该效仿他的领导，并思考机器人的三到四条定律是否可能激发我们自己作为软件和通信无尽宇宙创造者的抱负。
Vinton G. Cerf， acm总裁
©2013 acm 0001-0782/13/01
允许为个人或课堂使用部分或全部作品制作数字或硬拷贝，但不得为盈利或商业利益而复制或分发，且副本在首页上附有本通知和完整的引用。除ACM外，本作品的其他组件的版权必须受到尊重。允许有信用的文摘。以其他方式复制、重新发布、在服务器上发布或重新分发到列表，都需要事先获得特定的许可和/或费用。请求发布的权限permissions@acm.org传真(212)869-0481。
数字图书馆是由计算机协会出版的。版权所有©2013 ACM, Inc.
评论
本杰明Kuipers
这是一个非常重要的问题。对我们的世界有重大影响的一种现存类型的人为代理是公司(营利、非盈利、政府、教堂、工会等)。当一个代理具有非常不同的形式，并且在非常不同的时间和行动尺度下运行时，甚至很难认识到它的存在。我在最近的一篇论文中讨论了这个问题:http://web.eecs.umich.edu/~kuipers/research/pubs/Kuipers-ci-12.html。
一种现存的，在生态上成功的集体智能人工生物属。
本杰明Kuipers。集体情报(CI-2012)。
摘要:人们有时会担心奇点[Vinge, 1995;Kurzweil, 2005]，或关于人工智能机器人接管世界。我相信这些风险非常小。然而，很少有人意识到我们已经与人工生物分享我们的世界，这些人工生物作为我们社会的智能代理参与其中:公司。我们的星球上居住着两种截然不同的智能生物——个体人类和企业实体——他们的本性和利益紧密相连。为了更好地共存，我们需要找到方法来定义个人和企业实体的权利和责任，并找到方法来确保企业实体作为社会负责任的成员行事。
拉斐尔Anschau
在过去的十年中，我们看到了大量关于在架构中使用形式化方法来提高可靠性的论文，我认为这是我们前进的方向。将安全性、可靠性和可靠性属性分配给我们创建的体系结构(即使是以一种非常轻量级、具有成本效益的形式)似乎是一种可行的方法。
Jan Pachl
事实上，“机器人”一词来自捷克语“robota”(名词)，意思是“工作”，特别是“农奴劳动”。在给牛津英语词典的注释中，卡雷尔阿佩克描述了这个词的起源。这是他哥哥约瑟夫建议的。
CACM管理员
以下公开信发表在2013年4月出版的《致编辑的信》(//www.eqigeno.com/magazines/2013/4/162502)上。
——CACM管理员
我想在Vinton G. Cerf的校长信《什么是机器人?》中添加一点关于“机器人”这个词的词源历史。(2013年1月)。捷克语单词“robota”与俄语单词“cacm5604_a.gif”(“rabota”)以及德语单词“Arbeit”有着共同的词根，该词根可以追溯到东欧森林中理想化的德斯拉统一的黑暗时代。“robota”的意思是“强迫劳动”，与“price”不同。“price”指的是包括自由人在内的任何一种工作，也不同于创造性工作。Prce与希腊语“cacm5604_b.gif”(“实践”)有一个共同的词根，都是指自由的人类存在。关于“机器人”一词的起源，公认的说法是，20世纪中期的捷克作家(1890 - 1938)卡雷尔·阿佩克(Karel apek)在1920年的戏剧《罗松的万能机器人》(R.U.R.)中需要一个专门的词来表示人工奴隶，他向哥哥约瑟夫求助，后者提出了新词“机器人”(robot)，从“robota”(机器人)中衍生出来。阿佩克兄弟经常合作，共同创作了几部戏剧和书籍。约瑟夫是一位现代画家(当今收藏家的最爱)，为卡雷尔的许多书画了插图，尤其是那些儿童读物。兄弟俩还拥抱了英国文化和民主。1938年，捷克斯洛伐克的部分地区被纳粹德国吞并后不久，卡雷尔去世。约瑟夫被盖世太保逮捕，1945年4月死于贝尔根-贝尔森集中营。
伊凡态度
布拉格，捷克共和国
CACM管理员
以下公开信发表在2013年4月出版的《致编辑的信》(//www.eqigeno.com/magazines/2013/4/162502)上。
——CACM管理员
Vinton G. Cerf列举了一个常见的误解，即“机器人”一词来源于俄语“rabota”(工作)。机器人的起源其实更微妙:与只有一个表示工作的俄语不同，捷克语(卡雷尔·阿佩克的母语，他创造了“机器人”这个词)有两个单词;一般术语是“价格”;第二个是“robota”(类似于俄语单词)，意思是“强迫劳动”，如仆人的劳动。阿佩克选择了robota，因为他的目的是让机器人成为人类的仆人。
俄语单词rabota和捷克语单词robota都源自同一个斯拉夫语单词“rab”(奴隶)，因为在早期，工作被认为是不体面的，甚至是可耻的，任何有自尊的贵族都不会去做。后来，当人们的态度发生改变，工作被视为有尊严的(不工作的社会寄生虫是可耻的)，俄语中最初表示工作的词失去了它的可耻联想，而捷克语增加了一个新词来描述工作的尊严。
Vladik Kreinovich
德克萨斯州埃尔帕索
显示所有5评论