ACM通信

欺骗的人工智能

在过去的十年里，深度学习系统在图像分类、语言翻译和执行其他曾经被认为是人类独有的任务方面表现出了惊人的能力。然而，这些系统工作不透明，有时会犯基本的错误，这种脆弱性可能被故意利用来威胁安全或安全。

例如，2018年，麻省理工学院(MIT)的一群本科生3D打印了一只玩具乌龟，谷歌的云视觉系统始终将其归类为步枪，即使从不同方向观察也是如此。其他研究人员调整了一段普通的语音片段，将智能扬声器引导到恶意网站。这些错误分类听起来很有趣，但它们也可能代表着一个严重的漏洞，因为机器学习广泛应用于医疗、法律和金融系统。

没有找到条目

登录阅读全文