ACM通信
审计人工智能和自主系统;建立信任的基础设施
很少有人会不同意“我们需要能够信任我们的人工智能和自动系统”这句话。但要获得这种信任，而不仅仅是渴望得到信任，需要理解什么是信任:信任是如何实现的，需要具备哪些因素才能确保得到信任。为了自信地说:“我相信这个”，需要保证哪些流程、标准、行为和责任?
本文通过概述建立和保持信任的关键要素来探讨这些问题，然后继续探讨这些要素是如何应用于一系列行业和历史事件的。它还提出了一些在人工智能和自主系统中建立信任的解决方案。我们对解决方案有足够的信心，我们现在开始实施它们。
从表面上看，世界上最著名的审计/会计灾难安然(Enron)可能突显了审计的失败，并指出了任何试图审计人工智能和自动系统的努力所面临的困难。但那将是看而不是真正看到。
绝大多数审计没有发现灾难、大规模欺诈或渎职行为。事实上，成千上万的公共实体每年都在悄无声息地接受审计。安然案是最极端的一个案例，如果研究正确，并与99.99%的常规审计相一致，它可以告诉我们，信任基础设施需要什么样的正确和稳健的结构。通过设计和创建人工智能系统独立审计(IAAIS)， ForHumanity将帮助我们在人工智能和自主系统中建立一个信任系统。
信任已经被许多人研究了几个世纪，没有一个普遍的和完美的过程来保证它。因此，相反，我们寻找受保护的信任实例，并查看它们有哪些共同元素。在这里，我们列出了一些有意识和潜意识结合起来，让我们产生信任的因素:
可预测性(对某一互动可能产生的未来结果的一种信念或看法)
透明度(获取决策所需的信息，特别是当前轨迹的变化)
理解(对一个决定或选择有足够的信息和知识水平的认识)
控制(权力等同于一种掌控感，相信一个决定有多种可行的和有益的选择)
安全(保护免受伤害:身体、精神、精神、经济或情感上的伤害)
公平(相信这种互动对双方/所有人都有平衡的利弊)
股本(相信个人的互动与他人的情况相似)
道德(相信受信任的一方/实体关心他们对我们的影响，或至少他们不打算伤害人们)
我们每个人的“信任”方式都不一样。根据所讨论的交互，我们将或多或少地赋予这些列出的属性价值。金钱互动可能在道德变量上得分较低，在公平变量上得分较高，而对手动驾驶的信任在可预见性上得分较高(否则，几乎不可能共享一条路)。如果我们要建立信任，建立一个服务于所有人的信任基础设施，那么所有这些因素都必须以一种强有力的方式加以考虑。
在这个基础上，我们研究了人工智能和自主系统。我们不需要从零开始:在我们的职责范围内，有一个已有近50年历史的信任基础设施——独立审计系统已经在财务报告和财务会计领域建立得很好。
我们采用上面的“信任变量”，并将它们与参与现有财务审计的关键三方(审计师、合规实体、社会)联系起来考虑。
可预测性
第三方审计师每年将以几乎相同的方式检查数字和财务账目。尽管有必要对规则进行适当的修改以维护系统。
遵从性实体可以计划遵从性，甚至根据设计构建遵从性。特雷德韦委员会(COSO)内部风险和控制系统的赞助组织委员会就是在这个前提下建立起来的。
社会知道服从意味着什么。它可以预测如何处理常见和不寻常的事件，这使得结果在较长时间内具有相关性，可以进行有价值的评估。
透明度
这些规则对审核员是公开的，审核员的工作也要被审查。审核员可以参与但不能控制对这些规则的变更，这些变更可能有助于他们确保遵守这些规则的能力。
遵从的实体知道这些规则，并有能力参与但不能控制对这些规则的更改，这些更改可能促进他们遵从规则的能力并准确地表示他们的工作。
社会知道规则(即使一个专门的职业在很大程度上代表他们部署结果)，并且有能力审查结果。社会有能力参与但不能控制这些规则的改变，这些规则可能有助于他们理解实体和产出。
理解
理解不同的职业需要对这些数字及其含义的专业知识。这些解释可以广泛获得，并始终如一地传递给所有寻求如何进行审计的知识的人。
合规实体对如何遵守审计具有同等的知识。
社会了解财务审计是如何进行的，合规意味着什么，并了解其输出。
控制
第三方审核员对确保遵守规则和标准负有完全和无冲突的责任;根据合规实体提供的预先定义和充分理解的证据，他们可以自行决定是否遵守。
遵从性实体降低其自身的风险，并规定其提供遵从性满意的方式。遵从性满意是众所周知的，可以避免失败的遵从性。满意的合规性等同于审计师的保证。
社会在这方面的控制更为有限，除了由值得信任的行业专家建立规则时，建立了一个至关重要的反馈循环。如果社会不使用这些产出(最终选择)，那么整个系统就会失败，并自我退缩。只要系统发挥积极作用，社会就会继续使用产出，系统就会重复。
安全
审计师有合同结构和“权力”要求提供确保合规所需的信息。他们有权这么做，因为他们不是规则的制定者。通过与合规实体的合同，它们具有完全的透明度。
合规实体保护其知识产权不受全世界的侵害，包括其竞争对手。它负责遵守规定的所有方面和除披露外的所有信息，最大限度地保护这些信息，而不是全面的透明度。合规实体通过合规来最大化安全性。
社会通过建立提高透明度、加强治理、监督和保护/安全机制的规则来保护自己。当法律被写入审计规则时，我们实现了主动合规，而不是传统的法律和惩罚的被动合规。＊＊＊
公平
审核员是独立的(法律术语)，只因进行审计而获得相应的报酬。如果合规实体没有获得并证明合规，则审计师有责任对合规进行认证。这在审计师和合规实体之间产生了一种自然的“紧张关系”，审计师可以根据审计准则有效地暗示“证明它”。
合规实体知道它是否合规，并且可以合理地证明合规，然后保证就会发生。与审计相关的费用不会超过合规的经济利益。
审计公司作为一个公正的代理机构，对实体的财务报告进行核实和保证，它提供了一个无冲突的过程和杠杆，社会从中受益。它充当了所有社会成员做自己工作的“速记”。
股本
审核员基于一套公认的第三方规则(避免审计您自己的规则的内在利益冲突)为相同的合规性提供相同的保证，并且只是应用它们来换取公平的工资。
所有合规实体根据一套并非由它们制定的规则获得相同的合规保证，并因在公平竞争的环境中遵守社会要求的规则而受到公众的谴责。
社会为所有人建立了一套规则。在商品和服务交换过程中，以公平的方式对待个人和合规实体的一套规则的合规和保证的公平竞争环境。
道德
审计师理解他们是社会的代表，有注意义务确保合规，当合规存在时，拒绝保证。
合规实体故意遵守社会规则，以换取获得利润的权利或继续提供其商品和服务的权利。
社会制定规则和流程，以满足他们对信任的需求，并与合规实体盈利或成功交付其商品和服务的能力的经济需求相平衡
利用源自财务会计的信托框架，考察该体系的一个巨大失败，以理解其被操纵的方式，是有指导意义的。这种巨大的欺诈是由基础设施的根本故障(现在已得到纠正)促成的。
安然的故事
在2001年之前，安然公司有大约29,000名员工，是一家主要公司电，天然气2000年，该公司宣称的收入接近1010亿美元。1《财富》杂志安然公司连续六年被评为“美国最具创新力公司”。其股票市值最高时达到110亿美元左右。安然的审计师是阿瑟·安德森。丑闻曝光后，所有的股权都被摧毁了。
在下一节中，我们将回到信任框架的各个元素，并将安然丑闻与每个元素进行对比。在这里，我们将跳过三个关键方之一的角色- - - - - -社会- - - - - -因为可以得出这样的结论，即社会普遍被完全忽视，并因此受到欺诈和渎职行为的损害，这并非没有道理。稍后，我们将讨论欺诈和渎职在这个系统中的作用。
可预测性
第三方审计师每年将以几乎相同的方式检查数字和财务账目。尽管有必要对规则进行适当的修改以维护系统。
遵从性实体可以计划遵从性，甚至根据设计构建遵从性。特雷德韦委员会(COSO)内部风险和控制系统的赞助组织委员会就是在这个前提下建立起来的。
安然(Enron)和亚瑟•安德森(Arthur Anderson)合谋利用这种可预测性来对抗社会。他们操纵规则，最大限度地利用漏洞，并调整合同和业务功能以适应这些漏洞。为了最大化这些可预见性的操纵，需要勾结和沟通。
透明度
这些规则对审核员是公开的，审核员的工作也会受到审查。审核员可以参与但不能控制对这些规则的变更，这些变更可能有助于他们确保遵守这些规则的能力。
遵从的实体知道这些规则，并有能力参与但不能控制对这些规则的更改，这些更改可能促进他们遵从规则的能力并准确地表示他们的工作
由于这两个实体相互勾结，规则的实施受到了操纵。规则的明确性被用来对抗系统，以利用漏洞。这是可能的，因为审计师的独立性受到了损害。
理解
理解不同的职业需要对这些数字及其含义的专业知识。这些解释可以广泛获得，并始终如一地传递给所有寻求如何进行审计的知识的人。
合规实体对如何遵守审计具有同等的知识
在安然事件中，“专业化”和行业专业知识被用来对抗社会。审查不足导致了这些操纵行为。然而，这种专业和行业的专业知识，以研究披露和透明度要求的资深投资者和分析师的形式，最终揭发了欺诈行为，并展开了调查。理解仍然是关键，理解越普遍，对欺诈和渎职的防御就越强。
控制
第三方审核员对确保遵守规则和标准负有完全和无冲突的责任;根据合规实体提供的预先定义和充分理解的证据，他们可以自行决定是否遵守
遵从性实体降低其自身的风险，并规定其提供遵从性满意的方式。遵从性满意是众所周知的，可以避免失败的遵从性。满意的合规性等同于审计师的保证。
Arthur Anderson在其角色上完全妥协了:作为顾问、顾问和审计师的薪酬意味着它不可能独立行事，维护审计过程的最佳利益。针对这一事件直接通过的萨班斯-奥克斯利法案(2002)纠正了这一失误。稍后，我们将重点介绍该法律如何补救导致欺诈的基础设施中的关键缺陷。安然通过操纵会计报表来放大盈利和其他相关资产，从而使公司看起来比在标准会计惯例下更有价值。
安全
审计师拥有确保合规所需的所有信息，并且需要确保合规，直到他们感到满意为止。他们有权要求提供所有相关信息，并获得这样做的授权，因为他们不是规则的制定者。通过与合规实体签订的合同，它们可以获得充分的透明度
合规实体保护其知识产权不向整个世界完全透明，包括其竞争对手。它负责遵守规定的所有方面和除披露外的所有信息，最大限度地保护这些信息，而不是全面的透明度。合规实体通过合规来最大化安全性。
通过违反独立原则，审计师和合规实体合谋操纵会计实务。他们积极合作，在公开报告中编造数字和账目，使之成为有益的表述。对这两家公司来说，安全从来都没有风险，因为他们共同努力管理风险。然而，对社会的伤害是巨大的，因为许多雇员和投资者失去了全部的投资。
公平
审核员是独立的(法律术语)，只因进行审计而获得相应的报酬。如果合规实体没有获得并证明合规，则审计师有责任对合规进行认证。这在审计师和合规实体之间产生了一种自然的“紧张关系”，审计师可以根据审计准则有效地暗示“证明它”。
合规实体知道它是否合规，并且可以合理地证明合规，然后保证就会发生。与审计相关的费用不会超过合规的经济利益
2000年，安达信仅从安然公司获得了2500万美元的审计费用和2700万美元的咨询费。在这样的安排下，很难想象审计师如何能否认合规。此外，遵从性是由它自己和它自己的行动决定的。将其审计与为审计遵从性提供的建议相匹配。就安然而言，自身与审计师之间并没有天然的紧张关系- - - - - -没有什么需要“证明”的- - - - - -证据往往是由审计员编造的。
股本
审核员基于一套公认的第三方规则(避免审计您自己的规则的内在利益冲突)为相同的合规性提供相同的保证，并且只是应用它们来换取公平的工资。
所有合规实体根据一套并非由它们制定的规则获得相同的合规保证，并因在公平竞争的环境中遵守社会要求的规则而受到公众的谴责。
Arthur Anderson与安然的高管合谋，提供特殊目的工具(spv)和与市场其他公司相比不寻常的会计处理方法。审计员提供了特殊待遇。非标准和内在冲突的解决方案是由安然公司开发的(例如创建spv)，并与自己执行对冲。与股权相反。
道德
审计师理解他们是社会的代表，有注意义务确保合规，当合规存在时，拒绝保证。
合规实体故意遵守社会规则，以换取获得利润的权利或继续提供其商品和服务的权利。
阿瑟·安德森的行为并不是社会的代表。它没有考虑到对人们，尤其是员工的后果和风险- - - - - -他们中的许多人失去了一切，从养老金到401k计划和工作。安然为了增加利润，故意破坏规章制度和透明度。道德行为的反面。
这里要说明的是，欺诈和渎职- - - - - -坏人犯下的罪行- - - - - -总会打败一个透明的系统。不这样做，就不可能建立一套透明的规则- - - - - -无意中- - - - - -向坏演员解释如何打败他们。相反，应该为有意的遵从，为想要永久遵从的实体建立系统。当法律、惩罚和市场终结他们的时候，坏人最终会被抓住并终结。信息披露、透明度、制衡、禁止利益冲突和强有力的激励机制将阻止大多数不良行为者，但没有任何制度是万无一失的，这个制度也不是。
套用萨班斯-奥克斯利法案，该法案通过后对“独立”进行了法律定义:
如果你进行审计，那么你就不能从与被审计方的关系中获得任何其他的好处。如果你提供服务、咨询或以其他方式帮助客户准备或遵守审计，那么你不能成为审计员。最后，如果您审计或服务客户，您必须使用第三方来建立审计规则
这项法律，结合我们提出的系统，很有可能为我们的人工智能和自动系统建立一个信任的基础设施。
最后，我们对我们的信任设备进行最后一次检查，这一次将AI系统的独立审计与之对应- - - - - -在每一节之后加一段总结，划掉表示财务审计的变更:
可预测性
第三方审计师将进行审查人工智能审计标准每年都以几乎相同的方式。尽管有必要对规则进行适当的修改以维护系统。
遵从性实体可以计划遵从性，甚至根据设计构建遵从性。特雷德韦委员会(COSO)内部风险和控制系统的赞助组织委员会是否需要适应这些审计．
社会知道服从意味着什么。它可以预测如何处理常见和不寻常的事件，这使得结果在较长时间内具有相关性，可以进行有价值的评估。
ForHumanity已经开发了一个流程，并正在扩大对所有影响人类的人工智能和自动系统的审计标准(已经超过3400条审计线)。这些规则在得到全球监管机构批准后将向公众公布。公司和审计师将确切地知道哪些遵从性标准将被鼓励参与开发过程。这个市场比税法和财务会计的市场更具活力，因此流程需要定期迭代。将允许有一段合理的时间来遵守新通过的规则。
透明度
这些规则对审核员是公开的，审核员的工作也要被审查。审核员可以参与但不能控制对这些规则的变更，这些变更可能有助于他们确保遵守这些规则的能力。
遵从的实体知道这些规则，并有能力参与但不能控制对这些规则的更改，这些更改可能促进他们遵从规则的能力并准确地表示他们的工作
社会知道规则(即使一个专门的职业在很大程度上代表他们部署结果)，并且有能力审查结果。社会有能力参与但不能控制这些规则的改变，这些规则可能有助于他们理解实体和产出。
ForHumanity为制定规则提供了一个全面包容的过程。它是众包的、迭代的和透明的。所有人都可以参与起草伦理、偏见、隐私、信任和网络安全领域的审计准则。所有符合条件的事务所都将获得审计或提供合规服务的执照。参与ForHumanity审计起草过程的唯一要求是建立联系机制(如电子邮件)，并愿意签署我们的行为准则，要求在起草过程中尊重他人。
理解
了解不同的职业需要这些方面的专业知识标准以及它们的含义。这些解释可以广泛获得，并始终如一地传递给所有寻求如何进行审计的知识的人。
合规实体对如何遵守审计具有同等的知识
社会的理解
金融执行AI审计，遵从性意味着什么，并理解输出。
虽然审计人工智能和自动系统仍处于初级阶段，但ForHumanity已经启动了培训和学习目标- - - - - -适用于所有想要学习如何使用我们批准的认证计划进行审核的人。人们可以学习如何执行这些审计，并通过审计考试或构建旨在促进审计遵从性的系统。
控制
第三方审核员对确保遵守规则和标准负有完全和无冲突的责任;根据合规实体提供的预先定义和充分理解的证据，他们可以自行决定是否遵守。
遵从性实体降低其自身的风险，并规定其提供遵从性满意的方式。遵从性满意是众所周知的，可以避免失败的遵从性。满意的合规性等同于审计师的保证。
社会有更多的
在这里，没有任何关联的个人，他们的任务只是致力于减少对社会的风险，正在起草规则。如果社会不使用这些产出(最终选择)，那么整个系统就会失败，并自我退缩。只要系统发挥积极作用，社会就会继续使用产出，系统就会重复。
合规性保证仍然只是审计员的工作- - - - - -与财务审计相同。由于我们的众包专业知识，人们可以根据自己的选择多或少地参与起草过程。欢迎所有人加入“为人类”;我们欢迎您的观点、智慧、文化以及您对构建值得信赖的人工智能和自动系统的热情。你会有所作为的。一个词，一个定义，一条改进的审计线将会带来不同。AI系统的无所不在需要所有视角，才能让它在任何地方为所有人工作。
安全
审计师有合同结构和“权力”要求提供确保合规所需的信息。他们有权这么做，因为他们不是规则的制定者。通过与合规实体的合同，它们具有完全的透明度。
合规实体保护其知识产权不受全世界的侵害，包括其竞争对手。它负责遵守规定的所有方面和除披露外的所有信息，最大限度地保护这些信息，而不是全面的透明度。合规实体通过合规来最大化安全性。
社会通过建立提高透明度、加强治理、监督和保护/安全机制的规则来保护自己。当法律被写入审计规则时，我们实现了主动合规，而不是传统的法律和惩罚的被动合规。＊＊＊
对人工智能系统的独立审计不会提供最终的安全:所有透明的系统都听任坏人摆布。然而，结合独立法、制衡法、监督法、治理法、披露法、透明度法和稳健的审计流程，它为我们的人工智能和自主系统引入了大幅提高的安全级别，肯定高于我们目前不受监管的免费系统。
- 公平
审核员是独立的(法律术语)，只因进行审计而获得相应的报酬。如果合规实体没有获得并证明合规，则审计师有责任对合规进行认证。
合规实体知道，如果它是合规的，并且能够合理地证明合规，那么保证就会发生。与审计相关的费用不会超过合规的经济利益。
审计公司作为一个公正的代理机构，对实体的财务报告进行核实和保证，它提供了一个无冲突的过程和杠杆，社会从中受益。它充当了所有社会成员做自己工作的“速记”。
这一节没有改变，准确地表达了AI系统的独立审计如何保持公平性。与财务会计相比，ForHumanity有一个优势:我们将萨班斯-奥克斯利(Sarbanes-Oxley)的独立法律结构纳入到我们的许可协议中，以确保审计系统的公平性和独立性。
股本
审核员基于一套公认的第三方规则(避免审计您自己的规则的内在利益冲突)为相同的合规性提供相同的保证，并且只是应用它们来换取公平的工资。
所有合规实体根据一套并非由它们制定的规则获得相同的合规保证，并因在公平竞争的环境中遵守社会要求的规则而受到公众的谴责。
社会为所有人建立了一套规则。在商品和服务交换过程中，以公平的方式对待个人和合规实体的一套规则的合规和保证的公平竞争环境。
ForHumanity是一家非营利性组织，其使命是致力于降低人工智能和自动系统对人类的风险，因此我们关注的是人们的权益，而不是审计师和合规实体的权益。然而，如果一个系统不考虑审计合规性对合规实体及其提供货物和服务的能力的经济影响，或者不考虑审计人员及其对合规实体取得令人满意保证的能力的实际影响，那么该系统将会变得无用。公平存在于这种平衡中，但在这种平衡和这种结构中，一个系统的存在是为了给人们带来信任的基础设施。
道德
审计师理解他们是社会的代表，有注意义务确保合规，当合规存在时，拒绝保证。
合规实体故意遵守社会规则，以换取获得利润的权利或继续提供其商品和服务的权利。
社会制定规则和流程，以满足他们对信任的需求，并与合规实体盈利或成功交付其商品和服务的能力的经济需求相平衡。
人工智能和自主系统促进了实际处理过程中人员和个人的高度融合。在金融交易中，只有数字流通。在这里，数据，往往是有代表性的谁我们是，流过整个过程。我们的隐私受到威胁，我们的许多偏见被编码到系统中——我们的一些道德决定被放弃给这些系统。人工智能系统独立审计的工作致力于减少偏见风险，并揭示系统中嵌入的伦理道德。这些缓解是通过认证标准来实现的。该标准要求披露、透明和可解释性，以便我们可以继续提高对这些系统的内在偏见、内在道德决策、隐私风险、潜在信任问题和安全性不足领域的意识。通过这种方式，我们提高了纠正这些缺点的能力，并继续减少对人类的风险。
没有一个系统是完美的，在ForHumanity的贡献者和伙伴中没有幻想。我们共同相信，AI系统独立审计为我们提供了构建动态过程的最佳机会，拥有强大的护栏、透明的、以人为中心的规则，旨在增长、改变和适应一个极其动态的市场。我们认为，这是为我们所有的人工智能和自动系统建立信任基础设施的最佳计划。如果你同意，来加入我们，帮助我们。如果你不同意，请加入我们，让我们变得更好，因为最终，我们是为了人类，我们相信你也是。
关于ForHumanity
ForHumanity是一个501(c)(3)免税的公共慈善机构，成立的目的是检查和分析与人工智能和自动化无处不在的进步相关的不利风险。为此，我们致力于风险控制和缓解，并部署道德、偏见、隐私、信任和网络安全的镜头和过滤器，以确保最佳结果……为人类。
ForHumanity是一个跨学科的专家志愿者团体，有超过200名贡献者和30名研究员。它的集体专业知识横跨人工智能领域，从伦理到算法风险和安全。我们的团队来自全球超过35个国家的学术、法律、政策、企业和公共部门。我们的使命是帮助为所有直接影响人类的自动系统创建一个“信任的基础设施”。
ForHumanity为经济各个领域的自主系统起草全面、务实、可实施的审计规则和标准。我们的专家与行业从业者合作，以确保这些审计实现我们的使命，减少人工智能对人类的风险。这套审计规则和标准体系——适应当地的司法管辖法律和法规——被称为人工智能系统独立审计(IAAIS)。
＊＊＊法律是被动的。它们的目的是阻止可能的违法者并惩罚罪犯;然而，它们并不能防止人们受伤。当ForHumanity谈到“审计”这个词时，我们想到的不仅仅是对财务记录、账目或机制的详细/深入检查。虽然这个词的这种形式是对audit的普遍理解，但还有一个更大的“audit”，就是我们在这里提到的那个。当审计编纂法律时(如GAAP和IFRS编纂税法或ForHumanity代表互联网专员办公室编纂GDPR)，审计就成为了法律的积极应用。当审计是由法律强制进行的(大多数上市公司都是这样)，那么在人们受到伤害之前，在法律被破坏之前，遵守法律就会发生。知道有一个独立的第三方会检查你的合规情况，有助于提高你对法律的遵守程度。如果把现行法律编纂为审计规则，就会更积极地适用法律，也更能保护国民。
参考文献
1）https://archive.fortune.com/magazines/fortune/fortune500_archive/snapshots/2001/478.html
瑞安航空公司是ForHumanity的执行董事，这是一家非营利组织，旨在研究和减轻与人工智能和自动化相关的下行风险。人工智能系统独立审计就是这样一种降低风险的工具。
没有发现记录