ACM通信

贡献的文章

AI技术堆栈模型

文/蔡茹欢，张新禄，徐志春，甄大伟
ACM通讯，2023年3月，第66卷第3期，第69-77页
10.1145 / 3568026
评论

目前，企业已经实现了先进的人工智能(AI)技术来支持业务流程自动化(BPA)，提供有价值的数据洞察，并促进员工和客户的参与。⁷然而，开发和部署新的支持ai的应用程序会带来一些管理和技术挑战。^3.,5,12,15管理挑战包括为支持人工智能的应用程序确定适当的业务用例，缺乏应用先进人工智能技术的专业知识，以及资金不足。关于技术挑战，组织不断遇到过时的、现有的信息技术(IT)/信息系统(IS)设施;将新的AI项目集成到现有IT/IS流程中的难度和复杂性;人工智能基础设施不成熟和不发达;数据量不足，学习要求不高;日益严重的安全问题/威胁;以及低效的数据预处理辅助。

回到顶部

关键的见解

此外，主要的云服务供应商(例如亚马逊、谷歌和微软)和第三方供应商(例如Salesforce和Sense-Time)已经通过将云服务与AI核心组件(例如大量数据、高级学习算法和强大的计算硬件)集成在一起，加大了在AI即服务(AIaaS)竞赛中的主要参与者的努力。⁴尽管AIaaS产品允许公司利用人工智能的力量，而无需从头开始投入大量资源，⁸许多问题已经出现，阻碍了所需的人工智能系统的发展。例如，目前的人工智能产品被认为是一个完全捆绑的包，在不同供应商之间提供的互操作性较差，并导致供应商锁定和专有问题。此外，不同层的紧密耦合组件限制了新功能的扩展，抑制了开发人员在选择合适的AI组件进行实际实现时的灵活性和适应性。此外，当供应商将多个人工智能产品捆绑到一个包中时，可靠性就变得有问题，因为为每个人工智能产品定义透明的服务水平协议(SLA)具有挑战性。此外，捆绑的人工智能产品被视为严格控制的系统，抑制了开源社区的支持，并提高了锁定成本，这增加了潜在的不兼容性，并引入了不同供应商之间未来的迁移成本。

为了解决这些问题，混合集成方法^20.将云栈与AI核心组件进行集成，提出了七层AI技术栈模型。这七层，从下到上分别是:AI基础设施、AI平台、AI框架、AI算法、AI数据管道、AI服务、AI解决方案。AI基础设施层最接近机器，而AI解决方案层最接近最终用户。该模型旨在解决开发和部署支持人工智能的应用程序时的以下两个问题:

• 利用AIaaS产品帮助组织解决管理和技术挑战
• 将所需的AI系统与现有的IT/IS设施集成，并将数字业务平台(dbp)合成为可行的IT/IS框架。

本文其余部分的组织如下。我们回顾了AIaaS产品和提议模型提供的好处，详细介绍了AI技术堆栈模型，并涵盖了综合IT/IS框架。然后，我们提供案例研究，讨论所提出的模型部署到智能旅游应用程序。这篇文章最后涵盖了本研究的学术/实践意义，并讨论了未来的工作。为提高可读性，所有在正文中使用的缩写均列于表1．

表1。缩略语列表。

回到顶部

张仁祭

主要的云和第三方服务供应商已经开始将AI核心组件集成到云服务中，使组织能够在云中开发、培训、部署和管理支持AI的应用程序。这些服务被称为AIaaS，旨在使任何组织都可以使用和负担得起人工智能，无论组织的规模、技术进步水平或资金状况如何。¹⁷

---

尽管AIaaS产品允许公司在不从头开始投资大量资源的情况下利用人工智能的力量，但已经出现了许多阻碍所需人工智能系统发展的问题。

---

一些主要供应商提供的AIaaS产品的优点和缺点^{1,6,10,11,13,14,16,19,24}总结于表2．对当前AIaaS产品的评估表明，主要的AIaaS提供商开发并微调了现有的云服务，以提供额外的人工智能功能，但不是所有的七个人工智能技术堆栈层。例如，IBM擅长为数据科学家和/或工程师提供AI数据堆栈解决方案和开发工具(例如IBM®Watson AI)。¹⁰微软强调机器学习操作(MLOps)和生命周期管理平台，包括数据准备和特性工程功能。¹⁶其他云基础设施即服务(IaaS)提供商，如亚马逊和谷歌，提供AI基础设施、AI平台和AI数据管道服务。^19,21此外，Salesforce和商汤科技(SenseTime)等云软件即服务(SaaS)供应商为寻求利用其大数据分析解决方案的客户提供应用程序编程接口(API)功能。¹³

表2。评估当前主要云服务和第三方服务供应商的AIaaS产品。

表2还强调了所提议的模型的相关好处，这证明了AI技术堆栈模型作为指导原则的必要性，以帮助组织高效和经济有效地开发和部署新的支持AI的应用程序。根据目前的学术研究和/或从业者发展，没有这样的模型存在。因此，本研究具有时效性和重要意义。具体来说，所提议的模型提供了一个分层的体系结构，以帮助高管了解哪一层可能最适合特定供应商的AIaaS产品，同样重要的是，区分多个供应商的产品以实现竞争优势。分层体系结构还使执行者能够减少/分解元级管理和对层视角的技术挑战，从而进一步增强互操作性和可靠性。这只是因为在使用分解概念时，每个供应商的AIaaS产品对应于一个层的功能;因此，通过模块化体系结构，供应商的变更不会影响其他层的供应商变更。此外，IT经理可以用更好的替代方案取代现有的AI功能，而不会干扰其他层的工作功能。例如，一家公司可能会在亚马逊AWS或微软Azure上实现自己的支持ai的应用程序。切换到不同的AI基础设施可能只会引起特定AI基础设施层的管理和技术问题，而不会影响其上面的层。

回到顶部

AI技术堆栈模型

为了定义AI技术堆栈模型中的每个特定层，采用了以下原则:

1. 将相似的函数分类到同一层中，以便在不影响其他层的情况下启用一层内的函数更改。
2. 在服务描述简明扼要且跨边界的交互数量最小化的位置创建边界。
3. 分解层次，以处理任务描述或技能要求明显独特的AI工作。
4. 在行业解决方案可用并已被证明有用的点上制定边界。

必须将IaaS和AI加速器结合起来，以提供在上层处理大数据和支持AI的应用程序所需的硬件能力。因此，AI基础设施层被确定为AI技术堆栈中的最低层。为了在整个ML生命周期中促进硬件和应用软件之间的通信，AI平台层位于AI基础设施层之上，以提供统一的用户界面，MLOps工程师可以在ML生命周期中进行协作。这包括构建、培训、评估、部署和监控AI模型，而平台即服务(PaaS)提供商提供操作系统、数据库、中间件和其他服务来托管用户的应用程序。在AI平台上运行的是特定于AI的软件模块，它们是指允许系统展示智能的工具和算法。通过AI平台在硬件上调用可执行算法的工具被确定为AI框架层，它位于AI平台层之上。该层提供预构建的AI模型、加速器驱动程序和支持库，以帮助数据科学家和AI开发人员更快、更轻松地构建和部署AI模型。

AI算法是AI模型执行学习任务的一套训练方法。它们形成了人工智能模型的核心能力，通过这种能力，模型可以“学习”数据，并在得到新的输入时产生输出。因此，AI算法层位于AI框架层之上。没有数据，人工智能算法无法运行。也就是说，如果数据结构不佳、不准确和不一致，人工智能模型注定会失败。因此，需要一个专门的层来进行数据处理和管理，从而建立了AI数据管道层，该层位于AI算法层之上。最后，SaaS提供商或内部软件工程师提供支持ai的应用程序，在其业务应用程序中嵌入特定于ai的功能。一些支持AI的应用程序，如面部认证、图像识别和自然语言理解，支持一般领域中的特定AI任务。这些最终用户可以通过api使用的AI构建块服务组成了AI服务层，位于AI数据管道层之上。剩余的支持ai的应用程序集是那些提供更广泛的功能，以解决关于特定行业或公司领域的更大范围的业务问题的应用程序，例如银行的智能客户解决方案。 Consequently, we consider these AI-enabled business solutions as comprising the AI solution layer—the tech stack's highest layer.

表3说明了由七层组成的人工智能技术堆栈模型。以下段落将对每一层进行更详细的说明，从底部的AI基础设施层开始，到顶部的AI解决方案层结束。

表3。人工智能技术堆栈模型。

AI基础设施层。这一层集成了所有的IaaS组件;²³加速器，如图形处理单元(gpu)、张量处理单元(tpu)和现场可编程门阵列(fpga);以及其他服务，如监控、集群和计费工具，为支持人工智能的应用程序所需的基本计算、存储和网络通信提供硬件基础设施环境。

AI平台层。这一层集成了PaaS组件(例如，操作系统、编程语言执行环境、数据库、web服务器等)、mlop和智能参与平台(IEP)，用于执行完整的支持ai的应用程序生命周期管理。具体而言，它协调模型构建、评估和监控，以确保AI应用程序的持续集成(CI)、持续交付(CD)和持续测试(CT)的执行。

AI框架层。这一层包含所有与人工智能相关的框架，以加速支持人工智能的应用程序开发和部署的过程，包括通过gpu具有强加速的张量计算;自动判别系统，预构建AI算法库，如Torch和TensorFlow;以及预先构建人工智能模型，比如神经网络。

AI算法层。这一层提供了许多定义良好的开源和/或自定义的AI算法集(例如，有监督的、无监督的和强化学习)，以帮助执行解决问题和决策任务。

AI数据管道层。这一层包括数据即服务(DaaS)和DataOps平台，后者集成了各种数据架构，以促进端到端数据生命周期。该层还提供了数据预处理功能和特性工程功能，用于管理内部和外部数据源，操作各种固定和非固定数据类型，以及处理批处理和实时数据访问。

AI服务层。这一层包含许多现成的通用api，用于支持ai的服务，如图像处理和自然语言处理(NLP)。API传递可以与现有IT应用程序和/或企业系统(例如，企业资源规划(ERP)、客户关系管理(CRM)和供应链管理(SCM)一起执行的信息(例如，从ML技术获得的见解)或原始数据(例如，通过ML技术获得见解的源数据)，以便在上层交付解决方案。

AI解决方案层。这一层包含支持ai的解决方案，用于解决特定业务领域中的问题。通过AI解决方案层，业务分析师可以帮助领域用户在不同的公司或行业领域交付广泛的AI功能。

所提出的人工智能技术堆栈模型可以被视为一个概念框架，并不映射到具体的系统。然而，该模型清楚地描述了每一层所提供的服务，从而促进了供应商的互操作性，因为供应商可以遵循相同的规则和需求在特定的一层开发产品和服务，从下面的一层获取服务，并向上面的一层公开一致的服务接口。这也意味着用户不需要依赖单一供应商提供从物理层到应用层的所有产品和服务，从而最大限度地减少供应商锁定的威胁。

如表4，用户可以跨层选择来自不同供应商的服务。^2,22以智能CRM为例，企业可以选择亚马逊作为AI基础设施提供商;MLflow在AI平台层获得开源MLOps;AI框架层的开源框架(例如TensorFlow、Keras和PyTorch);AI算法层的一些内部定制的预构建算法;第三方Hopsworks解决方案，在AI数据管道层获得DataOps工具;AI服务层的外部NLP和推荐api;以及一些内部智能CRM解决方案，从现有的CRM扩展到AI支持的NLP和AI解决方案层的推荐服务。总之，所提出的AI技术堆栈模型允许企业在层次之间有更明智的选择，根据SLA和定价选项选择AIaaS和第三方供应商，并利用开源解决方案来保持灵活性。

表4。人工智能技术堆栈互操作性矩阵。^2,22

回到顶部

人工智能技术栈模型在企业中的应用

为了解所需人工智能系统的实施问题，本研究采用系统视角推导出综合IT/IS框架，如数字．当企业将先进的AI技术引入组织以开发所需的AI系统时，需要将先进的AI技术与现有的it / is系统集成，并利用协作DBP。现有IT/IS系统是指企业的遗留IT/IS和数据中心，用于处理企业当前的活动，如ERP、SCM、CRM、办公自动化(OA)和知识管理(KM)，以促进和管理基本的企业数据流——信息流、现金流、商品流和物流活动。我们建议综合IT/IS框架包含三个影响所需AI系统的开发和部署以及底层内部/外包决策的功能。

数字人工智能应用项目的综合IT/IS框架。

连接功能。连接功能使现有IT/IS系统、协作DBP和所需的AI系统能够相互通信，以提取内部数据并以可用的形式获取外部数据，用于分析和ML。因此，AI数据管道层提供的解决方案有望更容易地访问内部和外部数据源，从而扩大可访问数据的范围，更容易与其他负担得起的解决方案集成。为此，预计连接能力较低的公司更倾向于将其AI数据管道外包给AIaaS或第三方供应商，以满足其数据丰富和就业需求。具有强大能力的组织倾向于选择内部方案。

---

所提出的人工智能技术堆栈模型可以被视为一个概念框架，并不映射到具体的系统。

---

现有IT/IS能力。现有的IT能力为组织提供支持基本计算、存储、通信和安全性的硬件基础设施环境。预计现有It能力较低的组织倾向于采用现成的AI基础设施服务。另一方面，现有的信息系统能力与组织的ISs(如ERP、SCM和CRM)及其积累的数据有关。预计现有信息系统能力较低的公司具有用于数据分析的低质量或不足的内部数据/信息，因此倾向于通过AIaaS(例如谷歌分析)或第三方供应商提供的现成的通用api从各种外部数据源收集替代数据。具有高信息系统能力的公司通常更喜欢内部选择。

人工智能功能。AI能力是指(1)通过使用AI算法从大型数据集中提取见解和模式所需的AI分析能力，以及(2)AI项目管理能力，在AI项目生命周期中实现AI的CI/CD/CT，同时通过使用统一的AI框架工具鼓励创新。预计人工智能能力较低的企业倾向于将人工智能的平台、框架和算法外包给AIaaS和第三方供应商。这些供应商还提供不同类型的预训练模型和定制算法，公司可以通过直观的无代码工具进行数据分析。因此，组织可以利用衍生的见解，而无需在获取人才和资源方面进行大量的前期投资。具有高能力的公司可能需要内部选择。

为了进一步证明我们的观点，我们对台湾的四家主要旅游公司进行了实证调查。旅游业是受COVID-19大流行影响最大的行业，该行业迫切寻求数字化转型机会，通过激活人工智能驱动的智能旅游战略，在大流行后的市场中提振业务。我们在一个emba课程上解释了人工智能技术堆栈模型，四家公司表示有兴趣将该模型应用于他们想要的智能旅游推荐系统(STRS)。在下一节中，基于案例的研究在我们的案例分析的关键见解展示之前进行。

回到顶部

案例研究

案例公司，如图所示表5分别是Lion Travel (L)、Colatour Travel (C)、Tripaa Travel (T)和Foru-Tek Travel (F)。L和C公司是传统的旅行社，为客户提供大量的出境导游旅游，因此在其ERP系统中有大量的历史交易数据。因此，他们所期望的旅游目的地侧重于交叉销售和向上销售，通过推荐新的旅游目的地来吸引现有客户。另一方面，T和F公司是提供高级自助游的创业公司。他们的客户大多是独立旅行者，对在线预订工具和应用程序非常熟悉。另外，T公司主打入境旅游，F公司主打日本出境游。他们所期望的stress将一个独特的重点放在了解他们的目标受众和产生新的销售上。

表5所示。受访者公司简介。

将AI技术堆栈模型应用于这四家公司的STRS项目，我们在中列出了每一层已识别和期望的AI产品表6．由于AI技术堆栈模型确定了每个单独层所需的基本AI资源，因此参与的高管可以轻松地确定他们对每个单独层的具体关注点。具体来说，AI技术堆栈模型与综合IT/IS框架的工作环境相结合，允许高管评估和评估他们在每一层的当前状态和所需的能力。因此，为了灵活地开发和部署STRS，每个公司都可以使用评估结果来选择自己的AI产品的内部设计，或者与每一层相关的各种AIaaS产品。

表6所示。用于STRS的AIaaS产品。

表7总结分析结果。根据规定，这四家公司都倾向于采用现成的AI基础设施服务，因为他们现有的IT能力非常有限，无法满足AI基础设施的需求。具体来说，L和C公司的IT人员不具备使用高级AI硬件和软件所需的技能。精通数字技术的T和F公司已经从公共云供应商那里外包了产品，他们可以根据自己的IT设施进行定制，因此通过目前的云服务合作伙伴迁移到人工智能基础设施上没有大问题。在AI平台和AI框架层上，四家公司的AI项目管理能力均较低，倾向于采用AIaaS提供商提供的AI平台和框架服务。

表7所示。案例公司的能力评估和内部和/或外包决策。

此外，L、C和T公司需要学习和理解用户行为的能力，以帮助他们预测用户对特定产品的偏好。这是一个经典的推荐问题，不需要强大的AI分析能力，可以通过现有的AI算法解决。因此，这三家公司更倾向于使用目前可用的人工智能算法来满足他们所需的推荐需求。而F公司的客户更年轻，更喜欢独立、定制、专属的日本游体验。向这些客户提供常规的建议可能不太合适。为了满足这样的期望，F公司开发了一些人工智能分析能力，设计自己的算法，为其独特的客户提供旅行建议。

与AI数据管道层相关，这四家公司都具有较低或中等的连接能力。他们无法开发自己的数据管道平台，所以他们倾向于采用AIaaS提供的产品。具体而言，L和C公司的内部连接能力相对较强，因为他们专注于分析历史旅行记录，为客户推荐合适的旅行计划。相比之下，T和F公司的客户较少，更倾向于关注外部连接功能，允许他们分析外部旅行数据查询和社交媒体相关记录，为客户推荐适当的旅行计划。

关于AI服务层，L和C公司拥有比T和f公司更强的现有IS能力，因为他们已经收集了高质量的历史数据，他们采用现成的开放API的主要目的是利用来自协作dbp的信息来获得有用的业务见解。相比之下，T和F公司的现有IS能力较低，内部数据库也小得多;因此，他们更倾向于采用现成的开放API来从许多协作dbp获得外部(例如，结构化和非结构化)数据。

最后，在人工智能解决方案层，这四家公司都寻求开发自己的stress。L公司和C公司在其ERP系统中已经拥有一个大型的内部数据源，因此他们的STRS被用于为现有客户推荐新的旅行目的地。相比之下，T公司侧重于入境自由行旅游，F公司侧重于出境日本自由行旅游。因此，STRS旨在识别新客户的旅行需求。

总之，智能旅游案例研究演示了如何将AI技术堆栈模型应用于所需的支持AI的应用程序。该评估逻辑可用于其他情况，如智能CRM。例如，结合合成的IT/IS框架，分层结构有助于提供智能CRM中每个支持ai的应用程序正在进行的可视化描述。这可以帮助管理人员识别与现有IT/IS设施相关的关键问题，以及他们需要使用的特定层，并将重点放在相关功能上，以解决遇到的业务问题。此外，这些高管在外包和内部开发解决方案之间做出决定，以及在智能CRM中回收AIaaS产品的需求，以减少特定供应商的锁定问题。

回到顶部

结论及未来工作

为了解决AI应用程序开发和部署中的管理和技术挑战，本研究提出了一个AI技术堆栈模型和一个综合IT/IS框架，该框架将所需的AI系统与现有的IT/IS系统和协作dbp集成在一起。在内部/外包决策方面，提出了三种能力来影响所需企业AI系统的开发/部署。该研究利用STRS项目进行了四个案例研究，以说明和证明AI技术堆栈模型如何帮助高管应对上述挑战。

这项研究的贡献是多方面的。从技术角度来看，分层的AI技术堆栈模型减少了新兴AI技术和AIaaS产品的紧密耦合发展，从而解决了完全捆绑的专有问题和供应商锁定问题，并为开发人员提供了选择AI产品以实现高效实现的灵活性。分层结构还允许管理层轻松定义sla并在每一层应用容错部署。AI团队可以获得开源社区支持，并应用最新的AIaaS产品和MLOps/DataOps。AI资源的按需和按使用付费模式可以进一步部署，以减少不同供应商之间的锁定和未来迁移成本。

---

人工智能数据管道层提供的解决方案有望更容易地访问内部和外部数据源。

---

从管理的角度来看，所提出的模型允许管理人员在特定的层次上检查现有的AIaaS产品，并提供内部开发或外包AI项目的广泛概述。所提出的模型还提供了分层技术组件的明确概念化。这种概念提供了一个共享的参考/指南，用于制定评估并获得跨各个组织单位的见解，为相关利益相关者对当前和所需的AI组件进行联合评估，以开发和部署AI解决方案提供了一种途径。此外，管理人员可以使用这种概念来确定要评估哪一层，评估不同层中的当前功能，并建议内部开发或外包外部供应商来实现所需的功能。

最后，从学术角度来看，所提出的AI技术堆栈模型为SLA、能力成熟度模型(CMM)、AI就绪性和支持AI的应用程序生命周期管理框架等领域的进一步研究提供了基础。例如，通过AI平台层提供的AutoML产品(MLOps、DataOps和DevOps)和/或AI数据管道层提供的CI/CD/CT管理功能，有助于管理复杂的AI管道，并确保企业获得所需的结果。通过每一层提供的丰富的非锁定、松散耦合和灵活的服务，AI技术堆栈模型可以用作构建AI生命周期管理的基础，并解决AI中所需的不断模型修订。

回到顶部

回到顶部

数字图书馆是由计算机协会出版的。版权所有©2023 ACM, Inc.

---

没有找到条目