工业AIOT应用的边缘计算

工业互联网（IIT）应用程序的应用程序比以往任何时候都产生更多数据。在许多工业应用中，特别是位于偏远地区的高度分布式系统，定期将大量原始数据发送到中央服务器。为了减少延迟，降低数据通信和存储成本，同时增加网络可用性，企业将人工智能（AI）和机器学习（ML）移动到边缘，以进行实时决策和现场的动作。

这些应用程序在IOT基础架构上部署AI功能称为事物的人工智能（AIT）。虽然AI模型仍在云中训练，但可以通过在边缘计算机上部署训练的AI模型来在现场执行数据收集和推理。通过选择用于工业AIT应用的右边缘计算机开始。

将人工智能带入工业物联网

工业互联网上的出现（IIOT）允许各种企业从以前未开发的来源收集大量数据，并探索新的途径，以提高生产力。通过从现场设备和机械获取性能和环境数据，组织有更多信息来提出更明智的业务决策。IIOT数据远远超出了人类处理它的能力，这意味着大多数信息都不分析和未使用。企业和行业专家正在转向IIOT应用程序的AI和ML软件，以获得整体视图，并更快地制定更聪明的决策。

大多数IIOT数据不明显

连接到互联网的交易的工业设备数量迅速增长，预计将在2025年达到416亿个端点。更多的思想令人难以置信是每个设备产生的数据。手动分析制造装配线上传感器产生的所有信息都可能需要一生。毫无疑问，“不到一半的组织结构数据被积极用于做出决策，并且完全不到1％的非结构化数据被分析或使用，”根据2017年5月哈佛商业审查文章，“你的数据策略是什么？“引用”跨行业研究“。

在IP摄像头的情况下，每天生成的近1.6艾字节的视频数据中，只有10%得到了分析。这些数字表明，尽管有能力收集更多的信息，但在数据分析方面存在惊人的疏忽。人类无法分析所有产生的数据，这就是为什么企业寻求将人工智能和ML纳入工业物联网应用的方法。

想象一下，如果我们完全依赖于人类的愿景，每天5天每天在制造装配线上手动检查高尔夫球上的微小缺陷8小时。即使是一支整个军队的检查员，每个人都仍然对疲劳和人为错误的敏感性。同样，手动视觉检查铁路轨道紧固件，只能在火车停止运行后的半夜进行，不仅耗时，而且难以理解。手动检查高压电源线和变电站设备还将人类人员暴露于额外的风险。

将AI与IIOT结合起来

在前面讨论的每一个工业应用中，“AIoT”都能够降低人工成本，减少人为错误，优化预防性维护。人工智能是指在物联网应用中采用人工智能技术，以提高运行效率、人机交互、数据分析和管理。但人工智能是什么意思?它如何融入工业物联网?

人工智能是研究如何构造智能程序和机器来解决传统上由人类智能完成的问题的一般科学领域。人工智能包括ML, ML是人工智能的一个特定子集，可以让系统通过各种算法和神经网络等无需编程的情况下，通过经验自动学习和改进。另一个相关术语是“深度学习”(DL)，它是ML的一个子集，其中多层神经网络从大量数据中学习。

由于人工智能是一个如此广泛的学科，下面的讨论重点是计算机视觉或人工智能驱动的视频分析，人工智能的其他子领域经常与ML一起使用，如何在工业应用中用于分类和识别。

从数据阅读中的远程监控和预防性维护，识别用于控制智能交通系统中的交通信号的车辆，农业无人机和户外巡逻机器人，以高尔夫球和其他产品，计算机视觉和其他产品的微小缺陷的自动光学检测（AOI）视频分析对工业应用的提高生产力和效率更大。

将AI移动到IIT Edge

IIOT系统的增殖正在产生大量数据。例如，大型炼油厂中的众多传感器和设备每天产生1 TB的原始数据。将所有这些原始数据返回到公共云或专用服务器以进行存储或处理需要相当大的带宽，可用性和功耗。在许多工业应用中，特别是位于偏远地区的高度分布式系统，不断将大量数据发送到中央服务器。

即使公司拥有带宽和足够的基础设施，这是部署和维护的非常昂贵的，数据传输和分析仍然存在大幅延迟。关键任务工业应用必须尽快分析原始数据。

为了减少延迟，降低数据通信和存储成本，并提高网络可用性，工业物联网应用正在将人工智能和ML功能移至网络边缘，以便在现场直接实现更强大的预处理功能。更具体地说，边缘计算处理能力的进步使工业物联网应用能够在偏远地区利用人工智能决策能力。

通过将现场设备与配备强大本地处理器和人工智能的边缘计算机连接起来，所有数据不再需要发送到云端进行分析。事实上，到2025年，在远端和近端站点创建和处理的数据预计将从10%增加到75%，而整个边缘AI硬件市场预计将看到20.64%的复合年增长率(CAGR)到2024年。

为工业AIT选择右边电脑

在将AI带到工业物联网应用程序方面，有几个要考虑的关键问题。尽管涉及培训AI型号的大部分工作仍然在云中进行，但公司最终将需要部署在该领域的培训的推理模型。AIT Edge Computing基本上使AI推断为现场，而不是将原始数据发送到云以进行处理和分析。为了有效地运行AI模型和算法，工业AIT应用需要在边缘处需要可靠的硬件平台。要为AIOT应用选择合适的硬件平台，请考虑以下因素。

1. 对AI实施不同阶段的处理要求
2. 计算边缘的水平
3. 开发工具
4. 环境问题。

对AI实施不同阶段的处理要求

一般来说，AIoT计算的处理需求与应用程序需要多少计算能力以及是否需要中央处理单元(CPU)或加速器有关。由于构建人工智能边缘计算应用程序的以下三个阶段使用不同的算法来执行不同的任务，所以每个阶段都有自己的一套处理需求。

建立AIOT应用中的三个阶段

建立AIOT应用的三个阶段是数据收集，培训和推理。

1. 数据采集​​：本阶段的目标是获得大量信息来培训AI模型。原始的，单独的未加工数据并不有用，因为信息可能包含重复，错误和异常值。预处理收集的初始阶段的数据以识别模式，异常值，以及缺少信息还允许用户纠正错误和偏差。根据收集的数据的复杂性，通常在数据收集中使用的计算平台通常基于ARM Cortex或Intel Atom /核心处理器。通常，输入/输出（I / O）和CPU规范，而不是图形处理单元（GPU），对于执行数据收集任务更为重要。
2. 训练：AI模型需要在先进的神经网络和资源饥饿的ML或DL算法上进行培训，以便需要更强大的加工能力，例如强大的GPU，以支持并行计算以分析大量收集和预处理的训练数据。培训AI模型涉及选择ML模型并在收集和预处理的数据上培训。在此过程中，需要评估和调整参数以确保准确性。可以选择许多培训型号和工具，包括特写DL设计框架，例如Pytorch，Tensorflow和Caffe。通常对指定的AI培训机器或云计算服务进行培训，例如亚马逊的AWS深度学习AMI，亚马逊SAGEMAKER自动驾驶仪，Google Cloud AI或Microsoft Azure Machine学习，而不是在该领域。
3. 推理：最后阶段涉及在边缘计算机上部署训练的AI模型，以便快速有效地基于新收集和预处理的数据进行推断和预测。由于推理阶段通常消耗较少的计算资源，而不是训练，因此CPU或轻质加速器可能足以用于AIT应用。尽管如此，需要转换工具来转换训练的模型以在专用边缘处理器/加速器上运行，例如英特尔OpenVino或Nvidia Cuda。推理还包括几个不同的边缘计算级别和要求。

边缘计算级别，架构

虽然云仍在云端或本地服务器上执行AI培训，但数据收集和推理必然发生在网络的边缘。此外，由于培训的AI模型大多数工作来实现应用目标的介绍（例如基于新收集的现场数据进行决策或执行动作），因此需要确定以下哪个级别的边缘计算级别需要选择合适的处理器。

低边缘计算级别：在边缘和云之间传输数据是昂贵且耗时的，并且导致延迟。通过低边缘计算，仅将少量​​有用数据发送到云，这减少了滞后时间，带宽，数据传输费用，功耗和硬件成本。没有加速器的基于ARM的平台可用于IIT设备，以收集和分析数据以进行快速推断或决策。

中边缘计算级别：这种推断级别可以处理具有足够处理帧速率的计算机视觉或视频分析的各种IP摄像机流。中边级计算包括基于AI模型的广泛的数据复杂度和使用情况的性能要求，例如Office进入系统的面部识别应用与大规模公共监控网络相反。大多数工业边缘计算应用还需要考虑有限的电力预算或无风扇设计进行散热。可以在此级别使用高性能CPU，入门级GPU或视觉处理单元（VPU）。例如，英特尔酷睿i7系列CPU提供了一个高效的计算机视觉解决方案，具有可以在边缘执行推断的OpenVino工具包和基于软件的AI / ML加速器。

高边缘计算等级：高边缘计算涉及处理使用更复杂的模式识别的AI专家系统的更重大数据，例如公共安全系统中自动视频监控的行为分析，以检测安全事件或潜在威胁的事件。高边缘计算级别推理通常使用加速器，包括高端GPU，VPU，Google Tensor处理单元（TPU）或现场可编程门阵列（FPGA），其消耗更多的功率（200 W或更多）并产生多余的热量。由于所产生的必要功耗和热量可能超过网络的远边缘的极限，例如上升移动列车，高边缘计算系统通常部署在近边站点（例如在火车站中）进行执行任务。

AI，ML应用程序的开发工具

各种硬件平台提供了几种工具，可帮助加快应用程序开发过程或提高AI算法和ML的整体性能。

深度学习框架

考虑使用DL框架，它是一种界面、库或工具，允许用户更容易、更快速地构建深度学习模型，而不涉及底层算法的细节。深度学习框架为使用预先构建和优化的组件集合定义模型提供了一种清晰而简洁的方法。最受欢迎的三个包括:

• Pytorch：Pytorch主要由Facebook的AI Research Lab开发，是基于火炬库的开源ML库。它用于计算机愿景和自然语言处理等应用，是在修改的BSD许可证下发布的自由和开源软件。
• Tensorflow：使用Tensorflow的用户友好的基于Keras的API启用快速原型，研究和生产，用于定义和培训神经网络。
• Caffe提供一种富有表现力的架构，允许用户在没有硬编码的情况下定义和配置模型和优化。设置单个标志以在GPU机器上培训模型，然后部署到商品集群或移动设备。

基于硬件的加速器工具包

人工智能加速器工具包可从硬件供应商获得，专门设计用于在其平台上加速人工智能应用，如ML和计算机视觉。

• 英特尔OpenVino：英特尔的开放式无视推断和神经网络优化（OpenVino）工具包旨在帮助开发人员在英特尔平台上构建强大的计算机视觉应用程序。OpenVino还可以更快推理DL模型。
• nvidia cuda：CUDA Toolkit在嵌入式系统，数据中心，云平台和基于NVIDIA的Compute Unified Device架构（CUDA）上的超级计算机上，可以为GPU加速应用程序进行高性能并行计算。

AI，ML应用位置，环境考虑

最后但并非最不重要的是，考虑将实现应用程序的位置的物理位置。户外或在恶劣环境中部署的工业应用（如智能城市，石油和天然气，采矿，电源或户外巡逻机器人应用）应具有宽的工作温度范围和适当的散热机制，以确保起泡热或冷冻天气的可靠性状况。某些应用还需要行业特定的认证或批准，如无风扇设计，防爆结构和抗振性。由于许多现实世界应用部署在空间有限的橱柜中，并且受到尺寸限制，因此优选小型系数边缘计算机。

远程站点中的高度分布式工业应用也可能需要通过可靠的蜂窝或Wi-Fi连接来通信。例如，具有集成蜂窝LTE连接的工业边缘计算机消除了对额外的蜂窝网关的需求，并节省有价值的机柜空间和部署成本。另一种考虑因素是冗余无线连接，也可能需要使用双SIM卡，以确保如果一个蜂窝网络信号较弱或倒闭，则可以传送数据。

AI提高了运营效率，降低了成本

将人工智能技术应用于工业应用，可以提高企业的运营效率，降低风险和成本。为工业AIoT应用选择合适的计算平台还应解决实现三个阶段的具体处理需求:(1)数据收集，(2)训练和(3)推理。对于推理阶段，还要确定边缘计算水平(低、中、高)，选择最合适的处理器类型。

通过仔细评估AIoT应用程序在每个阶段的具体要求，选择最适合的边缘计算机在现场执行工业人工智能推理任务，

埃桑陈和艾丽西亚王是产品经理米西;由Mark T. Hoske，Content Manager编辑，控制工程，CFE媒体和技术那mhoske@cfemedia.com.。

关键词：AI，ML，工业边缘计算，IIOT

考虑一下这一点

考虑AI支持边缘计算支持更智能的实时决策。