混合人工智能如何改善边缘计算和用户体验

混合人工智能(AI)作为数据驱动的机器智能方法的配套技术，可以帮助边缘计算的发展。

通过Ari Kamlani 2022年10月8日

由Brett Sayles提供

学习目标

边缘计算系统的设计具有不同且通常有限的能力级别，需要接近操作才能有效。
混合人工智能作为数据驱动的机器智能方法的配套技术，可以改进边缘计算。

人工智能洞察

人工智能(AI)被应用于许多不同的行业，为用户提供关于日常运营的更深入的见解和信息。
边缘计算软件集成了人工智能，以提供更好的见解，但它能做的事情有限。
混合人工智能作为数据驱动的机器智能方法的配套技术，可以通过克服推理、顺序规划和为用户提供可操作的反馈方面的限制边界来改进边缘计算。

人工智能(AI)正在一系列行业中开发和部署。它使许多公司能够利用新的机会，创造商业模式并获得竞争优势。对于工业、能源、国防、医疗保健和金融领域，人工智能正在成为企业在各自市场类别中有效竞争能力的核心差异化价值驱动因素。

以物联网(IoT)为例。预测显示，到2025年将会有超过750亿台物联网设备正在使用比2019年增长了近三倍。随着这一数字继续呈指数级增长，将所有这些设备与智能功能连接起来将是充分发挥物联网潜力的最大挑战之一。

随着设备和系统的技术能力的成熟，物理世界中的几乎所有对象都可以具有内置或改装的连接和计算功能。用户的期望也有所提高。用户对自己的体验和互动接触点有更高的要求，他们的用户体验类似于智能手机和笔记本电脑。机器学习用户体验MLUX (ML + UX)需要精心设计，并提供积极、有影响力、上下文相关和全面的用户体验，并将摩擦点最小化，以进一步增强和促进采用。

边缘计算系统正在发展

边缘系统的设计具有不同且通常有限的计算机处理预算、存储和内存占用、网络连接和操作限制。边缘范式移动到本地处理数据，在那里感知、生成和操作数据;不过，在某些场景中，它的类云功能可以通过边缘网关进一步扩展，以提供低延迟和高带宽利用率。

在整个频谱中，硬件家族可以跨越资源受限的超低功耗裸金属设备、RTOS微控制器(例如ARM Cortex-M)和SoC应用微处理器(例如ARM Cortex-A)配置文件功能。原始设计制造商/原始设备制造商(ODM/OEM)授权的应用配置文件目标通常出现在智能手机和平板电脑中，和/或作为连接到外部微控制器、传感器和执行器或基带处理器的应用处理器。在此范围内，先进的专用AI加速器ASIC设备被设计用于处理高性能AI操作员指令，并支持最先进的(SOTA)模型。虽然硅采用的实现将滞后于人工智能研究，但它带来了性能提高的好处，这间接地与最终用户体验联系在一起。

在部署生命周期之前，许多SoTA AI模型需要在不降低目标性能的情况下进一步优化和压缩。随着该领域的发展，嵌入式目标的模型部署已经转向了嵌入式系统范式，其中代码在目标的主机上交叉编译。

用户可以通过中间格式(mlr)和运行时执行环境，将这些模型编译并优化到处理器目标和设备执行，而不是部署更小的参数化蒸馏模型(以目标性能为代价)来在硬件后端执行。这也与交付改进的低延迟和用户体验有关。

在运营执行期间，人工智能边缘系统需要具有一定程度的独立性，尽管存在局限性，但仍然可以做出高性能决策，直到它们能够利用更强大的资源以及来自连接的云基础设施的数据和知识。对于连接的设备，这种独立状态称为紧急模式。

利用混合AI提高优势

使用混合人工智能是推进边缘人工智能的潜在途径。现状。混合人工智能作为数据驱动的机器智能方法的配套技术，补充了认知符号人工智能能力，克服了推理、顺序规划、可操作的反馈以及类似人类的可理解解释和解释方面的限制。核心重点是与用户的协作交互，作为上下文决策支持顾问和诊断系统，特别是在与高风险、不确定性和未知相关的情况下。

例子:在NASA喷气推进实验室(NASA JPL)内，为火星探测器着陆开发了混合人工智能，增加了推理智能，以改善在不熟悉的情况和传统技术难以解决的复杂地形下的导航。

通过使用混合AI，系统可以通过编码的人类专家知识和约束、行业指南和最佳实践以及传统的支持历史和流事件信息来丰富。这些认知引擎和算法模拟假设的路径和场景，提出行动方案，并组成智能的近实时决策，即使在那些在操作、获取和获取高质量数据方面被认为不太理想的边缘条件下也是如此。

例子:考虑边缘设备的用例，这些设备连接有限或不稳定，在恶劣或远程环境中运行，具有长尾数据分布，受其数据采集和存储的限制。或者当设备触发故障周期时，不愉快的路径，在传感器融合的时间周期内具有冲突数据，并操纵高风险错误条件路径。这些都是选择性的例子，传统的大数据和微调方法不太适合。混合人工智能可以直接作为建议的行动计划和用户反馈循环的一部分来促进这些条件，也可以利用知识和约束间接地通过底层模型修正实现。

在物联网和其他边缘运行的系统中使用混合人工智能，为连接、用户体验和运营成本决策解锁了新的潜力。人工智能的未来愿景包括可以完成传统机器学习系统在网络边缘和更大的生态系统和价值链之外所不及的任务的认知系统:智能流畅地与人类专家互动，提供清晰可操作的解释，并增强用户对决策的信任和信心。

Ari Kamlani高级人工智能解决方案架构师和数据科学家超出了限制．由网页内容经理克里斯·瓦夫拉编辑，控制工程， CFE媒体与技术，cvavra@cfemedia.com．