在传统企业网络中,数据往返云端的延迟可能从几十毫秒到几百毫秒不等,具体取决于网络路径和距离。[2] 这种速度对于工业系统的实时控制和安全功能来说太慢了。此外,在云端处理每个事件还会增加通信成本,并在网络连接不佳时带来系统中断的风险。

边缘人工智能 (AI) 通过在硬件上直接运行机器学习 (ML) 模型来解决上述部分局限性。这种策略使系统能够立即做出决策,而无需等待远程服务器。在本周的“新技术星期二”中,我们将探讨本地处理如何在工业自动化和机器视觉系统中得到日益广泛的应用,在这些系统中,对传感器和图像数据的即时响应至关重要。.

超越概念验证

边缘人工智能技术早期仅应用于受控的试点项目或特定热点区域。它旨在验证概念,而非日常使用。但这种情况正在迅速改变。随着工具和硬件平台的不断发展,边缘人工智能正走出实验室,进入现实世界中全天候运行的生产系统。.

这很大程度上归功于软件。如今的边缘平台能够更好地与人工智能生态系统的其他部分进行通用通信。它们支持通用框架和运行时环境,从而简化了模型从开发环境到已部署系统的迁移。这种兼容性也简化了数据或需求变更时模型的更新。.

然而,易于部署并非唯一重要因素。可靠性至关重要,尤其是在系统全天候运行的情况下。将推理处理放在本地意味着边缘的 AI 设备无需依赖网络连接即可运行。在制造工厂或远程监控站等环境中,这种弹性提供了便利,在某些情况下甚至至关重要。即使连接中断,系统也能继续运行。.

边缘模型正变得越来越小巧、越来越实用。

目前,边缘人工智能领域的一大变化是模型小型化的趋势。团队不再追求构建尽可能庞大的网络,而是专注于开发能够在硬件资源有限的环境下运行的模型。量化和剪枝等技术有助于减少过多的处理和内存占用,同时几乎不影响性能。.[3]

如今,这类优化方案之所以切实可行,是因为过去需要强大处理器和充足内存的模型,现在可以在几年前还遥不可及的硬件上运行。这有助于弥合研究环境与生产工厂和现场设备部署之间的差距。该领域的持续研究不断表明,在不牺牲性能的前提下,大幅降低系统占用空间和处理能力是完全可行的。.

因此,硬件限制正在降低。边缘人工智能不再局限于位于网络边缘的高端服务器。工程师可以在更经济的嵌入式板卡和网关上实现实时推理,通常可以集成到已经负责控制、监控和通信的同一系统中。这种灵活性使得边缘人工智能能够更广泛地应用于各种工业系统。.

减少数据传输正成为关键因素

推动边缘人工智能应用普及的另一个趋势是数据传输成本。[4] 将高分辨率传感器数据流或原始机器视觉帧发送回云端速度慢、带宽消耗大,而且成本可能很快飙升。规模化后,这些成本甚至会超过收益。因此,越来越多的组织希望在数据生成地附近进行数据管理。

通过在本地对数据进行过滤、汇总或分类,边缘人工智能系统在早期阶段就能降低网络和存储系统的负载。由于对远程基础设施的依赖性较低,边缘人工智能部署能够更好地应对网络速度减慢或临时中断的情况,从而持续处理数据。.[5]

为您的创新设计提供最新产品®

研华AOM-2721开发套件是一款专为评估边缘人工智能而设计的嵌入式计算平台。它集成了高通QCS6490系统芯片(SoC),该芯片最多可配备8个Kryo核心,运行频率最高可达2.7 GHz,此外还集成了视觉处理单元(VPU)和图形处理单元(GPU),以及8 GB高速LPDDR5内存。.

该电路板包含常见的行业接口,如 PCIe Gen3、USB 3.2、千兆以太网和 MIPI-CSI 摄像头输入,以及用于显示器的 HDMI、DisplayPort 和 LVDS 接口(图 1),使其适用于嵌入式和以视觉为中心的 AI 任务。.

研华AOM 2721图

图 1:研华 AOM-2721 开发套件框图(来源:贸泽电子)

结论 

边缘人工智能已成为工业系统不可或缺的一部分,这些系统需要快速响应、可预测的行为以及更低的数据传输成本。随着模型尺寸的缩小和边缘硬件的不断改进,团队可以超越概念验证阶段,将其部署到生产系统中。这项技术也在改变工程师的开发方式。.

研华AOM-2721等平台允许在设计流程早期阶段评估边缘AI工作负载,因此它们无需作为附加组件处理。通过早期集成,自动化系统设计团队无需进行大幅度重新设计,即可从测试阶段过渡到实际运行阶段。.

来源

[1]https://explodingtopics.com/blog/data-generated-per-day
[2]https://blog.equinix.com/blog/2021/08/09/cloud-vs-edge
[3]https://www.tensorflow.org/model_optimization/guide/pruning; https://www.edgeimpulse.com/blog/7-tips-for-optimizing-ai-models-for-tiny-devices
[4]https://www.cloudoptimo.com/blog/the-true-cost-of-cloud-data-egress-and-how-to-manage-it/
[5]https://azure.microsoft.com/en-us/resources/cloud-computing-dictionary/what-is-edge-computing

本文由 Mouser Electronics 提供,网址 :https://www.mouser.com