La latenza dei dati che viaggiano da e verso il cloud può variare da decine a centinaia di millisecondi sulle reti aziendali tradizionali, a seconda del percorso di rete e della distanza.^[2] Questa velocità è troppo lenta per le funzioni di controllo e sicurezza in tempo reale nei sistemi industriali. L'elaborazione di ogni evento nel cloud aumenta anche i costi di comunicazione e introduce il rischio di interruzioni del sistema quando la connettività è scarsa.

L'intelligenza artificiale (IA) in locale (edge ​​computing) affronta alcune di queste limitazioni eseguendo modelli di apprendimento automatico (ML) direttamente sull'hardware. Questa strategia consente ai sistemi di prendere decisioni immediatamente, senza dover attendere un server remoto. Nel New Tech Tuesday di questa settimana, esploriamo come l'elaborazione locale venga sempre più utilizzata nell'automazione industriale e nei sistemi di visione artificiale, dove è fondamentale rispondere immediatamente ai dati provenienti da sensori e immagini.

Oltre la dimostrazione di fattibilità

Agli albori, l'intelligenza artificiale distribuita (edge ​​AI) era una tecnologia utilizzata solo in progetti pilota controllati o in aree specifiche. Era una tecnologia progettata per dimostrare la validità di un concetto, non per l'uso quotidiano. Questa situazione sta cambiando rapidamente. Con l'avanzare dello sviluppo di strumenti e piattaforme hardware, l'edge AI sta uscendo dai laboratori per entrare a far parte di sistemi di produzione reali e sempre attivi.

Gran parte di ciò è dovuto al software. Le piattaforme edge odierne sono più brave a parlare lo stesso linguaggio del resto dell'ecosistema dell'IA. Supportano framework e runtime comuni, semplificando la migrazione dei modelli dallo sviluppo ai sistemi implementati. Questa compatibilità semplifica anche l'aggiornamento dei modelli quando cambiano i dati o i requisiti.

Tuttavia, la facilità di implementazione non è l'unico fattore importante. L'affidabilità è fondamentale, soprattutto quando i sistemi sono in funzione 24 ore su 24. Mantenere l'elaborazione inferenziale in locale significa che un dispositivo AI in periferia non deve dipendere da una connessione di rete per funzionare. In ambienti come impianti di produzione o stazioni di monitoraggio remote, questa resilienza offre praticità e può persino essere cruciale in alcuni casi. Se la connettività viene persa, il sistema può continuare a funzionare.

I modelli all'avanguardia stanno diventando più piccoli e pratici

Attualmente, uno dei cambiamenti più significativi nell'ambito dell'intelligenza artificiale edge è la tendenza verso modelli più piccoli. Invece di costruire la rete neurale più grande possibile, i team si concentrano su modelli che possono essere eseguiti su hardware limitato. Tecniche come la quantizzazione e il pruning contribuiscono a eliminare l'eccessivo utilizzo di risorse di elaborazione e memoria, mantenendo le prestazioni praticamente inalterate.^[3]

Questo tipo di ottimizzazioni è oggi pratico perché i modelli che in passato richiedevano processori potenti e ampie quantità di memoria possono ora essere eseguiti su hardware che sarebbe stato irraggiungibile solo pochi anni fa. Ciò contribuisce a colmare il divario tra ciò che funziona negli ambienti di ricerca e ciò che può essere implementato negli impianti di produzione e nelle apparecchiature da campo. Il lavoro in corso in questo ambito continua a dimostrare che è possibile ottenere riduzioni significative dell'ingombro e della potenza di elaborazione senza sacrificare le prestazioni.

Pertanto, i vincoli hardware si stanno riducendo. L'intelligenza artificiale in periferia non deve essere limitata a server di fascia alta situati ai margini della rete. Gli ingegneri possono implementare l'inferenza in tempo reale su schede embedded e gateway più modesti, spesso all'interno degli stessi sistemi che già gestiscono il controllo, il monitoraggio e le comunicazioni. Questa flessibilità rende l'intelligenza artificiale in periferia più applicabile a una gamma più ampia di sistemi industriali.

Ridurre il movimento dei dati sta diventando un fattore chiave

Un'altra tendenza che spinge all'adozione dell'IA all'edge è il costo del trasferimento dei dati.^[4] L'invio di flussi di dati ad alta risoluzione dai sensori o di frame grezzi di visione artificiale al cloud è lento, richiede molta larghezza di banda e può diventare rapidamente costoso. Su larga scala, questi costi possono superare i benefici. Di conseguenza, sempre più organizzazioni desiderano gestire i dati più vicino al punto in cui vengono generati.

Filtrando, riassumendo o classificando i dati localmente, i sistemi di intelligenza artificiale edge riducono il carico sia sulle reti che sui sistemi di archiviazione nelle fasi iniziali. Grazie a una minore dipendenza dalle infrastrutture remote, le implementazioni di intelligenza artificiale edge sono più in grado di continuare a elaborare i dati anche in caso di rallentamenti o interruzioni temporanee della rete.^[5]

I prodotti più innovativi per i vostri progetti più all'avanguardia®

Il kit di sviluppo Advantech AOM-2721 è una piattaforma di elaborazione embedded progettata per la valutazione dell'intelligenza artificiale in ambito edge computing. Incorpora un system-on-a-chip (SoC) Qualcomm QCS6490 con un massimo di otto core Kryo operanti fino a 2,7 GHz, un'unità di elaborazione visiva (VPU) e un'unità di elaborazione grafica (GPU) integrate e 8 GB di memoria LPDDR5 ad alta velocità.

La scheda include interfacce standard del settore come PCIe Gen3, USB 3.2, Gigabit Ethernet e ingressi per telecamera MIPI-CSI, oltre a HDMI, DisplayPort e LVDS per i display (Figura 1), rendendola adatta per applicazioni embedded e attività di intelligenza artificiale incentrate sulla visione.

Figura 1: Diagramma a blocchi del kit di sviluppo Advantech AOM-2721 (fonte: Mouser Electronics)

Il miglioramento 

L'intelligenza artificiale distribuita (Edge AI) è diventata un requisito imprescindibile per i sistemi industriali che necessitano di tempi di risposta rapidi, comportamenti prevedibili e costi di trasferimento dati ridotti. Grazie alla miniaturizzazione dei modelli e al continuo miglioramento dell'hardware edge, i team possono passare dalla fase di proof-of-concept all'implementazione in sistemi di produzione. Questa tecnologia sta inoltre cambiando l'approccio degli ingegneri allo sviluppo.

Piattaforme come Advantech AOM-2721 consentono di valutare i carichi di lavoro di intelligenza artificiale in locale, già nelle prime fasi del processo di progettazione, evitando che vengano considerati come un'aggiunta successiva. Grazie all'integrazione precoce, i team che progettano sistemi di automazione possono passare dalla fase di test a quella operativa nel mondo reale senza dover ricorrere a drastiche riprogettazioni.

Fonti

[1]https://explodingtopics.com/blog/data-generated-per-day
[2]https://blog.equinix.com/blog/2021/08/09/cloud-vs-edge
[3]https://www.tensorflow.org/model_optimization/guide/pruning; https://www.edgeimpulse.com/blog/7-tips-for-optimizing-ai-models-for-tiny-devices
[4]https://www.cloudoptimo.com/blog/the-true-cost-of-cloud-data-egress-and-how-to-manage-it/
[5]https://azure.microsoft.com/en-us/resources/cloud-computing-dictionary/what-is-edge-computing

Articolo fornito da Mouser Electronics, https://www.mouser.com