Nuvola o Edge? Questa è la domanda sbagliata

Perché l'infrastruttura di intelligenza artificiale aziendale deve seguire il carico di lavoro

Man mano che l’intelligenza artificiale passa dalla sperimentazione ai processi aziendali quotidiani, le organizzazioni devono prendere decisioni infrastrutturali sempre più pratiche. Dove dovrebbero essere eseguite le applicazioni di intelligenza artificiale? Quali carichi di lavoro appartengono al cloud? Quando ha più senso elaborare dati più vicini agli utenti, alle macchine o ai dati?

Potrebbe essere allettante inquadrare questo come una scelta tra cloud ed edge. Ma l’intelligenza artificiale aziendale raramente si adatta perfettamente a un ambiente.

Un assistente AI che supporta i dipendenti ha esigenze molto diverse da un sistema di visione artificiale che ispeziona i prodotti su una linea di produzione. Un'applicazione di manutenzione predittiva che elabora i dati delle apparecchiature ha ancora esigenze diverse.

La domanda più utile non è quindi “Cloud o edge?” ma “Dove dovrebbe essere eseguito questo particolare carico di lavoro di intelligenza artificiale?” La risposta dipende da cosa deve fare il carico di lavoro, da dove provengono i suoi dati e da quanto velocemente, in modo sicuro e affidabile deve funzionare.

L’intelligenza artificiale non ha un requisito infrastrutturale

Il termine “IA aziendale” copre una gamma sempre più ampia di applicazioni.

Alcuni carichi di lavoro di intelligenza artificiale elaborano le informazioni in modo centralizzato e possono sfruttare la scalabilità e le risorse di elaborazione disponibili nel cloud. Altri interagiscono direttamente con gli ambienti fisici, generando e analizzando continuamente dati in fabbriche, magazzini, negozi o altri luoghi.

Prendiamo in considerazione un'applicazione di visione artificiale utilizzata per il controllo qualità su una linea di produzione. Le fotocamere possono generare un flusso continuo di immagini che devono essere analizzate abbastanza rapidamente da identificare un difetto mentre il prodotto è ancora in movimento attraverso il processo di produzione.

Inviare ogni immagine a un ambiente cloud centrale per l'analisi potrebbe non essere sempre l'approccio più appropriato. L'elaborazione più vicina alla linea di produzione può ridurre la quantità di dati che devono viaggiare attraverso la rete e consentire di prendere decisioni a livello locale.

Un assistente AI aziendale presenta una situazione diversa. Potrebbe aver bisogno di accedere ad applicazioni e informazioni distribuite in tutta l'organizzazione e trarre vantaggio da servizi di intelligenza artificiale centralizzati basati su cloud.

Entrambi sono carichi di lavoro di intelligenza artificiale, ma i loro requisiti infrastrutturali sono molto diversi.

Spunti di riflessione: stai decidendo dove dovrebbe essere eseguita l'intelligenza artificiale in base a una strategia tecnologica complessiva o ai requisiti effettivi di ciascun carico di lavoro?

A volte l’intelligenza artificiale dovrebbe avvicinarsi ai dati

Gran parte del dibattito sull'infrastruttura dell'intelligenza artificiale si concentra sull'elaborazione: dove le organizzazioni possono accedere alla capacità di elaborazione necessaria per eseguire modelli sempre più sofisticati. Ma c'è un altro lato dell'equazione: i dati stessi. L'intelligenza artificiale dipende dai dati e lo spostamento di grandi volumi di dati tra posizioni, cloud e applicazioni può comportare requisiti di rete, latenza e costi. Negli ambienti operativi, alcuni di questi dati potrebbero anche essere altamente sensibili al fattore tempo o potrebbero non dover più essere conservati o trasferiti una volta analizzati. È qui che l'edge computing diventa particolarmente rilevante.

Invece di spostare continuamente i dati in una posizione centrale per l’elaborazione, le organizzazioni possono posizionare le risorse informatiche più vicine al luogo in cui tali dati vengono generati. L'inferenza dell'intelligenza artificiale può quindi avvenire localmente, mentre i risultati selezionati o le informazioni rilevanti vengono inviati ai sistemi centrali.

Un sito di produzione, ad esempio, potrebbe analizzare localmente i dati video o dei sensori e inviare avvisi, anomalie o informazioni aggregate a una piattaforma centrale anziché trasferire ogni singolo dato grezzo.

Ciò cambia la questione delle infrastrutture. Invece di chiedere sempre “Come facciamo a portare i dati all'IA?”, le organizzazioni possono anche chiedere: “Dovremmo avvicinare l'IA ai dati?”

Quando i millisecondi – e la connettività – contano

Per molte applicazioni aziendali, un breve ritardo nella ricezione di una risposta generata dall'intelligenza artificiale è perfettamente accettabile. Per altri, può influenzare il processo aziendale stesso.

L'intelligenza artificiale utilizzata nell'automazione industriale, nella visione artificiale, nella logistica, nella mobilità connessa o in altri ambienti operativi potrebbe dover analizzare le informazioni e rispondere molto rapidamente, rendendo particolarmente importante un'elaborazione più vicina al luogo in cui vengono generati i dati o in cui sono necessarie decisioni.

Un'elaborazione più vicina al luogo in cui si verifica un evento può aiutare a ridurre la distanza che i dati devono percorrere prima che venga presa una decisione.

Un altro aspetto da considerare è la resilienza. Se un processo supportato dall'intelligenza artificiale dipende interamente dalla connettività a un ambiente cloud distante, cosa succede quando tale connessione viene interrotta? Non tutte le applicazioni devono continuare a funzionare in modo indipendente durante un'interruzione della rete, ma per i processi critici per l'azienda, la capacità di eseguire almeno una parte dell'elaborazione localmente può diventare un'importante considerazione architettonica. Ciò non elimina la necessità di connettività. In effetti, gli ambienti di intelligenza artificiale distribuiti possono rendere la connettività affidabile ancora più importante perché modelli, applicazioni, dati e piattaforme di gestione devono ancora comunicare tra le sedi. La differenza è che non tutte le decisioni devono necessariamente percorrere l'intera distanza prima di poter essere prese.

Il cloud ha ancora un ruolo importante

Avvicinare l'intelligenza artificiale al luogo in cui vengono generati i dati non significa allontanarsi dal cloud.

Gli ambienti cloud forniscono accesso a risorse informatiche scalabili, piattaforme di intelligenza artificiale e servizi che per molte organizzazioni sarebbero difficili da riprodurre in modo indipendente in ogni sede. Possono inoltre fornire un ambiente centrale per la gestione di applicazioni, modelli e dati in tutta l'azienda.

La relazione tra cloud ed edge può quindi essere complementare.

Un'organizzazione potrebbe sviluppare e addestrare un modello di intelligenza artificiale a livello centrale, utilizzando risorse cloud scalabili per fornire la capacità di calcolo necessaria durante la formazione o la riqualificazione. Una volta addestrato, il modello può essere distribuito in più posizioni edge per l'inferenza, dove elabora dati sensibili al tempo più vicini a dove tali dati vengono generati. Le risorse cloud possono quindi essere ridotte fino a quando non saranno nuovamente necessarie, mentre le piattaforme centrali continuano a supportare aggiornamenti dei modelli, analisi e gestione più ampie.

I dati non sono l'unica considerazione

La latenza e lo spostamento dei dati sono importanti, ma non sono gli unici fattori che determinano dove dovrebbe essere eseguito un carico di lavoro di intelligenza artificiale.

Le organizzazioni potrebbero anche dover considerare la sensibilità delle informazioni in fase di elaborazione, i requisiti normativi, la resilienza, la capacità informatica disponibile e il costo dell’infrastruttura operativa in diversi ambienti.

Un carico di lavoro che coinvolge informazioni operative o sui clienti sensibili può avere requisiti diversi da quelli di un carico di lavoro che analizza informazioni pubbliche. Un servizio di intelligenza artificiale utilizzato occasionalmente dai dipendenti può avere un profilo di costo diverso da un'applicazione che elabora continuamente video provenienti da centinaia di località.

Anche la sovranità può influenzare la decisione. Come discusso nel nostro articolo precedente, le organizzazioni devono capire da quali infrastrutture e fornitori dipende la loro intelligenza artificiale e dove è importante mantenere un maggiore controllo.

Il risultato è raramente una regola universale come “cloud first” o “edge first”; la posizione appropriata dipende dal carico di lavoro.

Dalla strategia cloud al posizionamento del carico di lavoro

Per molte organizzazioni, la strategia cloud si è tradizionalmente concentrata sulla decisione di quali applicazioni dovrebbero passare al cloud e quali dovrebbero rimanere on-premise. L'intelligenza artificiale aggiunge un'altra dimensione. Man mano che l’intelligenza artificiale viene incorporata nelle operazioni fisiche e nei processi digitali potrebbe essere necessario estendere l’infrastruttura agli ambienti cloud centrali, ai data center aziendali e alle posizioni più vicine a dove vengono creati i dati.

Ciò rende il posizionamento del carico di lavoro una decisione architettonica sempre più importante. L'obiettivo non è semplicemente trovare l'ambiente tecnicamente più veloce. Le organizzazioni devono bilanciare prestazioni, movimento dei dati, resilienza, sicurezza, controllo e costi.

Tali requisiti possono anche cambiare nel tempo. Un'applicazione di intelligenza artificiale può iniziare come progetto pilota limitato nel cloud e successivamente diventare parte di un processo operativo critico. I volumi di dati potrebbero aumentare, potrebbero essere aggiunte nuove sedi e i requisiti prestazionali potrebbero cambiare.

L'infrastruttura necessita quindi di sufficiente flessibilità per consentire l'evoluzione dei carichi di lavoro, anziché bloccare ogni applicazione di intelligenza artificiale nell'ambiente in cui ha avuto origine.

Spunti di riflessione: se domani un carico di lavoro di intelligenza artificiale dovesse avvicinarsi alle tue operazioni, la tua architettura attuale potrebbe supportarlo?

Domande che i leader tecnologici dovrebbero porsi

Con l'espansione dell'intelligenza artificiale aziendale in diverse applicazioni e sedi, i leader tecnologici potrebbero prendere in considerazione:

• Quale latenza richiede effettivamente questo carico di lavoro di intelligenza artificiale?
• Dove vengono generati i dati di cui ha bisogno e quanti di questi dati devono essere spostati?
• L'elaborazione locale di alcune informazioni potrebbe ridurre gli spostamenti non necessari dei dati?
• Il carico di lavoro deve continuare a funzionare se la connettività a un ambiente centrale viene interrotta?
• Quali requisiti di sicurezza, normativi o di sovranità influenzano il luogo in cui può essere eseguito il carico di lavoro?
• Quali parti del ciclo di vita dell'intelligenza artificiale traggono vantaggio dalle risorse cloud centralizzate e quali potrebbero essere più vicine all'azienda?
• Come cambierà l'economia con l'aumento del carico di lavoro, dei volumi di dati o del numero di sedi?
• Possiamo spostare o ridistribuire il carico di lavoro se i suoi requisiti cambiano?
• Raramente ci sarà una risposta valida per ogni applicazione di intelligenza artificiale. Lo scopo di queste domande è quello di rendere il posizionamento del carico di lavoro una decisione deliberata piuttosto che una semplice estensione di una strategia cloud esistente.

Raramente ci sarà una risposta valida per ogni applicazione di intelligenza artificiale. Lo scopo di queste domande è quello di rendere il posizionamento del carico di lavoro una decisione deliberata piuttosto che una semplice estensione di una strategia cloud esistente.

Costruire infrastrutture che seguano il carico di lavoro

È improbabile che l’intelligenza artificiale aziendale abbia un’unica destinazione. Il cloud continuerà a essere importante per l'elaborazione scalabile, le piattaforme centralizzate e l'accesso ai servizi di intelligenza artificiale. Gli ambienti edge possono avvicinare l'elaborazione ai dati, agli utenti e alle operazioni fisiche, mentre l'infrastruttura on-premise continuerà ad avere senso per carichi di lavoro con particolari requisiti di prestazioni, sicurezza, integrazione o controllo. Per molte organizzazioni il risultato sarà una combinazione di tutti e tre.

La sfida non è quindi scegliere tra cloud ed edge, ma costruire un'infrastruttura che consenta ai carichi di lavoro di intelligenza artificiale di funzionare dove hanno più senso – e di muoversi man mano che le loro esigenze si evolvono.

Man mano che l’intelligenza artificiale diventa sempre più profondamente incorporata nelle operazioni aziendali, l’infrastruttura dovrebbe seguire il carico di lavoro, piuttosto che costringere ogni carico di lavoro a seguire l’infrastruttura.

Continua la conversazione

Man mano che i carichi di lavoro di intelligenza artificiale si diffondono in ambienti cloud, edge e on-premise, la scelta di dove eseguirli diventa una parte importante dell'architettura di intelligenza artificiale aziendale.

Se desideri discutere di come cloud, edge e connettività possono supportare le prestazioni, la resilienza e la flessibilità richieste dai tuoi carichi di lavoro di intelligenza artificiale, i nostri specialisti sono disponibili ad aiutarti.


Immagine: creata con l'IA