Nuvem ou Edge? Essa é a pergunta errada.

Por que a infraestrutura de IA corporativa precisa acompanhar a carga de trabalho?

À medida que a inteligência artificial passa da fase experimental para os processos operacionais do dia a dia, as organizações precisam tomar decisões cada vez mais práticas em relação à infraestrutura. Onde as aplicações de IA devem ser executadas? Quais cargas de trabalho devem ser executadas na nuvem? Em que casos faz mais sentido realizar o processamento mais próximo dos usuários, das máquinas ou dos dados?

Pode ser tentador enquadrar isso como uma escolha entre a nuvem e a borda. Mas a IA corporativa raramente se encaixa perfeitamente em um único ambiente.

Um assistente de IA que presta apoio aos funcionários tem requisitos muito diferentes dos de um sistema de visão computacional que inspeciona produtos em uma linha de produção. Um aplicativo de manutenção preditiva que processa dados de equipamentos, por sua vez, tem necessidades diferentes ainda.

A pergunta mais relevante, portanto, não é “Nuvem ou borda?”, mas sim “Onde essa carga de trabalho específica de IA deve ser executada?”. A resposta depende do que a carga de trabalho precisa fazer, de onde vêm seus dados e com que rapidez, segurança e confiabilidade ela precisa operar.

A IA não possui um único requisito de infraestrutura

O termo “IA empresarial” abrange uma gama cada vez mais ampla de aplicações.

Algumas cargas de trabalho de IA processam informações de forma centralizada e podem aproveitar a escalabilidade e os recursos computacionais disponíveis na nuvem. Outras interagem diretamente com ambientes físicos, gerando e analisando dados continuamente em fábricas, armazéns, lojas ou outros locais.

Considere uma aplicação de visão computacional utilizada para controle de qualidade em uma linha de produção. As câmeras podem gerar um fluxo contínuo de imagens que precisam ser analisadas com rapidez suficiente para identificar um defeito enquanto o produto ainda está em movimento no processo de fabricação.

Enviar todas as imagens para um ambiente central na nuvem para análise pode nem sempre ser a abordagem mais adequada. O processamento mais próximo da linha de produção pode reduzir a quantidade de dados que precisam ser transmitidos pela rede e permitir que as decisões sejam tomadas localmente.

Um assistente de IA corporativo apresenta uma situação diferente. Ele pode precisar de acesso a aplicativos e informações distribuídos por toda a organização e se beneficiar de serviços centralizados de IA baseados na nuvem.

Ambas são cargas de trabalho de IA, mas seus requisitos de infraestrutura são bem diferentes.

Para refletir: Você está decidindo onde a IA deve ser executada com base em uma estratégia tecnológica geral ou nos requisitos reais de cada carga de trabalho?

Às vezes, a IA deveria se aproximar mais dos dados

Grande parte da discussão em torno da infraestrutura de IA concentra-se na computação: onde as organizações podem acessar a capacidade de processamento necessária para executar modelos cada vez mais sofisticados. Mas há outro lado da equação: os próprios dados. A IA depende de dados, e a transferência de grandes volumes de dados entre locais, nuvens e aplicativos pode acarretar requisitos de rede, latência e custos. Em ambientes operacionais, alguns desses dados também podem ser altamente sensíveis ao tempo ou podem não precisar mais ser retidos ou transferidos após terem sido analisados. É aí que a computação de borda se torna particularmente relevante.

Em vez de transferir continuamente os dados para um local central para processamento, as organizações podem colocar os recursos de computação mais próximos do local onde esses dados são gerados. A inferência de IA pode, então, ocorrer localmente, enquanto resultados selecionados ou informações relevantes são enviados aos sistemas centrais.

Uma unidade de produção, por exemplo, poderia analisar dados de vídeo ou de sensores localmente e enviar alertas, anomalias ou informações agregadas para uma plataforma central, em vez de transferir cada dado bruto.

Isso muda a questão da infraestrutura. Em vez de sempre perguntar “Como fazemos para levar os dados até a IA?”, as organizações também podem perguntar: “Será que devemos aproximar a IA dos dados?”

Quando os milissegundos e a conectividade fazem a diferença?

Para muitas aplicações corporativas, um pequeno atraso no recebimento de uma resposta gerada por IA é perfeitamente aceitável. Para outras, isso pode afetar o próprio processo de negócios.

A IA utilizada na automação industrial, na visão computacional, na logística, na mobilidade conectada ou em outros ambientes operacionais pode precisar analisar informações e responder com muita rapidez, o que torna particularmente importante que o processamento ocorra mais próximo do local onde os dados são gerados ou onde as decisões são necessárias.

O processamento mais próximo do local onde ocorre um evento pode ajudar a reduzir a distância que os dados precisam percorrer antes que uma decisão seja tomada.

A resiliência é outra questão a ser considerada. Se um processo apoiado por IA depende inteiramente da conectividade com um ambiente de nuvem distante, o que acontece quando essa conexão é interrompida? Nem todo aplicativo precisa continuar operando de forma independente durante uma interrupção na rede, mas, para processos críticos aos negócios, a capacidade de realizar pelo menos parte do processamento localmente pode se tornar uma importante consideração arquitetônica. Isso não elimina a necessidade de conectividade. Na verdade, ambientes de IA distribuídos podem tornar a conectividade confiável ainda mais importante, pois modelos, aplicativos, dados e plataformas de gerenciamento ainda precisam se comunicar entre diferentes locais. A diferença é que nem toda decisão precisa necessariamente percorrer toda a distância antes de ser tomada.

A nuvem ainda desempenha um papel importante

Aproximar a IA do local onde os dados são gerados não significa abandonar a nuvem.

Os ambientes em nuvem oferecem acesso a recursos de computação escaláveis, plataformas de IA e serviços que seriam difíceis de serem reproduzidos de forma independente por muitas organizações em todas as suas unidades. Eles também podem fornecer um ambiente centralizado para o gerenciamento de aplicativos, modelos e dados em toda a empresa.

A relação entre a nuvem e a borda pode, portanto, ser complementar.

Uma organização pode desenvolver e treinar um modelo de IA de forma centralizada, utilizando recursos escaláveis na nuvem para fornecer a capacidade computacional necessária durante o treinamento ou o retreinamento. Uma vez treinado, o modelo pode ser implantado em vários locais de borda para inferência, onde processa dados sensíveis ao tempo mais próximo do local onde esses dados são gerados. Os recursos da nuvem podem então ser reduzidos até que sejam necessários novamente, enquanto as plataformas centrais continuam a dar suporte às atualizações do modelo, a análises mais abrangentes e ao gerenciamento.

O dado não é a única consideração

A latência e a movimentação de dados são importantes, mas não são os únicos fatores que determinam onde uma carga de trabalho de IA deve ser executada.

As organizações também podem precisar levar em consideração a sensibilidade das informações que estão sendo processadas, os requisitos regulatórios, a resiliência, a capacidade computacional disponível e o custo de operação da infraestrutura em diferentes ambientes.

Uma tarefa que envolva informações operacionais ou de clientes confidenciais pode ter requisitos diferentes daqueles de uma tarefa que analise informações públicas. Um serviço de IA utilizado ocasionalmente pelos funcionários pode ter um perfil de custo diferente de um aplicativo que processa continuamente vídeos provenientes de centenas de locais.

A soberania também pode influenciar a decisão. Conforme discutido em nosso artigo anterior, as organizações precisam entender de quais infraestruturas e provedores sua IA depende e em quais áreas é importante manter um maior controle.

O resultado raramente é uma regra universal, como “nuvem em primeiro lugar” ou “periferia em primeiro lugar”; o local adequado depende da carga de trabalho.

Da estratégia de nuvem ao posicionamento de cargas de trabalho

Para muitas organizações, a estratégia de nuvem tem se concentrado tradicionalmente em decidir quais aplicativos devem ser migrados para a nuvem e quais devem permanecer no local. A IA acrescenta outra dimensão. À medida que a IA se torna parte integrante tanto das operações físicas quanto dos processos digitais, pode ser necessário que a infraestrutura se estenda por ambientes de nuvem centrais, data centers corporativos e locais mais próximos de onde os dados são gerados.

Isso torna a alocação da carga de trabalho uma decisão arquitetônica cada vez mais importante. O objetivo não é simplesmente encontrar o ambiente tecnicamente mais rápido. As organizações precisam equilibrar desempenho, movimentação de dados, resiliência, segurança, controle e custo.

Esses requisitos também podem mudar com o tempo. Uma aplicação de IA pode começar como um projeto-piloto limitado na nuvem e, posteriormente, tornar-se parte de um processo operacional crítico. Os volumes de dados podem aumentar, novos locais podem ser adicionados e os requisitos de desempenho podem mudar.

Portanto, a infraestrutura precisa ter flexibilidade suficiente para permitir que as cargas de trabalho evoluam, em vez de prender cada aplicação de IA ao ambiente em que por acaso foi iniciada.

Para refletir: Se, amanhã, uma carga de trabalho de IA precisasse ser transferida para mais perto de suas operações, sua arquitetura atual seria capaz de suportá-la?

Perguntas que os líderes de tecnologia devem fazer

À medida que a IA corporativa se expande por diversas aplicações e locais, os líderes de tecnologia podem querer considerar:

• Qual é, de fato, a latência necessária para essa carga de trabalho de IA?
• Onde são gerados os dados de que ela precisa e qual a quantidade desses dados que precisa ser transferida?
• O processamento local de algumas informações poderia reduzir a movimentação desnecessária de dados?
• A carga de trabalho precisa continuar operando caso a conectividade com um ambiente central seja interrompida?
• Quais requisitos de segurança, regulatórios ou de soberania influenciam o local onde a carga de trabalho pode ser executada?
• Quais partes do ciclo de vida da IA se beneficiam de recursos centralizados na nuvem e quais poderiam ser executadas mais próximas da empresa?
• Como a economia mudará à medida que a carga de trabalho, os volumes de dados ou o número de locais crescerem?
• Podemos transferir ou redistribuir a carga de trabalho se seus requisitos mudarem?

Raramente haverá uma resposta única que se aplique a todas as aplicações de IA. O objetivo dessas perguntas é fazer com que a alocação da carga de trabalho seja uma decisão deliberada, em vez de simplesmente uma extensão de uma estratégia de nuvem já existente.

Construir uma infraestrutura que se adapte à carga de trabalho

É improvável que a IA empresarial tenha um único caminho a seguir. A nuvem continuará sendo importante para a computação escalável, plataformas centralizadas e acesso a serviços de IA. Os ambientes de borda podem aproximar o processamento dos dados, dos usuários e das operações físicas, enquanto a infraestrutura local continuará sendo uma opção viável para cargas de trabalho com requisitos específicos de desempenho, segurança, integração ou controle. Para muitas organizações, o resultado será uma combinação das três opções.

O desafio, portanto, não é escolher entre a nuvem e a borda, mas construir uma infraestrutura que permita que as cargas de trabalho de IA sejam executadas onde for mais adequado — e que possam ser transferidas à medida que suas necessidades evoluam.

À medida que a IA se torna cada vez mais integrada às operações empresariais, a infraestrutura deve se adaptar à carga de trabalho, em vez de forçar todas as cargas de trabalho a se adaptarem à infraestrutura.

A conversa continua

À medida que as cargas de trabalho de IA se espalham pelos ambientes de nuvem, de borda e locais, a escolha do local onde elas devem ser executadas torna-se uma parte importante da arquitetura de IA corporativa.

Caso deseje discutir como a nuvem, a borda e a conectividade podem contribuir para o desempenho, a resiliência e a flexibilidade exigidos pelas suas cargas de trabalho de IA, nossos especialistas estão à disposição para ajudá-lo.


Imagem: gerado por IA