Sua IA. Mas de quem é a infraestrutura?

Por que a soberania começa com a compreensão das dependências por trás da IA empresarial?

A inteligência artificial está se tornando parte integrante de cada vez mais processos de negócios, desde a produtividade dos funcionários e o atendimento ao cliente até o desenvolvimento de software, a análise de dados e a tomada de decisões operacionais. À medida que as organizações passam da fase de experimentação para a adoção em escala empresarial, o foco está naturalmente mudando do que a IA pode fazer para o que é necessário para operá-la de forma confiável e segura em grande escala.

Por trás de cada aplicação de IA existe um ecossistema tecnológico. Os dados corporativos podem ser processados por um modelo de IA executado em uma infraestrutura em nuvem, acessado por meio de APIs e conectado a outras aplicações, redes e serviços externos. Diferentes partes desse ecossistema podem ser fornecidas e operadas por diferentes organizações, muitas vezes em várias jurisdições.

Isso levanta uma questão importante para os líderes do setor de tecnologia:Qual é o seu nível de controle sobre a infraestrutura da qual sua IA depende?

A soberania digital no contexto da IA não se resume, portanto, simplesmente ao local onde os dados são armazenados e processados ou à sede de um provedor de tecnologia. Cada vez mais, trata-se de compreender as dependências por trás da IA e decidir onde o controle é mais importante.

É fácil ignorar a infraestrutura por trás da IA

Quando os funcionários utilizam um assistente de IA ou uma equipe de negócios integra a IA a um fluxo de trabalho, a experiência pode parecer relativamente simples. O usuário interage com um aplicativo e recebe uma resposta, uma recomendação ou uma ação.

A infraestrutura subjacente a essa interação pode ser consideravelmente mais complexa.

Um serviço de IA empresarial pode depender de aplicativos de negócios, dados da empresa, um modelo externo de IA, computação em nuvem, APIs, serviços de identidade, controles de segurança e conectividade de rede. Alguns componentes podem ser gerenciados diretamente pela organização, enquanto outros são controlados por provedores de tecnologia ou por seus próprios fornecedores.

Nenhuma dessas dependências é necessariamente um problema. As empresas modernas sempre contaram com ecossistemas tecnológicos, e o acesso a plataformas e serviços globais é uma importante fonte de inovação e escala.

O desafio surge quando as organizações não têm visibilidade suficiente sobre essas dependências ou não conseguem determinar quais delas são críticas.

Para refletir: Se um dos seus serviços importantes de IA ficasse indisponível amanhã, você saberia qual dependência subjacente havia falhado — e quais alternativas você teria?

Da escolha da tecnologia à cadeia de dependências

A IA torna a questão da dependência tecnológica particularmente interessante, pois o que parece ser uma solução única pode, na verdade, depender de várias camadas de tecnologia externa.

Considere um aplicativo de IA utilizado para dar suporte a um processo de atendimento ao cliente. O aplicativo pode recuperar informações de sistemas de CRM, enviar informações selecionadas a um modelo de IA, utilizar infraestrutura em nuvem para processamento e se conectar a serviços ou bancos de dados adicionais por meio de APIs.

A organização pode ter escolhido o próprio aplicativo de IA, mas esse aplicativo pode depender de modelos, infraestrutura em nuvem ou outros serviços fornecidos por terceiros que a organização não tenha escolhido diretamente.

À medida que a IA se integra a processos empresariais cada vez mais críticos, compreender essas dependências tecnológicas subjacentes torna-se cada vez mais importante.

A questão relevante não é mais simplesmente:Qual provedor de IA estamos utilizando?

As organizações também podem precisar perguntar de quais modelos, infraestrutura, plataformas e serviços a solução baseada em IA depende, onde esses componentes operam, quais partes os controlam e o que aconteceria se uma dessas relações mudasse.

É aqui que a soberania se torna uma questão prática de negócios, em vez de um princípio tecnológico abstrato.

Nem toda dependência exige o mesmo nível de controle

A independência tecnológica total não é realista nem necessariamente desejável para a maioria das empresas.

As plataformas globais em nuvem, os modelos de IA e os ecossistemas tecnológicos oferecem recursos que seriam difíceis e onerosos de serem reproduzidos por organizações individualmente. A soberania, portanto, não deve ser interpretada como uma tentativa de possuir ou controlar todas as camadas da pilha tecnológica.

A questão mais relevante é em que situações a perda de controle representaria um risco inaceitável para os negócios.

Um assistente de IA que ajuda os funcionários a resumir informações disponíveis publicamente pode exigir um nível de controle muito diferente daquele de um sistema de IA envolvido em operações de fabricação, decisões financeiras ou processos críticos relacionados a clientes.

A sensibilidade dos dados é importante. O mesmo vale para a importância do processo de negócios, o ambiente regulatório, a forma como o provedor está autorizado a usar os dados e a disponibilidade de alternativas. Por exemplo, as organizações podem precisar entender se os dados processados por um serviço de IA podem ser usados para treinar ou aprimorar os modelos do provedor e se elas têm a capacidade de restringir ou excluir tal uso. A soberania, portanto, não é uma decisão do tipo “tudo ou nada”. As organizações podem aplicar diferentes níveis de controle a diferentes cargas de trabalho, dependendo da criticidade e do risco para os negócios.

Para refletir: Quais cargas de trabalho de IA na sua organização continuariam funcionando se um de seus principais fornecedores de tecnologia ficasse indisponível repentinamente?

Controle também significa ter opções

Um dos aspectos mais importantes da soberania digital é a capacidade de tomar e alterar decisões relacionadas à tecnologia.

Uma dependência se torna mais significativa quando uma organização tem capacidade limitada de se adaptar caso as circunstâncias mudem. Um fornecedor pode alterar suas condições comerciais ou sua arquitetura técnica. Os requisitos regulatórios podem evoluir. Um serviço pode deixar de estar disponível em um determinado mercado. Uma empresa pode simplesmente decidir que outra tecnologia atende melhor às suas necessidades.

A questão principal, portanto, não é se existem dependências externas. Elas inevitavelmente existirão.

A questão é se essas dependências continuam sendo controláveis.

No caso da IA, isso poderia significar entender se os dados e as cargas de trabalho podem ser transferidos, se modelos ou plataformas alternativas poderiam ser introduzidos, se as interfaces são suficientemente interoperáveis e se a organização mantém o conhecimento necessário para realizar essas mudanças.

O objetivo não é a independência a qualquer custo. Trata-se de evitar situações em que uma escolha tecnológica acabe, sem querer, limitando as opções futuras.

Onde ocorre a transferência do controle?

Há outra dimensão que se torna cada vez mais relevante à medida que os ecossistemas de IA crescem: as organizações podem ter relações diretas com alguns fornecedores, mas visibilidade limitada sobre a tecnologia nas etapas posteriores da cadeia.

Uma empresa pode saber qual aplicação de IA adquiriu e onde seus próprios dados são armazenados e processados. No entanto, pode não estar tão claro quais modelos subjacentes, serviços de infraestrutura ou provedores de suporte contribuem para a disponibilização dessa aplicação.

À medida que os serviços de IA combinam cada vez mais tecnologias de diversos fornecedores, a própria organização responsável pelo fornecimento do aplicativo pode depender de infraestrutura, modelos ou serviços operados por outras empresas.

Isso não gera automaticamente uma questão de soberania. O que importa é se a organização possui transparência suficiente, considerando a importância e o perfil de risco da carga de trabalho.

No caso da IA essencial para os negócios, compreender onde a responsabilidade e o controle se deslocam para fora da organização pode ajudar os líderes de tecnologia a identificar dependências que merecem maior atenção.

A questão não é simplesmente “Onde está a nossa IA?”

É também “Em quais pontos da cadeia de valor da IA o controle passa para outra pessoa?”

Soberania sem isolamento

As discussões sobre soberania digital podem facilmente se transformar em discussões sobre geografia: tecnologia europeia versus não europeia, provedores locais versus globais ou nuvem soberana versus nuvem pública.

A geografia e a jurisdição certamente podem ser importantes, especialmente no caso de dados confidenciais e cargas de trabalho regulamentadas. Mas a soberania vai além da mera localização.

Uma organização pode operar tecnologia localmente e, mesmo assim, continuar altamente dependente de um único provedor. Da mesma forma, ela pode utilizar tecnologia global e, ao mesmo tempo, manter um controle significativo por meio da arquitetura, de salvaguardas contratuais, de controles de segurança e da capacidade de trocar de provedor ou migrar cargas de trabalho.

Especialmente para as empresas multinacionais, o objetivo não pode ser simplesmente eliminar as dependências globais. Suas operações, clientes, funcionários e ecossistemas tecnológicos já ultrapassam as fronteiras.

Uma abordagem mais prática consiste em compreender essas dependências e determinar quais delas são aceitáveis.

Nesse sentido, a soberania não tem a ver com isolamento. Trata-se de manter o controle e a liberdade de escolha em um ambiente tecnológico interconectado.

Perguntas que os líderes de tecnologia devem fazer

À medida que a IA se torna cada vez mais integrada às operações empresariais, os CIOs e os líderes de tecnologia podem querer olhar além das aplicações individuais de IA e considerar o ecossistema que as sustenta:

• Entendemos de quais modelos, plataformas em nuvem, infraestrutura e serviços externos dependem nossas principais aplicações baseadas em IA?
• Quais cargas de trabalho de IA são suficientemente críticas ou sensíveis a ponto de exigirmos maior controle sobre a infraestrutura subjacente?
• Sabemos onde os dados são processados e quais partes podem influenciar o funcionamento do serviço?
• Em que ponto da nossa arquitetura de IA o controle operacional passa da nossa organização para um provedor externo?
• Seria possível transferir cargas de trabalho, dados ou modelos importantes caso nossos requisitos ou circunstâncias externas mudassem?
• Em que aspectos dependemos de um único provedor, plataforma ou jurisdição?
• Decidimos conscientemente quais dependências são aceitáveis, ou elas simplesmente surgiram à medida que a adoção da IA cresceu?

Essas perguntas não levam necessariamente todas as organizações à mesma arquitetura. Elas ajudam a tornar visíveis as escolhas de equilíbrio, de modo que a soberania se torne uma decisão deliberada de projeto, em vez de algo considerado apenas depois que uma dependência se torna um problema.

Construindo uma infraestrutura de IA com foco no controle

A IA continuará a depender de um ecossistema interconectado de fornecedores de tecnologia, plataformas em nuvem, modelos, aplicativos, redes e fontes de dados. Esse ecossistema é parte do que permite que as organizações inovem rapidamente.

O objetivo da soberania digital não deve ser desmantelá-la.

Em vez disso, as organizações precisam de visibilidade suficiente para compreender dos que a IA depende, controle suficiente para proteger o que mais importa e flexibilidade suficiente para se adaptar quando as condições comerciais, tecnológicas ou regulatórias mudarem.

À medida que a IA se integra cada vez mais às operações empresariais, essa capacidade se torna cada vez mais importante. As organizações talvez não precisem possuir todos os componentes por trás de sua IA, mas devem compreender onde estão suas dependências críticas e quais opções permanecem caso essas dependências se alterem.

A questão, portanto, não é se a sua IA depende da infraestrutura de terceiros.

É quase certo que sim. A questão mais importante é se você sabe em que aspectos essa dependência é relevante e se ainda tem a capacidade de fazer uma escolha diferente.

A conversa continua

À medida que a IA se torna parte integrante de mais processos de negócios, compreender a infraestrutura, as dependências e os pontos de controle por trás dela se torna cada vez mais importante.

Caso deseje discutir como manter maior visibilidade, controle e flexibilidade em toda a infraestrutura que sustenta a IA da sua empresa, nossos especialistas estão à disposição para ajudá-lo.


Imagem: gerada por IA