¿Cloud or Edge? Esa no es la pregunta correcta.

Por qué la infraestructura de IA empresarial debe adaptarse a la carga de trabajo

A medida que la inteligencia artificial pasa de la fase experimental a formar parte de los procesos empresariales cotidianos, las organizaciones se ven obligadas a tomar decisiones cada vez más prácticas en materia de infraestructura. ¿Dónde deben ejecutarse las aplicaciones de IA? ¿Qué cargas de trabajo deben ubicarse en la nube? ¿Cuándo tiene más sentido que el procesamiento se realice más cerca de los usuarios, las máquinas o los datos?

Puede resultar tentador plantear esto como una elección entre la nube y el perímetro. Sin embargo, la IA empresarial rara vez encaja perfectamente en un solo entorno.

Un asistente de IA que presta apoyo a los empleados tiene requisitos muy diferentes a los de un sistema de visión artificial que inspecciona productos en una línea de fabricación. Una aplicación de mantenimiento predictivo que procesa datos de equipos tiene, a su vez, necesidades distintas.

Por lo tanto, la pregunta más útil no es «¿nube o perímetro?», sino «¿dónde debería ejecutarse esta carga de trabajo de IA en concreto?». La respuesta depende de lo que la carga de trabajo tenga que hacer, de dónde procedan sus datos y de la rapidez, seguridad y fiabilidad con las que deba funcionar.

La IA no tiene un único requisito de infraestructura

El término «IA empresarial» abarca una gama cada vez más amplia de aplicaciones.

Algunas cargas de trabajo de IA procesan la información de forma centralizada y pueden aprovechar la escalabilidad y los recursos informáticos disponibles en la nube. Otras interactúan directamente con entornos físicos, generando y analizando datos de forma continua en fábricas, almacenes, tiendas u otras ubicaciones.

Pensemos en una aplicación de visión artificial utilizada para el control de calidad en una línea de producción. Las cámaras pueden generar un flujo continuo de imágenes que deben analizarse con la rapidez suficiente para identificar un defecto mientras el producto sigue avanzando por el proceso de fabricación.

Enviar todas las imágenes a un entorno central en la nube para su análisis puede que no sea siempre el enfoque más adecuado. Procesarlas más cerca de la línea de producción puede reducir la cantidad de datos que deben transmitirse a través de la red y permitir que las decisiones se tomen a nivel local.

Un asistente de IA empresarial presenta una situación diferente. Puede que necesite acceder a aplicaciones e información distribuidas por toda la organización y que se beneficie de servicios de IA centralizados basados en la nube.

Ambas son cargas de trabajo de IA, pero sus requisitos de infraestructura son muy diferentes.

Reflexión: ¿Estás decidiendo dónde debe ejecutarse la IA basándote en una estrategia tecnológica global o en los requisitos reales de cada carga de trabajo?

A veces, la IA debería acercarse más a los datos

Gran parte del debate en torno a la infraestructura de IA se centra en la capacidad de cálculo: dónde pueden las organizaciones acceder a la capacidad de procesamiento necesaria para ejecutar modelos cada vez más sofisticados. Pero hay otra cara de la moneda: los propios datos. La IA depende de los datos, y el traslado de grandes volúmenes de datos entre ubicaciones, nubes y aplicaciones puede acarrear requisitos de red, latencia y costes. En entornos operativos, algunos de esos datos también pueden ser muy sensibles al factor tiempo o puede que ya no sea necesario conservarlos o transferirlos una vez analizados. Aquí es donde la computación en el borde cobra especial relevancia.

En lugar de trasladar continuamente los datos a una ubicación central para su procesamiento, las organizaciones pueden situar los recursos informáticos más cerca del lugar donde se generan dichos datos. De este modo, la inferencia de IA puede realizarse localmente, mientras que los resultados seleccionados o la información relevante se envían a los sistemas centrales.

Una planta de fabricación, por ejemplo, podría analizar localmente datos de vídeo o de sensores y enviar alertas, anomalías o información agregada a una plataforma central, en lugar de transferir cada dato sin procesar.

Esto cambia la perspectiva sobre la infraestructura. En lugar de preguntarse siempre «¿Cómo hacemos llegar los datos a la IA?», las organizaciones también pueden preguntarse: «¿Deberíamos acercar la IA a los datos?»

Cuando los milisegundos —y la conectividad— importan

Para muchas aplicaciones empresariales, un breve retraso en la recepción de una respuesta generada por la IA es perfectamente aceptable. Para otras, puede afectar al propio proceso empresarial.

La IA utilizada en la automatización industrial, la visión artificial, la logística, la movilidad conectada u otros entornos operativos puede necesitar analizar información y responder con gran rapidez, por lo que resulta especialmente importante que el procesamiento se realice más cerca del lugar donde se generan los datos o donde se deben tomar las decisiones.

El procesamiento más cerca del lugar donde se produce un evento puede ayudar a reducir la distancia que deben recorrer los datos antes de que se tome una decisión.

La resiliencia es otro aspecto a tener en cuenta. Si un proceso respaldado por IA depende por completo de la conectividad con un entorno en la nube distante, ¿qué ocurre cuando se interrumpe esa conexión? No todas las aplicaciones necesitan seguir funcionando de forma independiente durante una interrupción de la red, pero para los procesos críticos para el negocio, la capacidad de realizar al menos parte del procesamiento de forma local puede convertirse en una consideración arquitectónica importante. Esto no elimina la necesidad de conectividad. De hecho, los entornos de IA distribuidos pueden hacer que la conectividad fiable sea aún más importante, ya que los modelos, las aplicaciones, los datos y las plataformas de gestión siguen necesitando comunicarse entre distintas ubicaciones. La diferencia radica en que no todas las decisiones tienen que recorrer necesariamente toda la distancia antes de poder tomarse.

La nube sigue desempeñando un papel importante

Acercar la IA al lugar donde se generan los datos no significa alejarse de la nube.

Los entornos en la nube proporcionan acceso a recursos informáticos escalables, plataformas de IA y servicios que a muchas organizaciones les resultaría difícil reproducir de forma independiente en todas sus ubicaciones. También pueden ofrecer un entorno centralizado para gestionar aplicaciones, modelos y datos en toda la empresa.

Por lo tanto, la relación entre la nube y el perímetro puede ser complementaria.

Una organización podría desarrollar y entrenar un modelo de IA de forma centralizada, utilizando recursos escalables en la nube para proporcionar la capacidad de computación necesaria durante el entrenamiento o el reentrenamiento. Una vez entrenado, el modelo puede implementarse en múltiples ubicaciones periféricas para la inferencia, donde procesa datos sensibles al tiempo más cerca de donde se generan. Los recursos en la nube pueden entonces reducirse hasta que vuelvan a ser necesarios, mientras que las plataformas centrales continúan dando soporte a las actualizaciones del modelo, a análisis más amplios y a la gestión.

Los datos no son el único factor a tener en cuenta

La latencia y el movimiento de datos son importantes, pero no son los únicos factores que determinan dónde debe ejecutarse una carga de trabajo de IA.

Las organizaciones también pueden tener que considerar la sensibilidad de la información que se procesa, los requisitos normativos, la resiliencia, la capacidad de cálculo disponible y el coste de operar la infraestructura en diferentes entornos.

Una carga de trabajo que implique información operativa o de clientes confidencial puede tener requisitos distintos a los de otra que analice información pública. Un servicio de IA que los empleados utilicen de forma ocasional puede tener un perfil de costes diferente al de una aplicación que procese continuamente vídeo procedente de cientos de ubicaciones.

La soberanía también puede influir en la decisión. Tal y como se comentó en nuestro artículo anterior, las organizaciones deben comprender de qué infraestructura y proveedores depende su IA y en qué ámbitos es importante mantener un mayor control.

El resultado rara vez es una regla universal como «la nube primero» o «el perímetro primero»; la ubicación adecuada depende de la carga de trabajo.

De la estrategia de nube a la ubicación de las cargas de trabajo

Para muchas organizaciones, la estrategia de nube se ha centrado tradicionalmente en decidir qué aplicaciones deben trasladarse a la nube y cuáles deben permanecer en las instalaciones. La IA añade otra dimensión. A medida que la IA se integra tanto en las operaciones físicas como en los procesos digitales, es posible que la infraestructura deba extenderse a través de entornos de nube centrales, centros de datos empresariales y ubicaciones más cercanas al lugar donde se crean los datos.

Esto hace que la ubicación de las cargas de trabajo sea una decisión arquitectónica cada vez más importante. El objetivo no es simplemente encontrar el entorno técnicamente más rápido. Las organizaciones deben encontrar un equilibrio entre rendimiento, movimiento de datos, resiliencia, seguridad, control y coste.

Esos requisitos también pueden cambiar con el tiempo. Una aplicación de IA puede comenzar como un proyecto piloto limitado en la nube y, más adelante, pasar a formar parte de una operación crítica.

Esos requisitos también pueden cambiar con el tiempo. Una aplicación de IA puede comenzar como un proyecto piloto limitado en la nube y, más adelante, pasar a formar parte de un proceso operativo crítico. Los volúmenes de datos pueden aumentar, pueden añadirse nuevas ubicaciones y los requisitos de rendimiento pueden cambiar.

Por lo tanto, la infraestructura debe contar con la flexibilidad suficiente para permitir que las cargas de trabajo evolucionen, en lugar de limitar cada aplicación de IA al entorno en el que se inició.

Reflexión: Si mañana fuera necesario acercar una carga de trabajo de IA a sus operaciones, ¿podría su arquitectura actual soportarlo?

Preguntas que deberían plantearse los responsables tecnológicos

A medida que la IA empresarial se expande a través de aplicaciones y ubicaciones, los responsables tecnológicos deberían plantearse lo siguiente:

• ¿Qué latencia requiere realmente esta carga de trabajo de IA?
• ¿Dónde se generan los datos que necesita y qué cantidad de esos datos hay que trasladar?
• ¿Podría el procesamiento local de cierta información reducir el movimiento innecesario de datos?
• ¿Es necesario que la carga de trabajo siga funcionando si se interrumpe la conectividad con un entorno central?
• ¿Qué requisitos de seguridad, normativos o de soberanía influyen en el lugar donde puede ejecutarse la carga de trabajo?
• ¿Qué partes del ciclo de vida de la IA se benefician de los recursos centralizados en la nube y cuáles podrían ejecutarse más cerca del negocio?
• ¿Cómo cambiará la economía a medida que crezcan la carga de trabajo, los volúmenes de datos o el número de ubicaciones?
• ¿Podemos trasladar o redistribuir la carga de trabajo si cambian sus requisitos?

Rara vez habrá una única respuesta válida para todas las aplicaciones de IA. El objetivo de estas preguntas es que la ubicación de las cargas de trabajo sea una decisión meditada, en lugar de una mera extensión de una estrategia de nube ya existente.

Crear una infraestructura que se adapte a la carga de trabajo

Es poco probable que la IA empresarial tenga un único destino. La nube seguirá siendo importante para la computación escalable, las plataformas centralizadas y el acceso a los servicios de IA. Los entornos periféricos pueden acercar el procesamiento a los datos, a los usuarios y a las operaciones físicas, mientras que la infraestructura local seguirá siendo adecuada para cargas de trabajo con requisitos específicos de rendimiento, seguridad, integración o control. Para muchas organizaciones, el resultado será una combinación de las tres opciones.

Por lo tanto, el reto no consiste en elegir entre la nube y el perímetro, sino en construir una infraestructura que permita que las cargas de trabajo de IA se ejecuten donde tenga más sentido —y que se desplacen a medida que evolucionen sus requisitos—.

A medida que la IA se integra cada vez más en las operaciones empresariales, la infraestructura debe adaptarse a la carga de trabajo, en lugar de obligar a cada carga de trabajo a adaptarse a la infraestructura.

Continúa la conversación

A medida que las cargas de trabajo de IA se extienden por entornos en la nube, en el perímetro y locales, elegir dónde deben ejecutarse se convierte en una parte importante de la arquitectura de IA empresarial.

Si desea analizar cómo la nube, el «edge» y la conectividad pueden contribuir al rendimiento, la resiliencia y la flexibilidad que requieren sus cargas de trabajo de IA, nuestros especialistas están a su disposición para ayudarle.


Imagen: creada con IA