Cloud oder Edge? Das ist die falsche Frage.

Warum die KI-Infrastruktur in Unternehmen sich nach den Workloads richten muss

Da künstliche Intelligenz den Schritt vom Experimentierstadium hin zu alltäglichen Geschäftsprozessen vollzieht, müssen Unternehmen zunehmend praxisorientierte Infrastrukturentscheidungen treffen. Wo sollten KI-Anwendungen ausgeführt werden? Welche Workloads gehören in die Cloud? Wann ist eine Verarbeitung näher an den Nutzern, Maschinen oder Daten sinnvoller?

Es mag verlockend sein, dies als eine Wahl zwischen Cloud und Edge darzustellen. Doch KI in Unternehmen lässt sich selten eindeutig einer einzigen Umgebung zuordnen.

Ein KI-Assistent, der Mitarbeiter unterstützt, stellt ganz andere Anforderungen als ein Computer-Vision-System, das Produkte an einer Fertigungsstrasse prüft. Eine Anwendung zur vorausschauenden Wartung, die Anlagendaten verarbeitet, hat wiederum andere Bedürfnisse.

Die sinnvollere Frage lautet daher nicht „Cloud oder Edge?“, sondern „Wo sollte diese bestimmte KI-Workload ausgeführt werden?“ Die Antwort hängt davon ab, was die Workload leisten muss, woher ihre Daten stammen und wie schnell, sicher und zuverlässig sie arbeiten muss.

KI stellt keine einheitlichen Anforderungen an die Infrastruktur

Der Begriff „Enterprise-KI“ deckt ein immer breiteres Spektrum an Anwendungen ab.

Einige KI-Workloads verarbeiten Informationen zentral und können von der Skalierbarkeit und den in der Cloud verfügbaren Rechenressourcen profitieren. Andere interagieren direkt mit physischen Umgebungen und generieren und analysieren kontinuierlich Daten in Fabriken, Lagern, Geschäften oder an anderen Standorten.

Man stelle sich beispielsweise eine Computer-Vision-Anwendung vor, die zur Qualitätskontrolle an einer Produktionsstrasse eingesetzt wird. Kameras erzeugen möglicherweise einen kontinuierlichen Bildstrom, der schnell genug analysiert werden muss, um einen Fehler zu erkennen, während sich das Produkt noch im Fertigungsprozess befindet.

Es ist nicht immer der sinnvollste Ansatz, jedes Bild zur Analyse an eine zentrale Cloud-Umgebung zu senden. Eine Verarbeitung näher an der Fertigungsstrasse kann die Datenmenge reduzieren, die über das Netzwerk übertragen werden muss, und ermöglicht es, Entscheidungen lokal zu treffen.

Ein KI-Assistent für Unternehmen stellt eine andere Situation dar. Er benötigt möglicherweise Zugriff auf Anwendungen und Informationen, die über das gesamte Unternehmen verteilt sind, und profitiert von zentralisierten, cloudbasierten KI-Diensten.

Beides sind KI-Workloads, doch ihre Infrastrukturanforderungen unterscheiden sich erheblich.

Denkanstoss: Entscheiden Sie darüber, wo KI ausgeführt werden soll, auf der Grundlage einer übergreifenden Technologiestrategie oder anhand der tatsächlichen Anforderungen der einzelnen Workloads?

Manchmal sollte KI näher an die Daten heranrücken

Ein Grossteil der Diskussion rund um die KI-Infrastruktur konzentriert sich auf die Rechenleistung: Wo können Unternehmen auf die Verarbeitungskapazität zugreifen, die für den Betrieb immer komplexerer Modelle erforderlich ist? Doch es gibt noch eine andere Seite der Medaille: die Daten selbst. KI ist auf Daten angewiesen, und die Übertragung grosser Datenmengen zwischen Standorten, Clouds und Anwendungen kann zusätzliche Netzwerkanforderungen, Latenzzeiten und Kosten mit sich bringen. In Betriebsumgebungen können einige dieser Daten zudem sehr zeitkritisch sein oder müssen nach ihrer Analyse möglicherweise nicht mehr aufbewahrt oder übertragen werden. Hier kommt Edge-Computing besonders ins Spiel.

Anstatt Daten zur Verarbeitung kontinuierlich an einen zentralen Standort zu übertragen, können Unternehmen Rechenressourcen näher an den Ort verlagern, an dem diese Daten generiert werden. Die KI-Inferenz kann dann lokal erfolgen, während ausgewählte Ergebnisse oder relevante Informationen an zentrale Systeme gesendet werden.

Ein Produktionsstandort könnte beispielsweise Video- oder Sensordaten lokal analysieren und Warnmeldungen, Anomalien oder aggregierte Informationen an eine zentrale Plattform senden, anstatt jede einzelne Rohdatenreihe zu übertragen.

Dies verändert die Infrastrukturfrage. Anstatt immer zu fragen: „Wie bringen wir die Daten zur KI?“, können Unternehmen nun auch fragen: „Sollten wir die KI näher an die Daten heranbringen?“

Wenn Millisekunden – und Konnektivität – entscheidend sind

Für viele Unternehmensanwendungen ist eine kurze Verzögerung beim Empfang einer KI-generierten Antwort völlig akzeptabel. Bei anderen kann dies jedoch den Geschäftsprozess selbst beeinträchtigen.

KI, die in der industriellen Automatisierung, im Bereich Computer Vision, in der Logistik, in der vernetzten Mobilität oder in anderen betrieblichen Umgebungen eingesetzt wird, muss möglicherweise Informationen sehr schnell analysieren und reagieren. Daher ist es besonders wichtig, die Verarbeitung näher an den Ort zu verlagern, an dem Daten generiert werden oder Entscheidungen getroffen werden müssen.

Eine Verarbeitung näher am Ort des Geschehens kann dazu beitragen, die Entfernung zu verringern, die Daten zurücklegen müssen, bevor eine Entscheidung getroffen wird.

Ausfallsicherheit ist ein weiterer zu berücksichtigender Aspekt. Wenn ein KI-gestützter Prozess vollständig von der Konnektivität zu einer entfernten Cloud-Umgebung abhängt, was passiert dann, wenn diese Verbindung unterbrochen wird? Nicht jede Anwendung muss während einer Netzwerkstörung unabhängig weiterlaufen, aber für geschäftskritische Prozesse kann die Fähigkeit, zumindest einen Teil der Verarbeitung lokal durchzuführen, zu einem wichtigen architektonischen Aspekt werden. Dies macht die Konnektivität jedoch nicht überflüssig. Tatsächlich können verteilte KI-Umgebungen eine zuverlässige Konnektivität sogar noch wichtiger machen, da Modelle, Anwendungen, Daten und Verwaltungsplattformen weiterhin standortübergreifend kommunizieren müssen. Der Unterschied besteht darin, dass nicht jede Entscheidung zwangsläufig die gesamte Strecke zurücklegen muss, bevor sie getroffen werden kann.

Die Cloud spielt nach wie vor eine wichtige Rolle

Die Verlagerung der KI näher an den Ort, an dem die Daten generiert werden, bedeutet nicht, dass man sich von der Cloud abwendet.

Cloud-Umgebungen bieten Zugriff auf skalierbare Rechenressourcen, KI-Plattformen und Dienste, die viele Unternehmen nur schwer eigenständig an allen Standorten bereitstellen könnten. Sie können zudem eine zentrale Umgebung für die unternehmensweite Verwaltung von Anwendungen, Modellen und Daten bieten.

Die Beziehung zwischen Cloud und Edge kann daher komplementär sein.

Ein Unternehmen könnte ein KI-Modell zentral entwickeln und trainieren und dabei skalierbare Cloud-Ressourcen nutzen, um die während des Trainings oder Retrainings erforderliche Rechenkapazität bereitzustellen. Nach dem Training kann das Modell an mehreren Edge-Standorten für die Inferenz bereitgestellt werden, wo es zeitkritische Daten näher an ihrem Entstehungsort verarbeitet. Die Cloud-Ressourcen können dann heruntergefahren werden, bis sie wieder benötigt werden, während zentrale Plattformen weiterhin Modellaktualisierungen, umfassendere Analysen und die Verwaltung unterstützen.

Daten sind nicht der einzige zu berücksichtigende Faktor

Latenz und Datenübertragung sind zwar wichtig, aber sie sind nicht die einzigen Faktoren, die darüber entscheiden, wo eine KI-Workload ausgeführt werden sollte.

Unternehmen müssen möglicherweise auch die Sensibilität der zu verarbeitenden Informationen, gesetzliche Anforderungen, Ausfallsicherheit, verfügbare Rechenkapazität und die Kosten für den Betrieb der Infrastruktur in verschiedenen Umgebungen berücksichtigen.

Eine Workload, die sensible Betriebs- oder Kundendaten umfasst, kann andere Anforderungen haben als eine, die öffentliche Informationen analysiert. Ein KI-Dienst, der gelegentlich von Mitarbeitern genutzt wird, kann ein anderes Kostenprofil aufweisen als eine Anwendung, die kontinuierlich Videomaterial von Hunderten von Standorten verarbeitet.

Auch die Souveränität kann die Entscheidung beeinflussen. Wie in unserem vorherigen Artikel erläutert, müssen Unternehmen verstehen, von welcher Infrastruktur und welchen Anbietern ihre KI abhängt und wo es wichtig ist, mehr Kontrolle zu behalten.

Das Ergebnis ist selten eine allgemeingültige Regel wie „Cloud first“ oder „Edge first“; der geeignete Standort hängt vom jeweiligen Workload ab.

Von der Cloud-Strategie zur Workload-Platzierung

Für viele Unternehmen lag der Schwerpunkt der Cloud-Strategie bislang darauf, zu entscheiden, welche Anwendungen in die Cloud verlagert und welche vor Ort verbleiben sollten. KI fügt eine weitere Dimension hinzu. Da KI zunehmend sowohl in physische Abläufe als auch in digitale Prozesse integriert wird, muss sich die Infrastruktur möglicherweise über zentrale Cloud-Umgebungen, Unternehmensrechenzentren und Standorte erstrecken, die näher an den Orten liegen, an denen die Daten erzeugt werden.

Dadurch wird die Platzierung von Workloads zu einer immer wichtigeren architektonischen Entscheidung. Das Ziel besteht nicht einfach darin, die technisch schnellste Umgebung zu finden. Unternehmen müssen ein Gleichgewicht zwischen Leistung, Datenbewegung, Ausfallsicherheit, Sicherheit, Kontrolle und Kosten herstellen.

Diese Anforderungen können sich zudem im Laufe der Zeit ändern. Eine KI-Anwendung beginnt vielleicht als begrenzter Pilotversuch in der Cloud und wird später Teil eines kritischen Betriebsprozesses. Das Datenvolumen kann wachsen, neue Standorte können hinzukommen und die Leistungsanforderungen können sich ändern.

Die Infrastruktur muss daher ausreichend flexibel sein, um eine Weiterentwicklung der Workloads zu ermöglichen, anstatt jede KI-Anwendung in der Umgebung festzuschreiben, in der sie ursprünglich gestartet wurde.

Denkanstoss: Wenn eine KI-Workload morgen näher an Ihren Betriebsabläufen platziert werden müsste – könnte Ihre aktuelle Architektur dies unterstützen?

Fragen, die sich Führungskräfte im Technologiebereich stellen sollten

Da sich KI in Unternehmen zunehmend auf verschiedene Anwendungen und Standorte ausweitet, sollten Technologieentscheider folgende Fragen berücksichtigen:

• Welche Latenzzeit benötigt diese KI-Workload tatsächlich?
• Wo werden die benötigten Daten generiert und wie viel davon muss übertragen werden?
• Könnte die lokale Verarbeitung bestimmter Informationen unnötige Datenübertragungen reduzieren?
• Muss die Workload auch dann weiterlaufen, wenn die Verbindung zu einer zentralen Umgebung unterbrochen ist?
• Welche Sicherheits-, regulatorischen oder souveränitätsbezogenen Anforderungen beeinflussen, wo die Workload ausgeführt werden kann?
• Welche Teile des KI-Lebenszyklus profitieren von zentralisierten Cloud-Ressourcen und welche könnten näher am Geschäftsbetrieb ausgeführt werden?
• Wie wird sich die Wirtschaftlichkeit verändern, wenn die Workload, das Datenvolumen oder die Anzahl der Standorte zunimmt?
• Können wir die Workload verlagern oder neu verteilen, wenn sich ihre Anforderungen ändern?

Es wird selten eine einzige Antwort geben, die für jede KI-Anwendung gilt. Der Zweck dieser Fragen besteht darin, die Platzierung der Workload zu einer bewussten Entscheidung zu machen und nicht einfach als Erweiterung einer bestehenden Cloud-Strategie zu betrachten.

Eine Infrastruktur aufbauen, die sich an der Arbeitslast orientiert

Es ist unwahrscheinlich, dass es für KI in Unternehmen ein einziges Ziel gibt. Die Cloud wird für skalierbare Rechenleistung, zentralisierte Plattformen und den Zugriff auf KI-Dienste weiterhin wichtig bleiben. Edge-Umgebungen können die Verarbeitung näher an die Daten, die Nutzer und die physischen Abläufe heranbringen, während eine lokale Infrastruktur für Arbeitslasten mit besonderen Anforderungen an Leistung, Sicherheit, Integration oder Kontrolle weiterhin sinnvoll sein wird. Für viele Unternehmen wird das Ergebnis eine Kombination aus allen drei Optionen sein.

Die Herausforderung besteht daher nicht darin, sich zwischen Cloud und Edge zu entscheiden, sondern eine Infrastruktur aufzubauen, die es ermöglicht, KI-Workloads dort auszuführen, wo es am sinnvollsten ist – und sie entsprechend den sich ändernden Anforderungen zu verlagern.

Da KI immer tiefer in die Unternehmensabläufe eingebettet wird, sollte sich die Infrastruktur an die Workloads anpassen, anstatt jede Workload zu zwingen, sich der Infrastruktur anzupassen.

Bleiben Sie im Gespräch

Da sich KI-Workloads zunehmend auf Cloud-, Edge- und lokale Umgebungen verteilen, wird die Entscheidung, wo sie ausgeführt werden sollen, zu einem wichtigen Bestandteil der KI-Architektur in Unternehmen.

Wenn Sie besprechen möchten, wie Cloud, Edge und Konnektivität die Leistung, Ausfallsicherheit und Flexibilität unterstützen können, die Ihre KI-Workloads erfordern, stehen Ihnen unsere Spezialisten gerne zur Verfügung.


Bild: mit KI erstellt