KI braucht Zugriff. Aber in welchem Umfang?

Warum Identität und Zugriff zu entscheidenden Grundlagen für KI in Unternehmen werden

Beim Identitäts- und Zugriffsmanagement standen bisher stets die gleichen Fragen im Mittelpunkt: Wer ist der Benutzer? Welches Gerät nutzt er? Auf welche Anwendungen und Daten soll er zugreifen dürfen?

KI fügt diesem Bild eine weitere Dimension hinzu. Da sie zunehmend in Geschäftsprozesse eingebettet wird, verbinden sich immer mehr Anwendungen, Workloads, APIs und KI-Dienste mit Unternehmenssystemen und -daten.

Das bedeutet, dass Unternehmen nicht nur darüber nachdenken müssen, welche Mitarbeiter Zugriff erhalten sollen, sondern auch, welchen Anwendungen, Workloads und KI-Diensten vertraut werden kann, auf welche Daten sie zugreifen dürfen, welche Aktionen sie ausführen dürfen und wie viel Autonomie sie bei der Interaktion mit den Unternehmenssystemen haben sollten.

Die Sicherheitsfrage verändert sich daher. KI benötigt Zugriff, um Mehrwert zu schaffen, aber wie viel Zugriff sollte sie haben?

KI schafft Mehrwert durch Zugriff

KI-Systeme sind auf Informationen angewiesen, um nützliche Antworten zu liefern, Entscheidungen zu unterstützen oder Geschäftsprozesse zu automatisieren. Diese Informationen können sich auf verschiedenen Kollaborationsplattformen, in Cloud-Anwendungen, Datenbanken, ERP-Systemen von Kunden und in Betriebsumgebungen befinden.

Der Zugriff auf relevante Informationen ist daher von grundlegender Bedeutung für das, was KI leisten kann. Gleichzeitig führt jedes zusätzliche System, jede Datenquelle oder jede Anwendung, die mit der KI verbunden ist, zu einer weiteren Zugriffsbeziehung, die verstanden und gesteuert werden muss.

Nehmen wir als Beispiel einen KI-Assistenten, der zur Unterstützung von Mitarbeitern eingesetzt wird. Um wirklich nützlich zu sein, benötigt er möglicherweise Zugriff auf interne Dokumente, Kundeninformationen oder Geschäftsanwendungen. Das bedeutet jedoch nicht, dass jeder Mitarbeiter, der den Assistenten nutzt, indirekt Zugriff auf alles erhalten sollte, worauf die KI zugreifen kann.

Das Gleiche gilt für eine KI-Anwendung, die über APIs mit mehreren Unternehmenssystemen verbunden ist. Sie benötigt möglicherweise Informationen aus diesen Systemen, um ihre Funktion zu erfüllen, doch das bedeutet nicht zwangsläufig, dass sie permanenten oder uneingeschränkten Zugriff auf alle diese Systeme benötigt.

Die Absicherung von Unternehmens-KI geht daher über den Schutz der KI-Plattform selbst hinaus. Unternehmen müssen auch die wachsende Anzahl von Zugriffsbeziehungen in ihrem Umfeld verstehen und kontrollieren.

Denkanstoß: Wissen Sie, auf welche Unternehmenssysteme und Daten Ihre KI-Anwendungen zugreifen können – und ob sie all das überhaupt benötigen?

Wenn Identität nicht mehr nur auf den Mensch bezieht

Maschinenidentitäten sind nichts Neues. Unternehmen managen bereits Dienstkonten, Anwendungen, Workloads und automatisierte Prozesse. Was die KI verändert, ist das potenzielle Ausmaß und die Komplexität dieser Interaktionen sowie der Grad an Autonomie, über den einige dieser Identitäten innerhalb von Geschäftsprozessen verfügen können.

An einem KI-gestützten Prozess können ein Mitarbeiter, eine KI-Anwendung, mehrere APIs, verschiedene Datenquellen und andere automatisierte Dienste beteiligt sein. Jeder davon kann über eine eigene Identität und unterschiedliche Zugriffsrechte verfügen. Mit zunehmender Anzahl dieser Interaktionen wird es immer schwieriger nachzuvollziehen, welche Identität auf welche Ressource zugreift – und zu welchem Zweck.

Dadurch wird die Identität zu einem immer wichtigeren Bestandteil der Infrastruktur, die KI unterstützt. Die bloße Verbindung zum Unternehmensnetzwerk reicht nicht mehr aus, um einem Benutzer, einem Gerät, einer Anwendung oder einer Workload zu vertrauen.

Unternehmen müssen verstehen, wer oder was Zugriff anfordert, welche Ressource angefordert wird und ob dieser Zugriff in diesem bestimmten Kontext angemessen ist.

Zero Trust bietet einen architektonischen Ansatz zur Bewältigung dieser Herausforderung.

Vom impliziten Vertrauen zum kontrollierten Zugriff

Zero Trust basiert auf dem Prinzip, dass Zugriff nicht allein deshalb gewährt werden sollte, weil sich ein Benutzer, ein Gerät oder eine Anwendung bereits in einer vertrauenswürdigen Umgebung befindet. Stattdessen wird der Zugriff entsprechend der Identität, dem Kontext und dem Bedarf überprüft und eingeschränkt.

Diese Unterscheidung gewinnt insbesondere im Bereich der Unternehmens-KI an Bedeutung.

Eine KI-Anwendung, die mit einer Kundendatenbank verbunden ist, benötigt möglicherweise Zugriff auf ausgewählte Informationen, aber nicht unbedingt auf die gesamte Datenbank. Ebenso kann ein Mitarbeiter, der einen KI-Assistenten nutzt, berechtigt sein, Dokumente aus einem Geschäftsbereich abzurufen, nicht jedoch aus einem anderen.

Das Ziel besteht darin, den Zugriff präziser zu gestalten, anstatt ihn einfach nur restriktiver zu machen. Nutzer, Anwendungen und Workloads sollten über den für die Erfüllung ihrer Aufgaben erforderlichen Zugriff verfügen, ohne automatisch Zugriff auf Ressourcen zu erhalten, die sie nicht benötigen. Da Unternehmen KI zunehmend mit weiteren Systemen und Informationen verknüpfen, wird dieses Least Principle" Prinzip zu einem wichtigen Bestandteil der Aufrechterhaltung der Kontrolle.

Sicherheit muss der Interaktion folgen

Die Herausforderung im Bereich des Zugriffs spiegelt auch die allgemeine Entwicklung der Unternehmenskonnektivität wider.

Benutzer arbeiten von verschiedenen Standorten aus, Anwendungen laufen sowohl in der Cloud als auch in Unternehmensumgebungen, und Daten werden zwischen Systemen, Partnern und Standorten ausgetauscht. KI-Workloads können über Cloud-, Edge- und lokale Infrastrukturen hinweg ausgeführt werden.

In dieser Umgebung liefert der Netzwerkstandort allein nur begrenzte Informationen darüber, ob einer Interaktion vertraut werden sollte. Die Sicherheit muss daher die beteiligte Identität, die Ressource, auf die zugegriffen wird, und den Kontext der Interaktion berücksichtigen.

Dies ist auch der Grund, warum Netzwerk und Sicherheit immer enger miteinander verknüpft werden. Ansätze wie Zero Trust Network Access (ZTNA) können Unternehmen dabei helfen, den Zugriff auf der Grundlage von Identität und Kontext zu regeln, während Secure Access Service Edge (SASE)-Architekturen Netzwerk- und Sicherheitsfunktionen über verteilte Umgebungen hinweg kombinieren.

Das zugrunde liegende Prinzip ist einfach: Jede Verbindung sollte einen Grund für ihre Existenz haben, und die damit verbundene Zugriffsebene sollte diesen Grund widerspiegeln.

Dies gewinnt noch mehr an Bedeutung, da sich die KI zunehmend von der Abfrage und Verarbeitung von Informationen hin zum Handeln über unternehmensweite Systeme hinweg entwickelt. Unternehmen müssen zunehmend nicht nur steuern, auf welche Systeme und Daten eine KI-Anwendung zugreifen darf, sondern auch, welche Zugriffsebene sie hat – ob sie Informationen abrufen, Daten schreiben oder ändern oder Aktionen in anderen Anwendungen und Systemen auslösen kann. Da KI-Systeme zunehmend in der Lage sind, eigenständig zu handeln, müssen Unternehmen zudem entscheiden, inwieweit diese Aktionen autonom durchgeführt werden können und wo eine Genehmigung durch Menschen erforderlich ist.

KI erschwert die Umsetzung des "Least Privilege" Prinzips

Die Anwendung des "Least Principle" Prinzips, also den geringsten Berechtigungen, wird mit dem Wandel von Unternehmensumgebungen immer schwieriger.

Mitarbeiter wechseln zwischen verschiedenen Rollen, Anwendungen entwickeln sich weiter, neue Datenquellen werden angebunden und Cloud-Umgebungen wachsen. KI-Anwendungsfälle, die als relativ isolierte Projekte beginnen, können schließlich in geschäftskritische Prozesse integriert werden.

Dabei können sich Berechtigungen häufen.

Eine KI-Anwendung, die anfangs mit zwei Systemen verbunden war, interagiert möglicherweise später mit zehn. Ein Dienst, der zum Abrufen von Informationen konzipiert wurde, kann später Teil eines automatisierten Workflows werden. Zugriffsrechte, die zu Beginn eines Projekts angemessen waren, sind möglicherweise nicht mehr angemessen, wenn sich dessen Zweck ändert.

Das bedeutet, dass Zugriffsrechte nicht einfach einmalig konfiguriert und dann unverändert belassen werden können. Unternehmen benötigen Transparenz darüber, welche Identitäten existieren, auf welche Ressourcen diese zugreifen können und ob diese Berechtigungen angesichts der Weiterentwicklung ihrer KI-Umgebung weiterhin angemessen sind.

Denkanstoß: Wenn eine Ihrer KI-Anwendungen morgen ihre Rolle ändern würde, wie schnell könnten Sie alle Zugriffsrechte identifizieren und anpassen, die ihr gewährt sind?

Wenn KI aktiv wird

Diese Frage wird noch an Bedeutung gewinnen, sobald Unternehmen KI-Agenten in größerem Umfang einsetzen.

Viele KI-Anwendungen in Unternehmen dienen heute in erster Linie dazu, Nutzern bei der Suche nach Informationen zu helfen, Inhalte zu generieren, Daten zu analysieren oder Entscheidungen zu unterstützen. KI-Agenten können noch einen Schritt weiter gehen, indem sie systemübergreifende Aufgaben ausführen, wie zum Beispiel das Abrufen von Informationen, das Aktualisieren von Datensätzen, das Auslösen von Workflows oder die Interaktion mit anderen Anwendungen.

Daher müssen Unternehmen nicht nur berücksichtigen, auf welche Informationen ein KI-System zugreifen und welche es abrufen darf, sondern auch, welche Aktionen es ausführen darf.

Ein KI-System, das einen Kundendatensatz lesen kann, erfordert eine bestimmte Kontrollstufe. Ein System, das den Datensatz ändern, eine Transaktion einleiten oder einen anderen Geschäftsprozess auslösen kann, erfordert eine andere Stufe der Autorisierung und Überwachung.

Da KI eine immer aktivere Rolle in Geschäftsprozessen übernimmt, müssen Unternehmen Identität, Autorisierung und Transparenz nicht nur für ihre Mitarbeiter und Anwendungen berücksichtigen, sondern auch für die KI-Systeme, die in ihrem Namen handeln.

Fragen, die Führungskräfte stellen sollten

Da KI zunehmend in weitere Geschäftsprozesse integriert wird, sollten Technologie- und Sicherheitsverantwortliche folgende Fragen berücksichtigen:

• Welche Benutzer, Anwendungen, Workloads und KI-Dienste können auf unsere kritischen Systeme zugreifen?
• Verfügen wir über einen zentralen Überblick darüber, welche menschlichen und maschinellen Identitäten unternehmensweit Zugriff auf welche Systeme, Anwendungen und Daten haben?
• Welche Unternehmensdatenquellen sind derzeit mit KI-Anwendungen verbunden?
• Hat jeder KI-Dienst nur Zugriff auf die Informationen, die er benötigt?
• Wie werden menschliche und maschinelle Identitäten authentifiziert und autorisiert?
• Können sich Zugriffsrechte ändern, wenn sich Rollen, Risiken oder geschäftliche Anforderungen ändern?
• Können wir erkennen, welche Identitäten in verschiedenen Umgebungen auf sensible Ressourcen zugreifen?
• Welche Aktionen dürfen KI-Anwendungen ausführen – und nicht nur, welche Informationen dürfen sie abrufen?
• Wären diese Kontrollmechanismen skalierbar, falls die Anzahl der KI-Anwendungen und -Agenten deutlich zunehmen sollte?

Ziel ist es, sicherzustellen, dass der Zugriff bewusst gesteuert und kontrollierbar bleibt, während KI immer tiefer in das Unternehmen integriert wird.

Vertrauen in die Unternehmens-KI aufbauen

KI schafft Mehrwert, indem sie Informationen, Anwendungen und Geschäftsprozesse miteinander verknüpft. Da diese Verknüpfungen immer umfangreicher werden, benötigen Unternehmen eine präzisere Methode, um zu bestimmen, wer und was auf ihre digitalen Ressourcen zugreifen darf.

„Zero Trust“ bietet hierfür ein nützliches Architekturprinzip. Anstatt Vertrauen aufgrund des Standorts oder einer bestehenden Verbindung vorauszusetzen, basiert der Zugriff auf einer verifizierten Identität, dem Kontext und den für eine bestimmte Interaktion erforderlichen Berechtigungen.

Da sich KI von der Unterstützung von Mitarbeitern durch Informationen hin zur Ausführung weiterer Aufgaben in unternehmensweiten Systemen entwickelt, werden diese Prinzipien nicht nur für die Kontrolle darüber relevant, worauf KI zugreifen darf, sondern auch darüber, was sie tun darf.

Die Frage ist daher nicht nur, wie viel Zugriff KI benötigt. Unternehmen müssen auch festlegen, was KI mit diesem Zugriff tun darf, und gleichzeitig die erforderliche Transparenz und Kontrolle behalten, um diese Berechtigungen bei Bedarf zu ändern oder zu entziehen.

Setzen Sie das Gespräch fort

Da KI zunehmend mit Unternehmensdaten, Anwendungen und Geschäftsprozessen vernetzt ist, wird die Verwaltung von Identitäten und Zugriffsrechten zu einem wichtigen Bestandteil der zugrunde liegenden Infrastruktur.

Wenn Sie besprechen möchten, wie Zero Trust, sichere Konnektivität und Zugriffskontrollen Ihre KI-Strategie unterstützen können, stehen Ihnen unsere Experten gerne zur Verfügung.


Bild: mit KI erstellt