Aktuell sprechen viele Vordenker davon, dass europäische Unternehmen schnellstmöglich KI-Souveränität erreichen müssen. Das stimmt, sagt Cloudian, Anbieter von Object Storage und KI-Infrastrukturen. Cloudian warnt allerdings davor, Souveränität mit Sicherheit und Vertrauenswürdigkeit gleichzusetzen.
Europa muss sich von China und den USA emanzipieren, daran führt kein Weg vorbei. Bei der Cloud-Nutzung und allgemein im Hinblick darauf, welche Software Unternehmen verwenden, klappt das bereits ganz gut. Bei Künstlicher Intelligenz besteht allerdings dringender Nachholbedarf, denn hier greifen die meisten eben doch wieder auf Large Language Models (LLMs) von OpenAI, Anthropic oder Google zurück. Souveränität darf allerdings nicht das Ende der KI-Journey bedeuten, denn allein dadurch wird Künstliche Intelligenz nicht vertrauenswürdig oder sicher. Um KI möglichst sorgenfrei zu betreiben und den Antworten auch vertrauen zu können, empfiehlt Cloudian Unternehmen die folgenden acht Maßnahmen.
Schritt 1: Datenstandort und -verarbeitung festlegen
Die Basis für Sicherheit und Vertrauen, auch im Kontext von KI, ist und bleibt die Datenhoheit. Daher müssen Unternehmen ihre sensiblen Daten kontrolliert lagern. Ein eigenes Rechenzentrum oder ein Cloud- beziehungsweise Storage-Provider mit europäischem, besser noch deutschem Sitz, ist dafür die richtige Wahl. Einfach nur das EU-Rechenzentrum eines US-Hyperscalers zu wählen, ist ein unnötiges Risiko, denn der EU AI Act erzwingt die lückenlose Nachvollziehbarkeit des Datenflusses.
Schritt 2: Betriebsmodell des LLM bewusst wählen
Die am weitesten verbreiteten Large Language Models sind nicht lokal zu betreiben, sondern lassen sich nur über APIs direkt auf US-Servern ansteuern. Eine bessere Alternative sind Open-Weight-Modelle, die Unternehmen lokal hosten. So behalten sie die volle Kontrolle, brauchen allerdings eigene GPU-Ressourcen. Wenn das nicht möglich ist, sollten Unternehmen ein Open-Weight-Modell lieber bei hiesigen Anbietern hosten, als ein großes Closed-Source-Modell der Marktführer zu nutzen. Wer sie per API nutzt, bleibt vom Anbieter abhängig – inklusive Abschalt-Risiko.
Schritt 3: Abstraktionsschicht zwischen Rohdaten und LLM einziehen
Retrieval Augmented Generation (RAG) ist aktuell einer der wichtigsten Use Cases im KI-Kontext und macht Unternehmensdaten mithilfe von KI durchsuchbar. Dabei laufen Daten über eine Data Pipeline direkt in eine Vektordatenbank, das LLM sieht normalerweise keine Rohdaten. Um jedoch kein Risiko einzugehen, sollten Unternehmen eine Plattform verwenden, die automatisiert entscheidet, welches LLM beispielsweise für das Embedding und welches für die Abfrage verwendet wird. Wer diese Entscheidung den Mitarbeitenden überlässt, provoziert Fehlbedienung und Datenexposition.
Schritt 4: Zugriffsrechte und Datenklassifizierung definieren
Unternehmen müssen rollenbasierte Zugriffskontrolle durchsetzen und zwar auf zwei Ebenen. Zunächst muss festgelegt werden, welche nicht-menschlichen Identitäten, wie beispielsweise Anwendungen, LLMs und KI-Bots, auf welche Daten zugreifen dürfen. Anschließend muss auf Nutzerebene definiert werden, wer welche Informationen von der KI erhalten darf. Voraussetzung dafür ist eine Klassifizierung der Dokumente, sonst landen etwa Gehaltsdaten ungewollt in einer RAG-basierten KI-Antwort. Doch Vorsicht: Solche Granularität ist bis dato in der Regel nur auf Dokumentenebene möglich.
Schritt 5: Trainings- und Fine-Tuning-Strategie bewusst wählen
Für die meisten Use Cases reicht ein allgemein trainiertes LLM ohne eigenes Training. Wollen Unternehmen ihr KI-Modell für bestimmte Use Cases speziell trainieren, müssen sie die Daten vorher anonymisieren oder pseudonymisieren. Meist reicht allerdings ein einfaches Fine-Tuning des Modells. Ein komplett eigenes Training ist selten wirklich notwendig und verursacht nur einen unnötigen Mehraufwand.
Schritt 6: Antworten verifizieren lassen
Vertrauen ist gut, Kontrolle ist besser. Aktuell müssen Menschen natürlich jede KI-Antwort verifizieren. Die Antwortqualität und das Vertrauen in KI lassen sich allerdings bereits vor der Ausgabe erhöhen, beispielsweise indem Unternehmen ein zweites LLM oder einen KI-Agenten die Antwort des ersten gegenchecken lassen, bevor sie an den Nutzer geht.
Schritt 7: KI-Betrieb kontinuierlich pflegen
KI-Modelle werden laufend von neueren Versionen abgelöst und oft schwankt die Qualität von Iteration zu Iteration. Unternehmen sollten auf Staging- oder Testumgebungen vor jedem Modell-Update prüfen, ob bestehende Use Cases weiter sauber funktionieren. Ohne solche Testballons kippt sonst das mühsam aufgebaute Vertrauen in die KI-Anwendung.
Schritt 8: Fallback- und Incident-Response-Plan bereithalten
Der letzte und vermutlich wichtigste Schritt ist es, einen Plan B in der Tasche zu haben. Die Vergangenheit hat gezeigt, dass US-Anbieter auch den Zugriff auf Open-Weight-Modelle bei Bedarf kappen können. Unternehmen sollten daher in jedem Fall eine Alternativlösung parat haben, die eine bestehende KI-Infrastruktur in kurzer Zeit ersetzen kann. Noch besser ist es natürlich, gleich auf Modelle und Komponenten zu setzen, die nicht einfach von Dritten abgeschaltet werden können.
„KI-Souveränität ist die Grundlage für vertrauenswürdige KI“, betont Sascha Uhl, Senior Solutions Architect Channels and Alliances bei Cloudian. „Aber erst durch gezielte Kontrolle, einen sicheren Betrieb und einen Plan B für die Betriebskontinuität entsteht wirklich vertrauenswürdige KI.“
Sascha Uhl, Senior Solutions Architect Channels and Alliances bei Cloudian (Quelle: Cloudian)