Künstliche Intelligenz eröffnet Unternehmen neue Möglichkeiten, Prozesse zu automatisieren, Wissen zu erschließen und Entscheidungen fundierter zu treffen. Cloudbasierte KI-Dienste versprechen dabei einen schnellen Einstieg ohne eigene Recheninfrastruktur. Doch sobald sensible Geschäfts-, Kunden- oder Entwicklungsdaten verarbeitet werden, reicht der Blick auf Leistungsfähigkeit und Kosten nicht mehr aus. Entscheidend ist auch, wo die Daten verarbeitet werden, wer darauf zugreifen kann und welche Kontrolle das Unternehmen über ihre Speicherung und weitere Nutzung behält.

Wie schnell diese Kontrolle verloren gehen kann, zeigt ein beispielhaftes Szenario aus der Produktentwicklung: Ein Mitarbeiter eines Maschinenbauunternehmens übermittelt Konstruktionsunterlagen und interne Prüfberichte an einen öffentlichen KI-Cloud-Dienst, um Fehlerquellen analysieren und Verbesserungsvorschläge erstellen zu lassen. Erlauben die Nutzungsbedingungen des gewählten Dienstes eine Weiterverwendung der Eingaben zur Modellverbesserung und wurde diese nicht wirksam ausgeschlossen, können vertrauliche Informationen über die eigentliche Aufgabenbearbeitung hinaus genutzt werden. Das technische Know-how – das „Tafelsilber“ des Unternehmens – gelangt damit in den Einflussbereich eines externen Anbieters. Eine Offenlegung gegenüber anderen Nutzern ist dadurch zwar nicht zwangsläufig gegeben; die ausschließliche Kontrolle über die Verarbeitung und weitere Verwendung der Daten ist jedoch nicht mehr gewährleistet.

Damit werden Datensouveränität und Datensicherheit zu zentralen Kriterien jeder KI-Strategie. Zwar können auch Cloudangebote geeignete Sicherheitsmaßnahmen und vertragliche Zusicherungen bieten. Ob sie den jeweiligen Anforderungen genügen, hängt jedoch vom konkreten Betriebsmodell, den geltenden Vorschriften und den unternehmensinternen Richtlinien ab. Für Unternehmen, deren Daten die eigene Infrastruktur nicht verlassen dürfen oder sollen, ist die lokale Verarbeitung deshalb eine maßgebliche Voraussetzung für den KI-Einsatz.

Die folgerichtige Entscheidung ist in diesen Fällen eine KI-Infrastruktur als On-Premises-Lösung: Modelle und Daten verbleiben im eigenen Rechenzentrum, während das Unternehmen Zugriffsrechte, Datenflüsse und Betriebsbedingungen selbst steuert. Voraussetzung ist eine konsequent lokale Architektur, die auch unbeabsichtigte Datenabflüsse über externe Schnittstellen oder Telemetrie verhindert. Ein solcher Betrieb ersetzt zwar kein durchdachtes Sicherheitskonzept und erfordert eine sorgfältige Planung der Rechen-, Speicher- und Kühlkapazitäten. Er schafft aber eine kontrollierbare Grundlage, um KI-Nutzung und Compliance miteinander zu vereinbaren. Für Unternehmen mit verbindlichen Anforderungen an die lokale Datenverarbeitung wird On-Premises-KI damit zu einer strategisch vorteilhaften Alternative zur Cloud.

Die Mitarbeiter werden durch den Einsatz von On-Premises-KI bei ihren Aufgaben aktiv unterstützt: Von der Produktentwicklung bis hin zur Abwicklung operativer Aufgaben kann On-Premises-KI den Beschäftigten unter die Arme greifen und dafür sorgen, dass sie schneller zu den gewünschten Ergebnissen kommen, als dies ohne KI möglich gewesen wäre − und ohne Gefahr zu laufen, Daten unkontrolliert abfließen zu lassen.

Je nach Anwendung und je nach Zahl der verschiedenen Arbeitsgebiete, in denen die KI-Instanzen unterstützen sollen, unterscheidet sich die benötigte Leistung im Rechenzentrum für den Betrieb dieser Instanzen. Grundsätzlich gilt zunächst der alte Lehrsatz aus der Autotechnik: Leistung ist durch nichts zu ersetzen, außer durch noch mehr Leistung. Jeder weitere Server und jede weitere GPU sorgen für schnellere Antwortzeiten. KI ist dabei einer der Anwendungsfälle, bei denen die Rechenleistung von Grafikkarten besonders effektiv genutzt werden kann, sodass gerade bei Modellen mit großem Datenbestand der Bedarf an GPUs besonders groß ist – und zugleich leidet der Markt darunter, dass die Hersteller von Grafikkarten und RAM in den verschiedenen Ausprägungen mit der Produktion kaum hinterherkommen, die Folge sind rasch steigende Preise für die gefragte Hardware.

Dies sind allerdings alles (kostspielige) Nebenkriegsschauplätze – Künstliche Intelligenz muss nämlich nutzbringend im Unternehmen verankert werden. Dazu müssen gegebenenfalls Arbeitsabläufe angepasst und Strukturen verändert werden. Und auch die Verlagerung von Rechenleistung aus der Cloud ins heimische Rechenzentrum will gut geplant sein, weil Künstliche Intelligenz insbesondere bei großen Datenbeständen eine Menge Rechenleistung benötigt, die bislang im hauseigenen Rechenzentrum meist nicht gebraucht wurde.

Die Umrüstung eines Rechenzentrums kann angesichts der Knappheit bei RAM und GPUs sowie der z.T. horrenden Klimatisierungskosten durchaus ein wichtiger Kostenfaktor innerhalb des Unternehmens werden. Allerdings sind die Kosten des Betriebs einer Multiprovider-Cloud ebenfalls nicht gerade ein Sonderangebot – und angesichts des Vorteils, dass die eigenen Daten beim Betrieb der Künstlichen Intelligenz-Agenten im Unternehmens-RZ tatsächlich im Haus bleiben, ist der mögliche Kostennachteil vermutlich gar nicht so groß.

Unternehmen, die auf diese sinnvolle Nutzung von KI setzen, arbeiten vor allem im Vorfeld der Nutzung mit Serviceanbietern wie Controlware zusammen, um so möglichst schnell zu einer trainierten KI zu kommen, die exakt die Fähigkeiten bereitstellt, die für die jeweilige Nutzung erforderlich sind. Insbesondere die Planung im Vorfeld der KI-Nutzung spielt eine besondere Rolle. Erst wenn klar ist, welche Aufgaben die KI für das Unternehmen übernehmen soll, kann man festlegen, welche Technik benötigt wird, um die gestellten Aufgaben in akzeptabler Zeit zu erledigen.

Als „IT-Partner“ betreut Controlware viele verschiedene Themenfelder, die bei der Einführung einer KI in ein Unternehmen anfallen können. Zunächst geht’s dabei um die Organisation der KI-Modelle vom Training über das Fine Tuning bis hin zur Nutzung (Inferencing). Und diese Dienstleistungen sind gefragter denn je: KI-unterstützte Spracherkennung benötigen nach einer iSCM-Umfrage

75 % aller befragten Unternehmen, gegenüber 64 % im Vorjahr. Der Bedarf an Texterstellung und Assistenzsysteme bewegen sich auf ähnlich hohem Niveau, wie schon im Vorjahr. Dem gegenüber haben Bilderkennung, textbasierte Chatbots und die Klassifikation und Strukturierung von Daten an Priorität eingebüßt. Auch wenn sich die Gewichtung der angefragten Funktionen verschoben haben mag – die grundsätzliche Änderung beim Bereitstellen dieser Funktionen bleibt gleich: Der Ressourcenbedarf wächst erheblich.

Dies liegt daran, dass lokale KIs wie Copilot (Microsoft), AI-Browser, Chatbots, Sprach-, Bild- und Video-KIs, Developer-Tools und autonome Agenten eine durchgängig höhere Verkehrslast ins Firmennetz bringen. Dabei geht es zunächst um den hausinternen Traffic zwischen den Servern, Systemen und Datenbanken innerhalb des Rechenzentrums – dies erfordert eine leistungsstarke Infrastruktur innerhalb des Hauses. Und andererseits – je nach Ausprägung der genutzten KI – muss man auch die Auslastung der Internet-Anbindung(en) des Unternehmensnetzes im Auge behalten.

Allerdings muss man für den Aufbau einer untrainierten KI durchaus einige Investitionen einplanen; da ist zunächst das Anlernen (Training), mit dem man die KI mit den relevanten Daten aus dem vorhandenen Datenbestand auf den gewünschten Anwendungsfall (beispielsweise die Bilderkennung) trainiert. Hierfür sind deutlich mehr Rechenleistung und Speicher erforderlich, als man üblicherweise im Enterprise-Umfeld auf On-Premises-Plattformen sinnvoll bereitstellen kann. Zudem benötigt diese Phase auch eine Menge Zeit (von Tagen bis zu mehreren Wochen). In dieser Zeit muss die Infrastruktur fehlerfrei funktionieren, um das Modell korrekt zu trainieren. Ist dies nicht der Fall − etwa bei Netzverbindungen zwischen den GPUs mit zu großen Latenzen − bricht der Trainingsmodus ab und muss neu gestartet werden. Ist das Training erfolgreich abgeschlossen, erfolgt das Feintuning. Hierbei wird das KI-Modell auf spezifische Anwendungsfälle, beispielsweise auf das Erkennen von Tumorgewebe, auf entsprechendem Bildmaterial nachjustiert. Nach Abschluss dieser ebenfalls zeit- und rechenintensiven Stufe der KI-Einführung geht es dann an die praktische Umsetzung, das Inferencing. Hier unterstützt Controlware die Kunden mit Know-how und Experten, die die Einführung so lange begleiten, bis die KI-Funktionen auch wirklich so arbeiten wie gewünscht.

Controlware, IT-Dienstleister und Managed Service Provider, unterstützt die Kunden von der technischen Realisierung bis zum ausgelagerten Betrieb, so dass sich jeder Controlware Kunde in Zusammenarbeit mit den Beratern des Unternehmens eine maßgeschneiderte KI-Lösung zusammenstellen und auf Wunsch in Kooperation realisieren kann. Auf diese Weise kommen Unternehmen in den Genuss von funktionierenden KI-Funktionen, lange bevor die Konkurrenz dies mit hausinternem Wissen realisieren könnte.

Um KI nachhaltig und geschäftsrelevant zu etablieren, beginnt Controlware mit einer pragmatischen Strategie, die Use‑Case‑Analyse und Priorisierung verbindet. Gemeinsam mit dem jeweiligen Kunden werden Anwendungsfälle identifiziert und danach bewertet, wo KI wirklich Wert schafft, und welche organisatorischen, technischen sowie regulatorischen Voraussetzungen beim Einsatz von KI erfüllt werden müssen. Ergänzend erfolgt eine Bestandsaufnahme der zur Verfügung stehenden Daten, wobei auch Compliance‑Anforderungen berücksichtigt werden. Zudem werden fundierte Make‑or‑Buy‑Entscheidungen vorbereitet, sodass sich eine realistische, umsetzbare KI-Roadmap ergibt.

Auf Basis der Anforderungen eines konkreten KI-Anwendungsfalls entwirft Controlware eine belastbare Zielarchitektur. Diese umfasst die Auswahl geeigneter Modelle, Plattformen, Schnittstellen, Sicherheitsmechanismen und Betriebsmodelle mit dem Ziel, keine Einzellösung zu schaffen, sondern eine skalierbare KI‑Plattform, die mehrere Anwendungen auf einer gemeinsamen, standardisierten Grundlage tragen kann.

Für den produktiven Einsatz bietet Controlware eine hybride Bereitstellungsstrategie: Public Cloud, On‑Premises oder hybride Architekturen werden situationsabhängig ausgewählt. Die Entscheidung orientiert sich an Datenklassifikation, Latenzanforderungen, vorhandener Infrastruktur, Kosten sowie an Souveränitäts‑ und Compliance‑Vorgaben, sodass für den Kunden seine technische Flexibilität gewahrt bleibt und Abhängigkeiten minimiert werden.

Der Aufbau einer KI‑tauglichen Infrastruktur ist Kernbestandteil des Angebots. Controlware plant und implementiert leistungsfähige Netz‑ und Data Center‑Infrastrukturen, sichere Verbindungen sowie geeignete Compute‑ und Storage‑Ressourcen und integriert Cloud‑ und On‑Premises‑Umgebungen. Der Fokus liegt darauf, dass KI‑Funktionen zuverlässig, performant und bedarfsgerecht betrieben werden können. Im Modellebenszyklus unterstützt Controlware von der Auswahl über Training und Fine‑Tuning bis zum laufenden Inferencing. Besonderes Augenmerk liegt auf dem produktiven Betrieb: sichere, performante und wirtschaftliche Verarbeitung von Anfragen im Tagesgeschäft, inklusive Skalierung, Kostenoptimierung und Betriebssicherheit.

Um Unternehmenswissen nutzbar zu machen, bindet Controlware Dokumente, Wissensdatenbanken und Fachsysteme an KI‑Anwendungen an. Mittels Retrieval‑Augmented Generation (RAG) werden interne Inhalte kontrolliert nutzbar; über standardisierte Schnittstellen wie MCP lassen sich Werkzeuge, Datenbanken und operative Systeme anbinden. Die dauerhafte Pflege der Quellen und Schnittstellen sichert die Aktualität und Verlässlichkeit der Informationen.

Die Integration in Prozesse, Anwendungen und Arbeitsplätze macht KI handhabbar: Controlware verankert KI‑Funktionen in Chat‑Oberflächen, individuellen UIs oder Add‑ins für Outlook und Teams, ergänzt durch Agenten, Workflows, APIs und Connectoren, um Informationen bereitzustellen oder klar abgegrenzte Aufgaben kontrolliert zu automatisieren.

Security, Compliance und Datenhoheit sind grundsätzlich wichtige Bestandteile der Lösung. Controlware sichert Identitäten, Zugriffsrechte, Schnittstellen und Datenflüsse, stellt Auditierbarkeit und Nachweisführung sicher und schützt vor unkontrolliertem Datenabfluss. Kunden behalten die Kontrolle über Datenspeicherorte, Zugriffsberechtigungen und kryptografische Schlüssel. Gleichzeitig setzt Controlware auf offene Standards und austauschbare Komponenten, um Technik‑Lock‑Ins zu vermeiden und Souveränität zu ermöglichen.

Zur Qualitätssicherung gehören die Einbindung verlässlicher Quellen, Prüf‑ und Freigabemechanismen sowie Human‑in‑the‑Loop‑Verfahren für kritische Entscheidungen. Der produktive Betrieb wird durch Monitoring, Erkennung von Modell‑ und Daten‑Drift sowie geregeltes Incident‑Management begleitet. Optional bietet Controlware umfassende Managed Services für Plattformbetrieb, Sicherheit, Überwachung, Wartung und Weiterentwicklung, damit KI vom Pilotprojekt zu einem dauerhaft betriebenen Bestandteil der Kunden-IT wird.

Stephan Mayer/Jens Müller (Controlware)