{"id":2427,"date":"2026-11-04T15:06:35","date_gmt":"2026-11-04T14:06:35","guid":{"rendered":"https:\/\/www.lan-wan-telecom.de\/?p=2427"},"modified":"2026-11-04T15:06:35","modified_gmt":"2026-11-04T14:06:35","slug":"kuenstliche-intelligenz-inferenz-sorgt-fuer-bessere-und-schnellere-ergebnisse","status":"publish","type":"post","link":"https:\/\/www.lan-wan-telecom.de\/index.php\/2026\/11\/04\/kuenstliche-intelligenz-inferenz-sorgt-fuer-bessere-und-schnellere-ergebnisse\/","title":{"rendered":"K\u00fcnstliche Intelligenz \u2013 Inferenz sorgt f\u00fcr bessere und schnellere Ergebnisse"},"content":{"rendered":"

K\u00fcnstliche Intelligenz er\u00f6ffnet Unternehmen neue M\u00f6glichkeiten, Prozesse zu automatisieren, Wissen zu erschlie\u00dfen und Entscheidungen fundierter zu treffen. Cloudbasierte KI-Dienste versprechen dabei einen schnellen Einstieg ohne eigene Recheninfrastruktur. Doch sobald sensible Gesch\u00e4fts-, Kunden- oder Entwicklungsdaten verarbeitet werden, reicht der Blick auf Leistungsf\u00e4higkeit und Kosten nicht mehr aus. Entscheidend ist auch, wo die Daten verarbeitet werden, wer darauf zugreifen kann und welche Kontrolle das Unternehmen \u00fcber ihre Speicherung und weitere Nutzung beh\u00e4lt.<\/p>\n

Wie schnell diese Kontrolle verloren gehen kann, zeigt ein beispielhaftes Szenario aus der Produktentwicklung: Ein Mitarbeiter eines Maschinenbauunternehmens \u00fcbermittelt Konstruktionsunterlagen und interne Pr\u00fcfberichte an einen \u00f6ffentlichen KI-Cloud-Dienst, um Fehlerquellen analysieren und Verbesserungsvorschl\u00e4ge erstellen zu lassen. Erlauben die Nutzungsbedingungen des gew\u00e4hlten Dienstes eine Weiterverwendung der Eingaben zur Modellverbesserung und wurde diese nicht wirksam ausgeschlossen, k\u00f6nnen vertrauliche Informationen \u00fcber die eigentliche Aufgabenbearbeitung hinaus genutzt werden. Das technische Know-how \u2013 das \u201eTafelsilber\u201c des Unternehmens \u2013 gelangt damit in den Einflussbereich eines externen Anbieters. Eine Offenlegung gegen\u00fcber anderen Nutzern ist dadurch zwar nicht zwangsl\u00e4ufig gegeben; die ausschlie\u00dfliche Kontrolle \u00fcber die Verarbeitung und weitere Verwendung der Daten ist jedoch nicht mehr gew\u00e4hrleistet.<\/p>\n

Damit werden Datensouver\u00e4nit\u00e4t und Datensicherheit zu zentralen Kriterien jeder KI-Strategie. Zwar k\u00f6nnen auch Cloudangebote geeignete Sicherheitsma\u00dfnahmen und vertragliche Zusicherungen bieten. Ob sie den jeweiligen Anforderungen gen\u00fcgen, h\u00e4ngt jedoch vom konkreten Betriebsmodell, den geltenden Vorschriften und den unternehmensinternen Richtlinien ab. F\u00fcr Unternehmen, deren Daten die eigene Infrastruktur nicht verlassen d\u00fcrfen oder sollen, ist die lokale Verarbeitung deshalb eine ma\u00dfgebliche Voraussetzung f\u00fcr den KI-Einsatz.<\/p>\n

Die folgerichtige Entscheidung ist in diesen F\u00e4llen eine KI-Infrastruktur als On-Premises-L\u00f6sung: Modelle und Daten verbleiben im eigenen Rechenzentrum, w\u00e4hrend das Unternehmen Zugriffsrechte, Datenfl\u00fcsse und Betriebsbedingungen selbst steuert. Voraussetzung ist eine konsequent lokale Architektur, die auch unbeabsichtigte Datenabfl\u00fcsse \u00fcber externe Schnittstellen oder Telemetrie verhindert. Ein solcher Betrieb ersetzt zwar kein durchdachtes Sicherheitskonzept und erfordert eine sorgf\u00e4ltige Planung der Rechen-, Speicher- und K\u00fchlkapazit\u00e4ten. Er schafft aber eine kontrollierbare Grundlage, um KI-Nutzung und Compliance miteinander zu vereinbaren. F\u00fcr Unternehmen mit verbindlichen Anforderungen an die lokale Datenverarbeitung wird On-Premises-KI damit zu einer strategisch vorteilhaften Alternative zur Cloud.<\/p>\n

Die Mitarbeiter werden durch den Einsatz von On-Premises-KI bei ihren Aufgaben aktiv unterst\u00fctzt: Von der Produktentwicklung bis hin zur Abwicklung operativer Aufgaben kann On-Premises-KI den Besch\u00e4ftigten unter die Arme greifen und daf\u00fcr sorgen, dass sie schneller zu den gew\u00fcnschten Ergebnissen kommen, als dies ohne KI m\u00f6glich gewesen w\u00e4re \u2212 und ohne Gefahr zu laufen, Daten unkontrolliert abflie\u00dfen zu lassen.<\/p>\n

Je nach Anwendung und je nach Zahl der verschiedenen Arbeitsgebiete, in denen die KI-Instanzen unterst\u00fctzen sollen, unterscheidet sich die ben\u00f6tigte Leistung im Rechenzentrum f\u00fcr den Betrieb dieser Instanzen. Grunds\u00e4tzlich gilt zun\u00e4chst der alte Lehrsatz aus der Autotechnik: Leistung ist durch nichts zu ersetzen, au\u00dfer durch noch mehr Leistung. Jeder weitere Server und jede weitere GPU sorgen f\u00fcr schnellere Antwortzeiten. KI ist dabei einer der Anwendungsf\u00e4lle, bei denen die Rechenleistung von Grafikkarten besonders effektiv genutzt werden kann, sodass gerade bei Modellen mit gro\u00dfem Datenbestand der Bedarf an GPUs besonders gro\u00df ist \u2013 und zugleich leidet der Markt darunter, dass die Hersteller von Grafikkarten und RAM in den verschiedenen Auspr\u00e4gungen mit der Produktion kaum hinterherkommen, die Folge sind rasch steigende Preise f\u00fcr die gefragte Hardware.<\/p>\n

Dies sind allerdings alles (kostspielige) Nebenkriegsschaupl\u00e4tze \u2013 K\u00fcnstliche Intelligenz muss n\u00e4mlich nutzbringend im Unternehmen verankert werden. Dazu m\u00fcssen gegebenenfalls Arbeitsabl\u00e4ufe angepasst und Strukturen ver\u00e4ndert werden. Und auch die Verlagerung von Rechenleistung aus der Cloud ins heimische Rechenzentrum will gut geplant sein, weil K\u00fcnstliche Intelligenz insbesondere bei gro\u00dfen Datenbest\u00e4nden eine Menge Rechenleistung ben\u00f6tigt, die bislang im hauseigenen Rechenzentrum meist nicht gebraucht wurde.<\/p>\n

Die Umr\u00fcstung eines Rechenzentrums kann angesichts der Knappheit bei RAM und GPUs sowie der z.T. horrenden Klimatisierungskosten durchaus ein wichtiger Kostenfaktor innerhalb des Unternehmens werden. Allerdings sind die Kosten des Betriebs einer Multiprovider-Cloud ebenfalls nicht gerade ein Sonderangebot \u2013 und angesichts des Vorteils, dass die eigenen Daten beim Betrieb der K\u00fcnstlichen Intelligenz-Agenten im Unternehmens-RZ tats\u00e4chlich im Haus bleiben, ist der m\u00f6gliche Kostennachteil vermutlich gar nicht so gro\u00df.<\/p>\n

Unternehmen, die auf diese sinnvolle Nutzung von KI setzen, arbeiten vor allem im Vorfeld der Nutzung mit Serviceanbietern wie Controlware zusammen, um so m\u00f6glichst schnell zu einer trainierten KI zu kommen, die exakt die F\u00e4higkeiten bereitstellt, die f\u00fcr die jeweilige Nutzung erforderlich sind. Insbesondere die Planung im Vorfeld der KI-Nutzung spielt eine besondere Rolle. Erst wenn klar ist, welche Aufgaben die KI f\u00fcr das Unternehmen \u00fcbernehmen soll, kann man festlegen, welche Technik ben\u00f6tigt wird, um die gestellten Aufgaben in akzeptabler Zeit zu erledigen.<\/p>\n

Als \u201eIT-Partner\u201c betreut Controlware viele verschiedene Themenfelder, die bei der Einf\u00fchrung einer KI in ein Unternehmen anfallen k\u00f6nnen. Zun\u00e4chst geht\u2019s dabei um die Organisation der KI-Modelle vom Training \u00fcber das Fine Tuning bis hin zur Nutzung (Inferencing). Und diese Dienstleistungen sind gefragter denn je: KI-unterst\u00fctzte Spracherkennung ben\u00f6tigen nach einer iSCM-Umfrage<\/p>\n

75 % aller befragten Unternehmen, gegen\u00fcber 64 % im Vorjahr. Der Bedarf an Texterstellung und Assistenzsysteme bewegen sich auf \u00e4hnlich hohem Niveau, wie schon im Vorjahr. Dem gegen\u00fcber haben Bilderkennung, textbasierte Chatbots und die Klassifikation und Strukturierung von Daten an Priorit\u00e4t eingeb\u00fc\u00dft. Auch wenn sich die Gewichtung der angefragten Funktionen verschoben haben mag \u2013 die grunds\u00e4tzliche \u00c4nderung beim Bereitstellen dieser Funktionen bleibt gleich: Der Ressourcenbedarf w\u00e4chst erheblich.<\/p>\n

Dies liegt daran, dass lokale KIs wie Copilot (Microsoft), AI-Browser, Chatbots, Sprach-, Bild- und Video-KIs, Developer-Tools und autonome Agenten eine durchg\u00e4ngig h\u00f6here Verkehrslast ins Firmennetz bringen. Dabei geht es zun\u00e4chst um den hausinternen Traffic zwischen den Servern, Systemen und Datenbanken innerhalb des Rechenzentrums \u2013 dies erfordert eine leistungsstarke Infrastruktur innerhalb des Hauses. Und andererseits \u2013 je nach Auspr\u00e4gung der genutzten KI \u2013 muss man auch die Auslastung der Internet-Anbindung(en) des Unternehmensnetzes im Auge behalten.<\/p>\n

Allerdings muss man f\u00fcr den Aufbau einer untrainierten KI durchaus einige Investitionen einplanen; da ist zun\u00e4chst das Anlernen (Training), mit dem man die KI mit den relevanten Daten aus dem vorhandenen Datenbestand auf den gew\u00fcnschten Anwendungsfall (beispielsweise die Bilderkennung) trainiert. Hierf\u00fcr sind deutlich mehr Rechenleistung und Speicher erforderlich, als man \u00fcblicherweise im Enterprise-Umfeld auf On-Premises-Plattformen sinnvoll bereitstellen kann. Zudem ben\u00f6tigt diese Phase auch eine Menge Zeit (von Tagen bis zu mehreren Wochen). In dieser Zeit muss die Infrastruktur fehlerfrei funktionieren, um das Modell korrekt zu trainieren. Ist dies nicht der Fall \u2212 etwa bei Netzverbindungen zwischen den GPUs mit zu gro\u00dfen Latenzen \u2212 bricht der Trainingsmodus ab und muss neu gestartet werden. Ist das Training erfolgreich abgeschlossen, erfolgt das Feintuning. Hierbei wird das KI-Modell auf spezifische Anwendungsf\u00e4lle, beispielsweise auf das Erkennen von Tumorgewebe, auf entsprechendem Bildmaterial nachjustiert. Nach Abschluss dieser ebenfalls zeit- und rechenintensiven Stufe der KI-Einf\u00fchrung geht es dann an die praktische Umsetzung, das Inferencing. Hier unterst\u00fctzt Controlware die Kunden mit Know-how und Experten, die die Einf\u00fchrung so lange begleiten, bis die KI-Funktionen auch wirklich so arbeiten wie gew\u00fcnscht.<\/p>\n

Controlware, IT-Dienstleister und Managed Service Provider, unterst\u00fctzt die Kunden von der technischen Realisierung bis zum ausgelagerten Betrieb, so dass sich jeder Controlware Kunde in Zusammenarbeit mit den Beratern des Unternehmens eine ma\u00dfgeschneiderte KI-L\u00f6sung zusammenstellen und auf Wunsch in Kooperation realisieren kann. Auf diese Weise kommen Unternehmen in den Genuss von funktionierenden KI-Funktionen, lange bevor die Konkurrenz dies mit hausinternem Wissen realisieren k\u00f6nnte.<\/p>\n

Um KI nachhaltig und gesch\u00e4ftsrelevant zu etablieren, beginnt Controlware mit einer pragmatischen Strategie, die Use\u2011Case\u2011Analyse und Priorisierung verbindet. Gemeinsam mit dem jeweiligen Kunden werden Anwendungsf\u00e4lle identifiziert und danach bewertet, wo KI wirklich Wert schafft, und welche organisatorischen, technischen sowie regulatorischen Voraussetzungen beim Einsatz von KI erf\u00fcllt werden m\u00fcssen. Erg\u00e4nzend erfolgt eine Bestandsaufnahme der zur Verf\u00fcgung stehenden Daten, wobei auch Compliance\u2011Anforderungen ber\u00fccksichtigt werden. Zudem werden fundierte Make\u2011or\u2011Buy\u2011Entscheidungen vorbereitet, sodass sich eine realistische, umsetzbare KI-Roadmap ergibt.<\/p>\n

Auf Basis der Anforderungen eines konkreten KI-Anwendungsfalls entwirft Controlware eine belastbare Zielarchitektur. Diese umfasst die Auswahl geeigneter Modelle, Plattformen, Schnittstellen, Sicherheitsmechanismen und Betriebsmodelle mit dem Ziel, keine Einzell\u00f6sung zu schaffen, sondern eine skalierbare KI\u2011Plattform, die mehrere Anwendungen auf einer gemeinsamen, standardisierten Grundlage tragen kann.<\/p>\n

\"\"
Abbildung 1: Controlware konzentriert sich bei der KI-Unterst\u00fctzung der Kunden auf das Inferenzing.<\/figcaption><\/figure>\n

F\u00fcr den produktiven Einsatz bietet Controlware eine hybride Bereitstellungsstrategie: Public Cloud, On\u2011Premises oder hybride Architekturen werden situationsabh\u00e4ngig ausgew\u00e4hlt. Die Entscheidung orientiert sich an Datenklassifikation, Latenzanforderungen, vorhandener Infrastruktur, Kosten sowie an Souver\u00e4nit\u00e4ts\u2011 und Compliance\u2011Vorgaben, sodass f\u00fcr den Kunden seine technische Flexibilit\u00e4t gewahrt bleibt und Abh\u00e4ngigkeiten minimiert werden.<\/p>\n

Der Aufbau einer KI\u2011tauglichen Infrastruktur ist Kernbestandteil des Angebots. Controlware plant und implementiert leistungsf\u00e4hige Netz\u2011 und Data Center\u2011Infrastrukturen, sichere Verbindungen sowie geeignete Compute\u2011 und Storage\u2011Ressourcen und integriert Cloud\u2011 und On\u2011Premises\u2011Umgebungen. Der Fokus liegt darauf, dass KI\u2011Funktionen zuverl\u00e4ssig, performant und bedarfsgerecht betrieben werden k\u00f6nnen. Im Modellebenszyklus unterst\u00fctzt Controlware von der Auswahl \u00fcber Training und Fine\u2011Tuning bis zum laufenden Inferencing. Besonderes Augenmerk liegt auf dem produktiven Betrieb: sichere, performante und wirtschaftliche Verarbeitung von Anfragen im Tagesgesch\u00e4ft, inklusive Skalierung, Kostenoptimierung und Betriebssicherheit.<\/p>\n

Um Unternehmenswissen nutzbar zu machen, bindet Controlware Dokumente, Wissensdatenbanken und Fachsysteme an KI\u2011Anwendungen an. Mittels Retrieval\u2011Augmented Generation (RAG) werden interne Inhalte kontrolliert nutzbar; \u00fcber standardisierte Schnittstellen wie MCP lassen sich Werkzeuge, Datenbanken und operative Systeme anbinden. Die dauerhafte Pflege der Quellen und Schnittstellen sichert die Aktualit\u00e4t und Verl\u00e4sslichkeit der Informationen.<\/p>\n

Die Integration in Prozesse, Anwendungen und Arbeitspl\u00e4tze macht KI handhabbar:\u00a0Controlware verankert KI\u2011Funktionen in Chat\u2011Oberfl\u00e4chen, individuellen UIs oder Add\u2011ins f\u00fcr Outlook und Teams, erg\u00e4nzt durch Agenten, Workflows, APIs und Connectoren, um Informationen bereitzustellen oder klar abgegrenzte Aufgaben kontrolliert zu automatisieren.<\/p>\n

\"\"
Abbildung 2: Controlware sorgt f\u00fcr KI-taugliche LAN-Infrastruktur und auch daf\u00fcr, dass der Kunde die gew\u00fcnschten Funktionen Inhouse oder auch bei Dienstleistern zum Laufen bekommt.<\/figcaption><\/figure>\n

Security, Compliance und Datenhoheit sind grunds\u00e4tzlich wichtige Bestandteile der L\u00f6sung. Controlware sichert Identit\u00e4ten, Zugriffsrechte, Schnittstellen und Datenfl\u00fcsse, stellt Auditierbarkeit und Nachweisf\u00fchrung sicher und sch\u00fctzt vor unkontrolliertem Datenabfluss. Kunden behalten die Kontrolle \u00fcber Datenspeicherorte, Zugriffsberechtigungen und kryptografische Schl\u00fcssel. Gleichzeitig setzt Controlware auf offene Standards und austauschbare Komponenten, um Technik\u2011Lock\u2011Ins zu vermeiden und Souver\u00e4nit\u00e4t zu erm\u00f6glichen.<\/p>\n

Zur Qualit\u00e4tssicherung geh\u00f6ren die Einbindung verl\u00e4sslicher Quellen, Pr\u00fcf\u2011 und Freigabemechanismen sowie Human\u2011in\u2011the\u2011Loop\u2011Verfahren f\u00fcr kritische Entscheidungen. Der produktive Betrieb wird durch Monitoring, Erkennung von Modell\u2011 und Daten\u2011Drift sowie geregeltes Incident\u2011Management begleitet. Optional bietet Controlware umfassende Managed Services f\u00fcr Plattformbetrieb, Sicherheit, \u00dcberwachung, Wartung und Weiterentwicklung, damit KI vom Pilotprojekt zu einem dauerhaft betriebenen Bestandteil der Kunden-IT wird.<\/p>\n

Stephan Mayer\/Jens M\u00fcller (Controlware)<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

K\u00fcnstliche Intelligenz er\u00f6ffnet Unternehmen neue M\u00f6glichkeiten, Prozesse zu automatisieren, Wissen zu erschlie\u00dfen und Entscheidungen fundierter zu treffen. Cloudbasierte KI-Dienste versprechen dabei einen schnellen Einstieg ohne eigene Recheninfrastruktur. Doch sobald sensible Gesch\u00e4fts-, Kunden- oder Entwicklungsdaten verarbeitet werden, reicht der Blick auf Leistungsf\u00e4higkeit und Kosten nicht mehr aus. Entscheidend ist auch, wo die Daten verarbeitet werden, wer […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5,10,11],"tags":[],"class_list":["post-2427","post","type-post","status-publish","format-standard","hentry","category-networks","category-recht-gesetz","category-security"],"_links":{"self":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/2427","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/comments?post=2427"}],"version-history":[{"count":6,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/2427\/revisions"}],"predecessor-version":[{"id":2435,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/2427\/revisions\/2435"}],"wp:attachment":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/media?parent=2427"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/categories?post=2427"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/tags?post=2427"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}