Künstliche Intelligenz bietet dem deutschen Mittelstand enorme Potenziale, birgt aber auch spezifische Herausforderungen: Heterogene IT-Landschaften, fragmentierte Datenbestände und wachsende regulatorische Anforderungen machen den Erfolg von KI-Projekten von einer sauberen strategischen Umsetzung abhängig. Gerade für mittelständische Unternehmen gilt es, KI so einzuführen, dass Transparenz, Datensouveränität und betriebliche Effizienz gewährleistet bleiben. Heiko Beier, Gründer und Geschäftsführer des KI-Unternehmens moresophy, zeigt auf, worauf der Mittelstand achten muss, um KI erfolgreich und vertrauenswürdig einzusetzen – und welche Fehler es zu vermeiden gilt:

1) Strategische Verankerung und klare Zieldefinition

Der Einsatz von KI hat Auswirkungen auf fast alle Unternehmensbereiche und erfordert deshalb ein Umdenken in der gesamten Organisation. Um Mitarbeitern dabei Sicherheit und Klarheit zu verschaffen, muss die Unternehmensleitung dieses Umdenken leiten, unterstützen und in der Unternehmensstrategie verankern. Um KI sinnvoll und sicher zu implementieren, braucht es eine klare Zielsetzung. Was will ich damit erreichen? Soll KI in einer Assistenz-Rolle genutzt werden, um Mitarbeiter in der Entscheidungsfindung zu unterstützen oder ist das Ziel die Automatisierung bestimmter Prozesse? Diese Entscheidungen treffen Geschäftsführung und Management und halten sie in einer KI-Strategie fest.

Eine klar definierte KI-Strategie beinhaltet auch, wer KI wo und zu welchen Zwecken nutzen darf und soll, wer die Verantwortung für den Einsatz von KI und deren Auswirkungen trägt und welche Daten mit wem geteilt und eingesetzt werden dürfen.

2) Aufbau einer konsistenten und qualitätsgesicherten Datenbasis

Die Grundlage für jede Art von KI sind Daten. Diese Daten in der richtigen Tiefe und Qualität bereitzustellen, ist jedoch besonders für mittelständische Unternehmen oft herausfordernd. Eine Studie des Bundesverbands der Deutschen Industrie (BDI) hat herausgefunden, dass nicht einmal ein Drittel des deutschen Mittelstandes über den nötigen Digitalisierungsgrad verfügt, um ihre Daten gewinnbringend und sinnvoll für sich zu nutzen.

Dieses Problem ist vor allem historisch gewachsen. Heterogene, verteilte IT-Systeme sind im Mittelstand keine Seltenheit. Verschiedene Formate erschweren die Nutzung von Daten zusätzlich. Wenn dann neue Systeme hinzukommen, entstehen oft Abhängigkeiten, die die IT immer komplexer gestalten. Eine moderne KI-Lösung hingegen ist in der Lage Daten aus verschiedenen Quellen intelligent aufzubereiten und mit Meta-Daten zu versehen, damit heterogene Daten bedarfsspezifisch in die jeweiligen Anwendungen integriert werden können.

3) Sicherstellung von Transparenz und Nachvollziehbarkeit

Trotz einer klaren Strategie schrecken Mitarbeiter oft vor dem Einsatz von KI zurück. Der Grund: fehlendes Vertrauen in die Ergebnisse. Damit KI nicht zur Black Box wird, müssen Unternehmen genau darauf achten, mit welchen Daten sie die KI füttern. Denn wer die Quelle kennt, kann Ergebnisse leichter validieren und Fehler schneller erkennen.

Transparenz und Nachvollziehbarkeit sind auch zentraler Bestandteil des EU AI Act. Darin werden die Anforderungen an Unternehmen verschärft, offenzulegen, auf welcher Basis KI Entscheidungen trifft. Und auch intern helfen transparente Entscheidungsprozesse dabei Vertrauen in KI-generierte Ergebnisse zu schaffen und die Validierbarkeit und Messbarkeit zu verbessern.

4) Wahrung der Souveränität über Daten und KI-Modelle

Sobald KI im Unternehmen verankert und in die täglichen Abläufe eingebaut ist, ist sie ein integraler Bestandteil der Organisation und damit geschäftskritisch. Der US Cloud Act und Trumps Politik werfen zunehmend die Frage auf, ob sich europäische Unternehmen unabhängiger von Techniken und Services aus den USA machen sollten. Dazu zählen auch KI-Anbieter wie Open AI, die Schöpfer von ChatGPT, oder Anthropic mit Perplexity. Ganz auf KI zu verzichten, ist nicht die Lösung. Vielmehr sollten sich deutsche Mittelständler auf die Suche nach europäischen Anbietern machen und damit die Weichen für einen sicheren und verlässlichen KI-Einsatz im Unternehmen stellen. Diese Anbieter legen großen Wert auf Datenschutz, erlauben Unternehmen die Hoheit über die eigenen Daten zu behalten und schützen geistiges Eigentum. Politische Entscheidungen außerhalb der EU können ihnen also nichts anhaben.

5) Begleitung des technischen Wandels durch aktives Change Management

KI ist dann erfolgreich implementiert, wenn alle Mitarbeiter sie im Alltag nutzen. Viele Unternehmen konzentrieren sich bei der Implementierung mehr auf die Technik als auf die Menschen, die sie schlussendlich nutzen sollen. Um dies zu verhindern, ist ein aktives Change Management gefragt.

Führungskräfte spielen dabei eine entscheidende Rolle. Indem sie ihre Entscheidungsfindung offenlegen und vermitteln, dass Mitarbeiter keineswegs KI-Experten sein müssen, um die Technik zu nutzen, schaffen sie Vertrauen. Schulungen – intern und extern – helfen Mitarbeitern dabei, Sicherheit im Umgang zu erlangen. Eine schrittweise Einführung sorgt dafür, dass Mitarbeiter nicht von vollständig neuen Prozessen erschlagen werden, sondern sich langsam an die Arbeit mit KI gewöhnen können.