Wer sichere Messenger mit End-2-End-Encryption (E2EE) nutzt, ist sicher gegen Spionage und Abhörmaßnahmen? Vielleicht, vielleicht auch nicht, wie das aktuelle ChatGPT-Plug-in für Apples iMessage zeigt. Unternehmen, bei denen Mitarbeiter auch private Smartphones mit nicht zertifizierten Apps für Business-Aufgaben nutzen, gehen ab jetzt ein hohes Risiko ein.
Es wirkt auf ersten Blick praktisch: Nutzer können auf dem Mac ein ChatGPT-Plug-in installieren, das alle iMessage-Nachrichten mitliest, zusammenfasst, beantworten kann und anderweitig unterstützt. Damit das klappt, schiebt das Plug-in die Inhalte in die KI-Cloud von OpenAI, die die Inhalte verarbeitet, speichert, wahrscheinlich zum Training nutzt und deren Inhalte nicht mehr sicher vor staatlichen Zugriffen beispielsweise aus den USA ist.
Was auf den ersten Blick vielleicht nicht klar ist: Damit ist die Ende-zu-Ende-Verschlüsslung komplett ausgehebelt. Alle bisher vertraulichen Informationen fließen in großer Zahl ab. Schlimmer noch: Alle Kommunikationspartner, die sich darauf verlassen haben, dass iMessage Nachrichten so stark verschlüsselt, dass nicht mal Apple sie mitlesen kann, erfahren davon nichts. Wer jetzt etwas über iMessage verschickt, kann nicht mehr sicher sein, dass es nur das Gegenüber erfährt, weil nicht klar ist, ob der jeweilige Empfänger oder irgendein Empfänger einer Gruppe das KI-Plug-in nutzt. Das ist ein maximaler Vertrauensbruch, ohne dass die Verschlüsselung technisch gesehen geknackt wurde.
Shadow-IT in der Kommunikation ist weit verbreitet
Und das macht klar, wie gefährlich der Einsatz von nicht freigegebenen Tools, die nur für den privaten Einsatz gedacht sind, für Unternehmen ist: Die aktuelle Studie State of Secure Collaboration 2026 von Wire zeigt, dass 48 Prozent aller befragten Firmen Tools zur Kommunikation nutzen, die nicht auf maximale Sicherheit ausgelegt sind und die nicht von der eigenen IT verwaltet werden.
Unter Zeitdruck oder bei Ausfall bestehender Systeme weichen Mitarbeitende schnell auf firmenfremde bzw. nicht freigegebene Tools und Kanäle aus, weil sie sie als sicher einschätzen und über eine moderne Verschlüsselung verfügen. Das allein ist schon problematisch genug, weil dann nicht mehr nachvollziehbar ist, wer an Gesprächen teilgenommen hat und wohin Informationen geflossen sind.
Wird diese Form von Shadow-IT dann aber ‒ ohne dass die Mitarbeitenden davon wissen ‒ zusätzlich von einer externen KI verarbeitet, ergibt das eine besonders riskante Kombination. Denn sie wähnen sich auf der sicheren Seite; dennoch fließt jegliche Information ab, niemand bekommt es mit und hat auch keine Chance, das Problem auch nur zu erahnen.
Die Kombination aus nicht kontrollierten Kommunikationskanälen und externer KI-Verarbeitung stellt daher eine neue Qualität dar, da sie der vollautomatischen Auswertung aller Chats auf einem Rechner Tür und Tor öffnet und prinzipiell sehr viele Personen betreffen kann, die darüber nicht informiert werden. Für Unternehmen ist eine solche KI-Verarbeitung in nicht kontrollierten Kommunikationskanälen auch deshalb ein Problem, weil die Inhalte dann nicht nur theoretisch verarbeitet werden könnten, sondern tatsächlich vollständig Richtung KI-Cloud abfließen.
Genau genommen verstößt das Plug-in von OpenAI damit auch gegen die DSGVO, weil es mit an Sicherheit grenzender Wahrscheinlichkeit personenbezogene Daten verarbeitet, ohne dafür eine Rechtsgrundlage oder Einwilligung zu haben. Aber das steht auf einem anderen Blatt.
KI und Kommunikation müssen gemeinsam gedacht werden
Die Frage, die sich jetzt Unternehmen stellen sollten, ist: Wie lässt sich das verhindern und wie soll man als Unternehmen damit umgehen? Das Beispiel zeigt, dass es besonders wichtig ist, nur Kommunikationstools im Unternehmen zu verwenden, die der eigenen Kontrolle unterliegen, State-of-the-Art End-to-End verschlüsseln und bei denen keine Inhalte unbemerkt von externen KI-Systemen verarbeitet werden können.
Der Einsatz von KI und die Verwendung von Kommunikationstools dürfen Verantwortliche in Zukunft nicht mehr getrennt betrachten. Sensible Daten sollten nur über die Kanäle transportiert werden, die freigegeben und kontrollierbar sind.
Denn ab jetzt muss davon ausgegangen werden, dass bei nicht freigegebenen Kommunikationskanälen auf der anderen Seite eine KI Inhalte auswertet und verknüpft und die Inhalte nicht mehr sicher sind. Dafür sollten Mitarbeitende entsprechend gebrieft und sensibilisiert werden, damit sie auch in schwierigen Situationen nur auf vorgegebene Kommunikationsmittel zurückgreifen, die die notwendige Sicherheit und Vertraulichkeit garantieren können.
Benjamin Schilz
Über den Autor
Benjamin Schilz ist seit Januar 2024 Chief Executive Officer (CEO) des Berliner Unternehmens Wire, einem führenden Anbieter für sichere Messaging- und Kollaborationslösungen für Regierungen und Unternehmen. Bei Wire treibt Schilz die internationale Expansion voran und setzt sich für digitale Souveränität, Ende-zu-Ende-Verschlüsselung und europäische Datenschutzstandards ein.