Im Hype um die Einsatzm\u00f6glichkeiten von K\u00fcnstlicher Intelligenz bleibt die Diskussion um deren verantwortungsbewusste Nutzung zunehmend auf der Strecke. Zu verlockend sind die M\u00f6glichkeiten, zu atemberaubend ist das Entwicklungstempo. Gleichzeitig wird immer deutlicher, dass KI zwar nach rationalen Gesichtspunkten handelt, die Ber\u00fccksichtigung ethischer Aspekte aber (noch) nicht zu ihren Schl\u00fcsselkompetenzen geh\u00f6rt. Vorurteile werden dadurch nicht abgebaut, sondern verst\u00e4rkt. Wie also umgehen mit KI? Der einfachste Ansatz ist der, KI lediglich als ein besonders m\u00e4chtiges, effizientes Werkzeug zu betrachten. Die Kontrolle der Ergebnisse bleibt in menschlicher Hand, etwa zur Vermeidung von KI-Halluzinationen. Damit behielten auch die \u00fcblichen Rechts- und Compliance-Normen ihre G\u00fcltigkeit. Verst\u00f6\u00dfe dagegen m\u00fcssten dann von Menschen entsprechend aufgedeckt und beseitigt werden.<\/p>\n
Aber dabei stellen sich zwei Probleme: Effizienz und Kontrollierbarkeit. KI-getriebene Automatisierung ergibt nur dann Sinn, wenn sie Abl\u00e4ufe schneller, einfacher und kosteng\u00fcnstiger macht. Kritische menschliche Kontrolle aber unterl\u00e4uft genau diese Vorteile. Wenn Mitarbeitende die In- und Outputs KI-getriebener Prozesse \u00fcberpr\u00fcfen oder umfangreiche Referenzen zu Rate ziehen m\u00fcssen, verpuffen viele der gew\u00fcnschten KI-Effekte. KI entfaltet ihr volles Potenzial erst dann, wenn sie unabh\u00e4ngig agieren kann, etwa bei autonomem Fahren. Dort werden st\u00e4ndig Echtzeit-Entscheidungen getroffen, die sich menschlicher Kontrolle zwangsl\u00e4ufig entziehen. Aber was passiert, wenn Kontrolle von vorneherein gar nicht m\u00f6glich ist? Woher kommen die Daten und Modelle? Die daf\u00fcr notwendige Transparenz und Nachvollziehbarkeit ist mit vertretbarem Aufwand nur bei g\u00e4ngigen Use-Cases m\u00f6glich.<\/p>\n
Wenn der Mensch wenig Kontrollm\u00f6glichkeiten hat und insbesondere f\u00fcr die kritischeren Anwendungsf\u00e4lle, muss KI zwangsl\u00e4ufig selbst Entscheidungen treffen, die ethisch begr\u00fcndet sind \u2013 zum Beispiel Gesch\u00e4ftsentscheidungen auf gesetzliche Rahmenbedingungen pr\u00fcfen. Retrieval Augmented Generation (RAG) eignet sich f\u00fcr die gel\u00e4ufigsten Herausforderungen der KI wie Halluzinationen, Nachverfolgbarkeit oder Aktualit\u00e4t der Informationsbasis. Es mangelt aber an der funktionalen Einbindung ethischer Rahmenwerke. Ans\u00e4tze wie etwa die Agent-Deed-Consequence- oder Human-AI-Teaming-Modelle sind aber noch nicht bis zur Praxisreife entwickelt. Die vorhandenen L\u00fccken m\u00fcssen schnellstens geschlossen werden. Es besteht daher ein rapide wachsender Bedarf, sich mit den ethischen Auswirkungen der Zusammenarbeit zwischen Mensch und KI zu befassen.<\/p>\n
Fred Cuny, Senior Director Pegasystems, CTO DACH and Nordics<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Im Hype um die Einsatzm\u00f6glichkeiten von K\u00fcnstlicher Intelligenz bleibt die Diskussion um deren verantwortungsbewusste Nutzung zunehmend auf der Strecke. Zu verlockend sind die M\u00f6glichkeiten, zu atemberaubend ist das Entwicklungstempo. Gleichzeitig wird immer deutlicher, dass KI zwar nach rationalen Gesichtspunkten handelt, die Ber\u00fccksichtigung ethischer Aspekte aber (noch) nicht zu ihren Schl\u00fcsselkompetenzen geh\u00f6rt. Vorurteile werden dadurch nicht […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,10,11],"tags":[],"class_list":["post-1423","post","type-post","status-publish","format-standard","hentry","category-firmen-news","category-recht-gesetz","category-security"],"_links":{"self":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/comments?post=1423"}],"version-history":[{"count":1,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1423\/revisions"}],"predecessor-version":[{"id":1424,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1423\/revisions\/1424"}],"wp:attachment":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/media?parent=1423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/categories?post=1423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/tags?post=1423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}