Im Jahr 2023 ist etwas Bemerkenswertes in der Welt der Technik passiert: K\u00fcnstliche Intelligenz (KI) wurde zum Mainstream. Eigentlich sind es gro\u00dfe Sprachmodelle (LLMs) und, genauer gesagt, generative Pre-Trained Transformers (GPT), die seit dem Jahr 2023 im Mittelpunkt stehen. LLM ist ein weiter gefasster Begriff, der verschiedene Sprachmodelle, einschlie\u00dflich, aber nicht beschr\u00e4nkt auf Transformator-basierte Modelle wie GPT. KI ist ein noch breiteres Gebiet, von dem LLMs nur eine Teilmenge sind. Generative KI hingegen ist ein Oberbegriff Begriff, der ein Spektrum von Techniken zur Erstellung von Inhalten wie Text, Bilder, Videos und Musik beinhaltet.<\/p>\n
LLMs sind eine Teilmenge der generativen KI, die sich auf Text. Dennoch hat die GPT die Welt im Sturm erobert und in Anbetracht der auf der CES pr\u00e4sentierten Innovationen 2024 vorgestellten Innovationen wird generative KI schon bald in allen unseres Lebens sein. Als KI sich ins Rampenlicht r\u00fcckte, entging sie nicht der Aufmerksamkeit b\u00f6sartiger Bedrohungsakteure. Generative KI-Anwendungen gewinnen zunehmend an Bedeutung, doch mit ihrem Aufschwung entstehen neue Herausforderungen bei der Absicherung gegen Missbrauch. Die Anbieter von generativen KI-Diensten haben erkannt, wie wichtig es ist, Sicherheitsvorkehrungen zu treffen, um zu verhindern, dass ihre Modelle f\u00fcr f\u00fcr sch\u00e4dliche Zwecke missbraucht werden. Als KI-Hacking eine neue Bedrohung darstellte, waren die Anbieter gezwungen, ihre ihre Sicherheitsvorkehrungen kontinuierlich zu verbessern. KI-Prompthacking erm\u00f6glicht es sowohl einfachen Nutzern als auch b\u00f6swilligen Akteuren KI-Modelle so manipulieren, dass sie Aufgaben zu erledigen, f\u00fcr die sie nie gedacht waren.<\/p>\n
An einer anderen Front sind private Open-Source-GPTs auf GitHub aufgetaucht, die vortrainierte LLMs f\u00fcr die Erstellung von Anwendungen nutzen, die f\u00fcr bestimmte Zwecke zugeschnitten sind. Diesen privaten Modellen fehlen oft die Leitplanken, die von kommerziellen Anbietern implementiert werden, was zu kostenpflichtigen KI-Diensten im Untergrund gef\u00fchrt hat, die GPT-\u00e4hnliche F\u00e4higkeiten \u2013 ohne Beschr\u00e4nkungen und optimiert f\u00fcr b\u00f6sartige Anwendungsf\u00e4lle.<\/p>\n
Im Mittelpunkt dieser KI-Revolution steht eine entscheidende Verst\u00e4ndnis: LLMs sind nicht wirklich intelligent. Sie sind massive statistische Sprachprozessoren, die anhand riesiger Mengen von Internetdaten trainiert wurden. Sie sind hervorragend darin, Informationen auf der Grundlage ihrer Ausbildung, aber es fehlt ihnen die F\u00e4higkeit, kritisch zu denken oder v\u00f6llig neue Ideen zu entwickeln. Stattdessen interpolieren und suchen auf der Grundlage ihres riesigen enormen Datenbestands.<\/p>\n
Nichtsdestoweniger bieten LLMs ein m\u00e4chtiges Werkzeug f\u00fcr Bildung und Produktivit\u00e4t. Wenn sie mit Bedacht eingesetzt werden, k\u00f6nnen LLMs dem Einzelnen helfen, seine Ziele effizienter zu erreichen. Sie \u00f6ffnen aber auch die T\u00fcr f\u00fcr b\u00f6swillige Bedrohungsakteure, die ein gr\u00f6\u00dferes Netz auswerfen und ihre Angriffskampagnen ausweiten wollen. Generative adversarial networks (GANs) und Diffusionsmodelle sind eine Klasse von maschinellen Lernverfahren, die sich mit anderen Inhalten als Text befassen. W\u00e4hrend LLMs wie Papageien sind, die getreu wiedergeben, was sie gelernt haben, sind GANs und Diffusionsmodelle mit K\u00fcnstlern vergleichbar. Sie haben die F\u00e4higkeit, Folgendes zu erzeugen:<\/p>\n
Bilder, Videos, Audio oder andere Inhalte. GANs verwenden ein Generator- und und ein Diskriminator-Netzwerk, um Outputs zu erzeugen und zu bewerten, so dass sie neue Inhalte zu „erfinden“, wenn auch durch einen Prozess von Versuch und Irrtum. LLMs k\u00f6nnen zwar in gewissem Ma\u00dfe die Produktivit\u00e4t und Komplexit\u00e4t erh\u00f6hen, sind sie letztlich an ihre Trainingsdaten gebunden. LLMs sind nicht auf nat\u00fcrliche Sprachen beschr\u00e4nkt, sondern zeichnen sich auch durch die Reproduktion und Generierung von Programmiersprachen aus. Weniger gut ausgebildete Bedrohungsakteure k\u00f6nnen LLMs nutzen, um komplexere Angriffsskripte oder Malware erstellen, aber diese Angriffe und Malware sind aber diese Angriffe und Malware sind immer noch durch das in das LLM-Modell eingebettete Wissen begrenzt. Daher liegt die Zunahme der Raffinesse eher in der Anzahl der Angriffe mit einer h\u00f6heren durchschnittlichen Raffinesse und nicht in der ihnen innewohnenden Komplexit\u00e4t und Raffinesse.<\/p>\n
Bedrohungsakteure lernen, wie jeder in der Branche, und passen sich an. Die Beschleunigung des Lernens und der Forschung, der aktuellen generativen KI-Systeme erm\u00f6glicht es ihnen, ihre F\u00e4higkeiten zu verbessern und ausgefeilte Angriffe viel schneller zu entwickeln im Vergleich zu den Jahren des Lernens und der Erfahrung. Selbst f\u00fcr fortgeschrittene Bedrohungsakteure bieten die aktuellen generativen KI-Tools reichlich Gelegenheit, ihre Produktivit\u00e4t zu steigern, und k\u00f6nnten z. B, zur Entdeckung von Schwachstellen in Open-Source-Software eingesetzt werden, was m\u00f6glicherweise was zu einer raschen Zunahme von Zero-Day-Exploits in der freien Wildbahn f\u00fchren k\u00f6nnte.<\/p>\n
Die Landschaft entwickelt sich weiter, und die generative KI entwickelt sich in rasanter Geschwindigkeit. K\u00fcrzlich stellte Google Gemini vor, sein bisher leistungsf\u00e4higstes KI-Modell. Gemini ist ein multimodales generatives KI-System, das in der Lage ist, Text, Audio\/Stimme, Bilder, Video und Code durch eine einzige Eingabeaufforderung zu interpretieren und zu generieren.<\/p>\n
Diese Tools erm\u00f6glichen es, mit wenigen Tastendr\u00fccken h\u00f6chst glaubw\u00fcrdige Scams und Deepfakes zu erstellen. Ethische Anbieter werden daf\u00fcr sorgen, dass Beschr\u00e4nkungen eingerichtet werden, um den Missbrauch einzuschr\u00e4nken, aber es ist nur eine Frage der Zeit, bis \u00e4hnliche Systeme ihren Weg in die \u00d6ffentlichkeit finden und b\u00f6swillige Akteure sie in echte Produktivit\u00e4tsmaschinen verwandeln. Dies wird es Kriminellen erm\u00f6glichen, vollautomatische Spearphishing- und Fehlinformationskampagnen im gro\u00dfen Stil durchzuf\u00fchren.<\/p>\n
LLMs und GANs ver\u00e4ndern die technologische Landschaft. LLMs steigern Produktivit\u00e4t und automatisieren Aufgaben in einem noch nie dagewesenen Ausma\u00df, sowohl f\u00fcr f\u00fcr legitime Nutzer und b\u00f6swillige Akteure. GANs hingegen besitzen das das Potenzial, neue Inhalte, einschlie\u00dflich neuer Angriffslasten, zu erstellen. Die Reise der KI hat zwar schon einige Winter und Fr\u00fchlinge erlebt, aber eines bleibt sicher: Die KI-Landschaft entwickelt sich weiter und bietet sowohl Versprechen als auch Herausforderungen. \u00c4hnlich wie in der Sicherheitsszene seit vielen Jahren, ist es ein technischer Wettlauf zwischen den auf Sicherheit bedachten Nuetzern und verbrecherischen Akteuren. KI k\u00f6nnte uns dazu zwingen, Bedrohungen anzupassen und zu \u00e4ndern, aber es wird in Zukunft nicht grundlegend anders sein als in der Vergangenheit.<\/p>\n
Informationen von Radware<\/p>\n
Stephan Mayer<\/p>\n","protected":false},"excerpt":{"rendered":"
Im Jahr 2023 ist etwas Bemerkenswertes in der Welt der Technik passiert: K\u00fcnstliche Intelligenz (KI) wurde zum Mainstream. Eigentlich sind es gro\u00dfe Sprachmodelle (LLMs) und, genauer gesagt, generative Pre-Trained Transformers (GPT), die seit dem Jahr 2023 im Mittelpunkt stehen. LLM ist ein weiter gefasster Begriff, der verschiedene Sprachmodelle, einschlie\u00dflich, aber nicht beschr\u00e4nkt auf Transformator-basierte Modelle […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10,11],"tags":[],"class_list":["post-1017","post","type-post","status-publish","format-standard","hentry","category-recht-gesetz","category-security"],"_links":{"self":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1017","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/comments?post=1017"}],"version-history":[{"count":1,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1017\/revisions"}],"predecessor-version":[{"id":1018,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1017\/revisions\/1018"}],"wp:attachment":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/media?parent=1017"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/categories?post=1017"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/tags?post=1017"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}