Red Hat, Anbieter von Open-Source-L\u00f6sungen, hat eine definitive Vereinbarung zur \u00dcbernahme von Neural Magic unterzeichnet, einem Pionier auf dem Gebiet von Software und Algorithmen, die Inferenz-Workloads f\u00fcr generative KI beschleunigen. Die Expertise von Neural Magic im Bereich Inferenz-Performance-Engineering und das Engagement des Unternehmens f\u00fcr Open Source passen zur Vision von Red Hat, hochleistungsf\u00e4hige KI-Workloads in der Hybrid Cloud bereitzustellen.<\/p>\n
KI der n\u00e4chsten Generation dominiert einen Gro\u00dfteil der heutigen Techniklandschaft, wobei die genutzten Large Language Models (LLMs) immer komplexer werden. Daher erfordert der Aufbau kosteneffizienter und zuverl\u00e4ssiger LLM-Services erhebliche Rechenleistungen und Energieressourcen. Durch diese Herausforderungen ist eine ma\u00dfgeschneiderte, einsatzbereite und sichere KI f\u00fcr die meisten Unternehmen unerreichbar.<\/p>\n
Red Hat greift diese Herausforderungen auf, indem das Unternehmen generative KI durch die offene Innovation von vLLM f\u00fcr mehr Anwender zug\u00e4nglich macht. vLLM ist ein Community-gesteuertes Open-Source-Projekt f\u00fcr Open Model Serving mit Unterst\u00fctzung aller wichtigen Modellfamilien und mit diversen Hardware-Backends. Die f\u00fchrende Rolle von Neural Magic im vLLM-Projekt in Kombination mit dem breiten Portfolio an Hybrid-Cloud-KI-Techniken von Red Hat bietet Unternehmen einen offenen Weg zur Umsetzung von KI-Strategien, die ihren individuellen Anforderungen gerecht werden.<\/p>\n
Mithilfe der Technologie und der Expertise von Neural Magic im Bereich Performance-Engineering m\u00f6chte Red Hat die Zukunft der K\u00fcnstlichen Intelligenz mitgestalten, gest\u00fctzt durch das KI-Technikportfolio von Red Hat, das Red Hat Enterprise Linux AI (RHEL AI), Red Hat OpenShift AI und InstructLab umfasst.<\/p>\n
Neural Magic erstellt \u2013 basierend auf seiner Expertise und seinem Wissen im Bereich vLLM \u2013 einen Inferenz-Stack, der es Nutzern erm\u00f6glicht, LLM-Workloads in Hybrid-Cloud-Umgebungen zu optimieren, bereitzustellen und zu skalieren. Dabei behalten sie die volle Kontrolle \u00fcber die Auswahl der Infrastruktur, die Sicherheitsrichtlinien und den Modell-Lebenszyklus.<\/p>\n
Die technologische F\u00fchrungsrolle von Neural Magic im Bereich vLLM wird die F\u00e4higkeit des Technologieportfolios Red Hat AI verbessern, LLM-Bereitstellungen \u00fcberall in der Hybrid Cloud mit einem vorgefertigten, hochoptimierten und offenen Inferenz-Stack zu unterst\u00fctzen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Red Hat, Anbieter von Open-Source-L\u00f6sungen, hat eine definitive Vereinbarung zur \u00dcbernahme von Neural Magic unterzeichnet, einem Pionier auf dem Gebiet von Software und Algorithmen, die Inferenz-Workloads f\u00fcr generative KI beschleunigen. Die Expertise von Neural Magic im Bereich Inferenz-Performance-Engineering und das Engagement des Unternehmens f\u00fcr Open Source passen zur Vision von Red Hat, hochleistungsf\u00e4hige KI-Workloads in […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,12],"tags":[],"class_list":["post-1306","post","type-post","status-publish","format-standard","hentry","category-firmen-news","category-pc-software"],"_links":{"self":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1306","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/comments?post=1306"}],"version-history":[{"count":1,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1306\/revisions"}],"predecessor-version":[{"id":1307,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/posts\/1306\/revisions\/1307"}],"wp:attachment":[{"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/media?parent=1306"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/categories?post=1306"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lan-wan-telecom.de\/index.php\/wp-json\/wp\/v2\/tags?post=1306"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}