Red Hat, ein Anbieter von Open-Source-Lösungen, gibt die Akquisition von Chatterbox Labs bekannt, einem Pionier im Bereich modellunabhängiger KI-Sicherheit. Die Übernahme erweitert das KI-Portfolio von Red Hat um wichtige Funktionen für die „Sicherheit von KI“ und stärkt die Bemühungen des Unternehmens, eine umfassende Open-Source-KI-Plattform bereitzustellen, die für die Hybrid Cloud konzipiert ist.

Chatterbox Labs stellt automatisierte, maßgeschneiderte Testfunktionen für die KI-Sicherheit und Risikokennzahlen bereit, die Unternehmen nutzen können, um den Einsatz von KI in der Produktion zu genehmigen.

Die Technik von Chatterbox Labs bietet dabei einen robusten, modellunabhängigen Ansatz zur Validierung von Daten und Modellen durch:

• AIMI für generative KI: Bereitstellung unabhängiger quantitativer Risikokennzahlen für Large Language Models (LLMs)
• AIMI für prädiktive KI: Validierung jeder KI-Architektur anhand wichtiger Kriterien wie Robustheit, Fairness und Erklärbarkeit
• Guardrails: Identifizierung und Behebung unsicherer, toxischer oder voreingenommener Prompts, bevor Modelle in die Produktion gehen.

Die Akquisition von Chatterbox Labs steht im Einklang mit der Vision von Red Hat, verschiedene Modelle und Deployments in der Hybrid Cloud zu unterstützen. Sie ergänzt außerdem die zukunftsweisenden Funktionen, die in Red Hat AI 3 eingeführt wurden, insbesondere für Agentic AI und das Model Context Protocol (MCP).