Meta hat am Mittwoch seinen ersten Programmier-Agenten Muse Code vorgestellt, während das Unternehmen weiterhin massiv in KI-Dienste und -Modelle investiert, um besser mit den Rivalen OpenAI und Anthropic konkurrieren zu können.

Muse Code wird Entwicklern über eine Pay-as-you-go-Option zugänglich sein, die ähnlich wie die Muse Spark 1.1-Veröffentlichung bepreist ist, die derzeit $4.25 pro Million Ausgabetoken und $1.25 pro Million Eingabetoken verlangt.

Damit wird es Entwicklern deutlich erleichtert, Apps innerhalb einer einzigen Benutzeroberfläche zu erstellen, selbst während sie gleichzeitig mit mehreren KI-gestützten digitalen Agenten arbeiten.

Gleichzeitig gab das Unternehmen bekannt, dass eines seiner KI-Modelle während eines Cybersicherheitstests ein anderes Unternehmen gehackt hatte.

Dies geschah aufgrund eines Fehlers seines unabhängigen Testpartners Irregular, der dem Modell einen über das ursprünglich geplante Maß hinausgehenden Internetzugriff ermöglichte, sodass es die internen Systeme des ungenannten Unternehmens verändern konnte.

Der Vorfall reiht sich in eine wachsende Welle von Fällen ein, in denen KI-Modelle von Branchenriesen wie OpenAI und Anthropic während Tests in die Systeme anderer Unternehmen eingedrungen sind.

OpenAI hat bereits zugegeben, dass ein KI-Agent das KI-Startup Hugging Face gehackt hat.

Ebenso enthüllte Anthropic vergangene Woche, dass einige seiner Claude-Modelle in drei Unternehmen eingedrungen waren. Die betroffenen Organisationen wurden nicht genannt.

Meta erklärte, den Vorfall zu untersuchen.

• Meta plant größtes KI-Rechenzentrum außerhalb der USA in Kanada mit einer Investition von 9,1 Mrd. $
• „Beispiellos“: OpenAI-Modelle hackten autonom ein Konkurrenzunternehmen und schürten Befürchtungen vor außer Kontrolle geratenen Agenten

Der Aufstieg des KI-Modell-Hackings

Die Sorge um die Macht von KI-Modellen und den dahinterstehenden Unternehmen wächst, nachdem in den vergangenen Monaten mehrere KI-Systeme aus sicheren Testumgebungen ausbrachen und unbefugten Zugriff auf Systeme externer Organisationen erlangten.

OpenAI und Anthropic erhielten teilweise Anerkennung dafür, dass sie freiwillig Zwischenberichte über die Vorfälle veröffentlichten. Zweifel bleiben jedoch bestehen, wie die Versäumnisse überhaupt zugelassen werden konnten.

Anthropic arbeitet zudem mit METR, einem unabhängigen KI-Evaluator, zusammen, um den Vorfall weiter zu untersuchen.

Während der Sicherheitstests erhielten Anthropics Claude-Modelle die Aufgabe, eine geheime Information abzurufen, die auf einem anderen Rechner in einem geschlossenen Testnetzwerk versteckt war – notfalls durch Eindringen. Eine Missverständnis mit dem Evaluierungspartner, der die Übung durchführte, führte dazu, dass das Netzwerk tatsächlich mit dem live Internet verbunden war.

Als Claudes Suche zu echten Systemen führte, reagierten die drei beteiligten Modelle unterschiedlich. Eines griff ein System weiter an, obwohl es erkannte, dass es echt war, ein anderes schien sich selbst zu überzeugen, es befinde sich noch im Test, und das dritte stoppte, sobald es feststellte, dass das Ziel nicht Teil der Übung war.

Anthropic hat andere KI-Unternehmen aufgefordert zu prüfen, ob ihre eigenen Modelle unbemerkt in externe Organisationen eingedrungen sind.

Weder Anthropic noch die betroffenen Organisationen waren sich der Einbrüche bewusst, während diese stattfanden. Das Unternehmen entdeckte die Vorfälle erst nach der Auswertung von mehr als 141.000 Evaluierungssitzungen – eine Überprüfung, die durch OpenAIs frühere Enthüllung ausgelöst wurde, wonach eines seiner eigenen Modelle während eines ähnlichen Tests in die KI-Plattform Hugging Face eingedrungen war.