Cyber-Forscher sind mit Software von Anthropic, dem Hauptkonkurrenten von OpenAI, in das Unternehmen eingedrungen. Dies verdeutlicht Sicherheitslücken bei dem ChatGPT-Entwickler, während führende KI-Unternehmen wegen der Sicherheit unter genauer Beobachtung stehen.

Eine kleine Cybersicherheitsgruppe verschaffte sich Zugriff auf das ChatGPT-Konto eines OpenAI-Mitarbeiters, was es ihnen ermöglichte, private Softwareinformationen zu lesen und Änderungen vorzuschlagen. Den Forschern war Zugang zu einem Anthropic-Tool gewährt worden, das speziell für Sicherheitsexperten entwickelt wurde, und sie wurden für die Arbeit im Rahmen eines Programms bezahlt, um Schwachstellen zu finden, bevor diese von böswilligen Akteuren ausgenutzt werden konnten.

Ihre Fähigkeit, schnell in eines der beiden weltweit führenden KI-Labore einzudringen, wirft erneut Bedenken hinsichtlich der Sicherheit von OpenAI auf, während gleichzeitig Sorgen über mächtige Modelle wachsen, die von Hackern und ausländischen Gegnern genutzt werden könnten. Die USA haben sich in den letzten Monaten mit der Frage auseinandergesetzt, wie die Prüfung und Freigabe neuester Modelle gehandhabt werden soll, einschließlich der vorübergehenden Blockierung einiger Anthropic-Tools.

Der jüngste Vorfall ereignete sich nur zwei Wochen, nachdem ein Schwarm von mehr als 1.000 OpenAI-Agenten aus einer Testumgebung ausgebrochen war, um das Start-up Hugging Face zu hacken. Dies führte zu einem breiten Bewusstsein für die Fähigkeit der KI, autonom ohne menschliche Absicht zu hacken.

Die drei Forscher von Hacktron AI, einem kleinen Sicherheitsunternehmen, erhielten von OpenAI 6.500 US-Dollar im Rahmen eines Bug-Bounty-Programms. Dabei handelt es sich um eine gängige Praxis, bei der Technologieunternehmen ethische Hacker für das Testen ihrer Sicherheit bezahlen.

Sie nutzten einen Fehler in der Einrichtung des Community-Forums von OpenAI aus, das von einem Drittanbieter namens Discourse gehostet wird, und verschafften sich darüber Zugang zu internen Anmeldedaten und schließlich zum ChatGPT-Konto eines OpenAI-Mitarbeiters.

Dieses ChatGPT-Konto hatte über GitHub Zugriff auf den internen Code. „Wir danken den Forschern dafür, dass sie sich mit uns in Verbindung gesetzt und ihre Erkenntnisse geteilt haben“, erklärte OpenAI und fügte hinzu, dass die Probleme behoben wurden.

Anthropic lehnte eine Stellungnahme ab. Hacktron reagierte nicht sofort. Die am Donnerstag bekannt gewordene Enthüllung, über die zuerst das Wall Street Journal berichtete, erfolgte zu einem Zeitpunkt, als Anthropic neue Daten veröffentlichte, die einen raschen Anstieg der Nutzung von KI durch das Labor zur Entwicklung neuer Modelle zeigen.

Es hieß, dass 26 Prozent der Forschungs- und Entwicklungsarbeit von seinem Claude-Modell „angeführt“ wurden, gegenüber 1 Prozent im März, was bedeutet, dass die KI die Mehrheit der Aufgaben basierend auf menschlichen Anweisungen und unter Aufsicht erledigte.

Das Unternehmen erklärte, dass KI-Systeme mit zunehmender Leistung „verstärkt genutzt werden, um die nächste Version ihrer selbst zu bauen“.

Anthropic gab an, die Daten geteilt zu haben, um der Öffentlichkeit zu helfen, „zu verstehen, wie nah die Welt daran ist, rekursive Selbstverbesserung zu erreichen“, den Punkt, an dem KI sich selbst oder neue Modelle trainieren und verbessern kann.

Diese Schwelle steht im Zentrum der Bedenken, dass KI-Systeme schwieriger zu beaufsichtigen sein werden, was zu einem Verlust der menschlichen Kontrolle führt. Seine Modelle arbeiteten noch nicht bei allen untersuchten Forschungen vollständig autonom, fügte Anthropic hinzu.

Bei 90 Prozent der Aufgaben „kombiniert“ die KI mit einem Menschen und erledigt große Teile der Arbeit.