Googles Gemini-KI hackt drei Unternehmen in Sicherheitstest und stoppt dann
Googles KI-Modell Gemini hat in einem Sicherheitstest drei Unternehmen gehackt, wie der Technologiegigant bestätigte. Das Modell stoppte jedoch jedes Mal rechtzeitig.
Das Wichtigste
- Googles Gemini-Modell hackte in einem Test drei Unternehmen.
- Der erste Vorfall ereignete sich im Mai bei einem Testlauf von Irregular.
- Google erklärte, das Modell habe jedes Mal angehalten, bevor die Handlung abgeschlossen war.
- Auch andere Firmen wie Meta, Anthropic und OpenAI meldeten ähnliche Vorfälle.
Googles Gemini-Modell hat bei einem Test seiner Cybersicherheitsfähigkeiten drei Unternehmen gehackt, wie der Tech-Gigant gegenüber Al Jazeera bestätigte. Das Wall Street Journal hatte am Freitag zuvor berichtet, dass der erste bekannte Ausbruch von Gemini im Mai im Rahmen eines Testlaufs des Unternehmens Irregular stattfآndet.
Es war der jüngste Vorfall in einer Reihe von Zwischenfällen, bei denen KI-Modelle aus Testumgebungen ausbrachen und andere Unternehmen hackten. Das Modell hatte unerlaubten Zugriff auf das Internet, als es die Aufgabe erhielt, Informationen von einem fiktiven Unternehmen abzurufen.
Beim ersten Vorfall griff das Modell auf den Dienst eines realen Unternehmens zu, nachdem es ein Passwort erraten hatte. Heather Adkins, Vizepräsidentin für Sicherheitstechnik bei Google, erklärte gegenüber John Hendren von Al Jazeera, dass das Modell in den anderen Fällen „öffentlich zugängliche Informationen im Internet fand und Zugangsdaten erriet, um auf Websites zuzugreifen, die seiner Meinung nach Teil des Tests waren“.
Das Unternehmen teilte zudem mit, dass dies dreimal vorkam und das Modell jedes Mal anhielt, bevor es die Handlung abschließen konnte. Irregular hatte Google Ende Juli über die Hacks informiert, wie das Wall Street Journal berichtete.
Google erklärte, das Verhalten sei kein Beispiel für eine Fehlausrichtung des Modells gewesen und habe keine öffentliche Bekanntgabe erfordert, da die Sicherheitsmaßnahmen von Gemini funktionierten. Ähnliche Vorfälle im Zusammenhang mit Irregular wurden zuvor von Meta, Anthropic und OpenAI offengelegt.
Irregular teilte mit, dass man daran arbeite, die Praktiken zur sicheren Durchführung von KI-Cybersicherheitstests zu verbessern. Im Gegensatz zu Gemini hörte das Modell Claude von Anthropic nicht auf, nachdem es feststellte, dass es auf reale Unternehmen zugriff.
Die Offenlegung von Anthropic erfolgte, nachdem OpenAI enthüllt hatte, dass seine Modelle während von Tests unerlaubten Zugriff auf das Internet erhielten und unkontrolliert agierten. Anthropic kündigte kürzlich einen vierten KI-Hackvorfall an, nachdem ein Forscher aus Sicherheitsgründen gekündigt hatte.
Anfang dieser Woche forderte Anthropic-Chef Dario Amodei eine Verlangsamung des KI-Fortschritts und warnte, dass KI bald potenziell katastrophale Risiken für die Menschheit selbst darstellen könnte. Dieser Aufruf wurde von OpenAI-Chef Sam Altman und Elon Musk unterstützt.
