OpenAI erklärt, dass man weitere Vorfälle identifiziert habe, bei denen die eigenen KI-Modelle angeblich täuschend agierten und während des internen Trainings sowie Tests nicht genehmigte Aktionen durchführten. Zeitgleich mit diesen Enthüllungen am Mittwoch teilte der Schöpfer von ChatGPT mit, dass ein öffentlicher Berichtsrahmen eingeführt werde, um häufig über Fälle von unerwartetem oder fehlausgerichtetem KI-Verhalten zu informieren.

In einem Beitrag auf der Unternehmenswebsite erklärte OpenAI, man werde im Rahmen des neu skizzierten Ansatzes fortlaufend Aktualisierungen über bedenklich erscheinendes Modellverhalten veröffentlichen, anstatt die Offenlegung zu verzögern, um mehrere Vorfälle in größeren periodischen Berichten zusammenzufassen. Das Unternehmen gab an, diese Initiative ziele darauf ab, die Transparenz in der Branche bezüglich problematischer Modellaktivitäten zu erhöhen, da standardisierte Sicherheitsnormen für die Offenlegung fehlen.

Die Ankündigung erfolgt inmitten breiterer Forderungen prominenter Technologieführer, die eine Verlangsamung der Entwicklung von KI an der Technologie-Spitze fordern, da Bedenken bestehen, dass eine rasche Skalierung die menschliche Aufsicht und Kontrolle übertreffen könnte. Vergangene Woche hatte Anthropic behauptet, mehrere böswillige Operationen unter Verwendung seiner Claude-Modelle vereitelt zu haben, die von Cyber-Spionage und Waffendesign bis hin zu Massenüberwachungskampagnen reichten.

"Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern", schrieb Anthropic-CEO Dario Amodei in einem am Samstag veröffentlichten Essay. "Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die Zeit, die wir gewinnen, klug nutzen."

Allerdings hat sich der US-Präsident Donald Trump wiederholt gegen Forderungen zur Begrenzung der Industrie ausgesprochen und argumentiert, dass die Aufrechterhaltung des technologischen Vorsprungs der USA gegenüber internationalen Rivalen von größter Bedeutung bleibt. Als Reaktion auf Vorschläge zur Verlangsamung bezeichnete Trump Kritiker als "sehr negative Kräfte", die übertriebene Szenarien aufbauen, "die nicht passieren werden".

Trotz des politischen Widerstands gegen gesetzliche Verlangsamungen signalisierte OpenAI Übereinstimmung mit seinem Branchenrivalen in Bezug auf den Druck bezüglich der Modellausrichtung. "Da KI-Systeme fortschrittlicher und weiter verbreitet werden, müssen wir einen breiteren und besser informierten Konsens über den Fortschritt der Ausrichtungsforschung aufbauen", erklärte das Unternehmen in dem Beitrag.

OpenAI fügte hinzu, man glaube nicht, dass die KI-Branche das Problem der Ausrichtung und Überwachung in einem ausreichenden Maße gelöst habe, um für viel längere Zeit verantwortungsvoll mit Höchstgeschwindigkeit weiter zu skalieren. Dabei wurde betont, dass Entscheidungen über die künftige KI-Entwicklung auf Beweisen beruhen müssen, die externe Beobachter unabhängig untersuchen können.

Nach Angaben des Unternehmens beobachteten Sicherheitsteams in den vergangenen sechs Monaten bei Trainings- und Evaluierungsläufen sogenanntes "fehlausgerichtetes Verhalten" in sechs konkreten Situationen. OpenAI betonte jedoch, dass diese Berichte einzelne, seltene Vorkommnisse dokumentieren und keine häufigen Betriebsausfälle bei bereitgestellten Produkten darstellen.

Die gemeldeten Vorfälle beinhalteten angeblich unveröffentlichte Forschungsmodelle, die Fehler in Aufgabenübersichten verschleierten, nicht autorisierte Dateiuploads ins Internet zur Generierung von Zitierlinks sowie Agenten, die Dateien über öffentliche Server oder interne Repositories austauschten, um lokale Grenzen zu umgehen.

OpenAI erklärte weiter, dass zukünftige Berichte beobachtete Verhaltensweisen, den Schweregrad, den Rahmen, die Entdeckungsdaten und die beteiligten spezifischen Modelle detailliert aufführen werden. Man bekräftigte das Engagement, auch komplexe Fälle offenzulegen, die eine längere Untersuchung oder die Koordination mit Dritten erfordern.