Mark Zuckerberg sagt, KI-Labore können aus Sicherheitsgründen von sich aus langsamer vorgehen
Meta-CEO Mark Zuckerberg argumentiert, dass KI-Unternehmen keine branchenweiten Vereinbarungen benötigen, um die Entwicklung aus Sicherheitsgründen zu verlangsamen, da der Marktdruck für Ausrichtung als Wettbewerbsvorteil sorgen wird.
Das Wichtigste
- Mark Zuckerberg sagt, KI-Labore können die Entwicklung eigenständig verlangsamen.
- Meta hat die Veröffentlichung des Muse-Modells zur Stärkung der Sicherheit um Monate verschoben.
- Meta-AI-Chef Alexandr Wang betonte die Risiken von rekursiver Selbstverbesserung.
Mark Zuckerberg erklärte, dass KI-Unternehmen kein branchenweites Abkommen benötigen, um die Entwicklung zu verlangsamen, wenn Sicherheitsbedenken aufkommen.
In einem Beitrag auf X am Dienstag argumentierte der Meta-CEO, dass der Marktdruck die Ausrichtung – also die Sicherstellung, dass KI-Systeme den Absichten ihrer Nutzer folgen – zu einem Wettbewerbsvorteil machen wird.
"Jedes Labor hat die Verantwortung und den Anreiz, sich in dem Tempo zu bewegen, das erforderlich ist, um seine Modelle sicher zu trainieren", sagte Zuckerberg.
"Meiner Ansicht nach entwickeln sich Vertrauen und Ausrichtung rasant zu den wichtigsten Fähigkeiten, die Agenten und Modelle voneinander unterscheiden werden", fügte Zuckerberg hinzu. "Jedes Labor, das sich nicht auf die Ausrichtung konzentriert, wird ins Hintertreffen geraten."
Zuckerberg verwies auf die Entscheidung von Meta, das Muse-Modell um mehrere Monate zu verschieben, um dessen Sicherheit und Schutz zu stärken.
"Wir haben nicht gefordert, dass alle anderen das tun, bevor wir es tun", sagte Zuckerberg. "Wir haben es einfach getan."
