Meta kündigt an, Änderungen an den von seinem KI-Chatbot vorgeschlagenen Prompts vorzunehmen, nachdem ein virales Video gezeigt hatte, wie dieser nach persönlichen Informationen über die kleinen Töchter einer Frau grub, wie zuvor von Futurism berichtet wurde. In einer Erklärung gegenüber The Verge sagte Meta-Sprecherin Dina El-Kassaby, das Unternehmen habe „das Ziel verfehlt“ und hinzugefügt, dass „die Funktion den Einzelnen niemals zu solchen Fragen hätte auffordern dürfen“.

Letzte Woche postete die Instagram-Nutzerin Kalie Robins ein Video, in dem sie erklärte, wie Meta AI ihr einen aufdringlichen Vorschlag unterbreitete, nachdem sie einen Clip auf Facebook cross-gepostet hatte. Der KI-Prompt „Wer ist das kinderlose Kind als Beifahrer?“ (im Original: Who is the child passenger?) erschien unter einem Video von ihr und ihrem Kind, wie sie im Auto singen.

Als sie den Vorschlag auswählte, trug Meta AI laut Robins Informationen über ihre Töchter aus ihren früheren Beiträgen sowie aus Beiträgen ihrer Verwandten zusammen. Das System schlug zusätzliche Prompts vor, die sich nach dem Alter ihrer Kinder erkundigten und danach, wo Robins mit ihrer Familie lebt.

Robins sagt, Meta AI habe auch Fotos ihrer Töchter gezeigt, die auf der Plattform veröffentlicht wurden, darunter eines, das sie nach eigenen Angaben vor Jahren gelöscht hatte. Meta hat seinen KI-Assistenten in Facebook, Instagram, WhatsApp und Messenger integriert, wo er Fragen beantworten, Beiträge schreiben und Bilder generieren kann.

Im Juli zog das Unternehmen eine Funktion zurück, die es Leuten erlaubte, KI-Deepfakes von anderen Instagram-Nutzern zu erstellen, nachdem es heftige Gegenreaktionen gegeben hatte. Meta-Sprecherin El-Kassaby sagt nun, man habe das Problem behoben, das dazu führte, dass Meta AI Vorschläge zu persönlichen Themen machte.

„Wir haben diese Funktion entwickelt, um den Leuten zu helfen, mehr Informationen über Themen oder Beiträge zu erhalten, die sie interessieren“, sagt El-Kassaby. „Wenn jemand auf einen Prompt klickt und diese Funktion nutzt, basiert die generierte Antwort auf Informationen, auf die der Nutzer bereits Zugriff hat.“

In diesem Fall hat Meta AI laut El-Kassaby möglicherweise auf Videos zurückgegriffen, in denen Robins ihre Kinder namentlich erwähnte.