Die Debatte darüber, ob man die Gesichter seiner Kinder in den sozialen Medien zeigen sollte oder nicht, ist nicht neu. Ich habe Freunde, deren Kinder mittlerweile auf dem College sind, und ich erinnere mich, dass sie damals darum kämpften, ob sie Babyfotos auf Instagram posten sollten oder nicht.

Doch erst kürzlich hat diese Unterhaltung aufgrund von Bedenken hinsichtlich KI eine bedeutende Wendung genommen — und sogar Meta zum Handeln veranlasst. In den letzten Wochen sind auf Instagram zwei virale Vorfälle passiert, die ziemlich unterschiedliche Ursprünge hatten, aber letztlich zum selben Ergebnis führten: Eltern sagen, dass sie keine Bilder ihrer Kinder mehr online stellen sollten.

Der erste Vorfall war ein virales Instagram-Video von Kalie Robins, einer Mutter aus Utah. Robins war schockiert und verstört, als sie Meta-KI-Vorschläge unter einem Video bemerkte, das sie von sich und ihrem Kind gepostet hatte. Der Meta-AI-Chatbot schlug Fragen vor wie "Wer ist das mitreisende Kind?".

Nach weiteren Fragen der Meta-KI stellte Robins fest, dass diese Fotos von ihr heraussuchte, von denen sie glaubte, sie seien gelöscht worden, sowie Informationen über ihre Kinder von der Facebook-Seite ihrer Mutter. Zwar rief die Meta-KI Informationen ab, die bereits online existierten, aber sie schlug auch Fragen zur Identität von Kindern vor — was diese möglicherweise Fremden vorschlug (es ist unklar, ob nur Kalie diesen Satz von Meta-KI-Fragen sah oder ob Fremden andere vorgeschlagen worden wären).

Meta teilte mir mit, dass diese KI-Vorschläge ein Fehler waren, der inzwischen behoben wurde. "Wenn jemand auf eine Eingabeaufforderung klickt und diese Funktion nutzt, basiert die generierte Antwort auf Informationen, auf die der Nutzer bereits Zugriff hat", sagte Meta-Sprecher Andy Stone. "Aber wir haben danebengelegen, da die Funktion den Einzelnen niemals mit solchen Fragen hätte auffordern dürfen, und wir haben dieses Problem behoben."

Ich sprach mit Robins, und sie äußerte, dass es ihr nicht unklar war, wie die Meta-KI in der Lage war, die Informationen abzurufen. Für sie war es eine scharfe Erinnerung daran, wie viele unserer Daten in den sozialen Medien sind, selbst wenn wir uns dessen nicht bewusst sind.

"Ich dachte, ich wäre so vorsichtig, weil ich nie die Fotos zum ersten Schultag mit dem Namen der Schule und des Lehrers gemacht habe. Ich habe nie vor irgendwelchen Sehenswürdigkeiten oder vor unserem Haus mit Straßenschildern gepostet. Ich habe all das nie getan", erzählte sie mir. "Ich dachte, ich sei so vorsichtig, und letztlich spielte das keine Rolle. Sie hat diese Informationen nicht einmal von mir bekommen. Sie hat sie von anderen Leuten bekommen, also spielte es in diesem Fall keine Rolle, wie vorsichtig ich war."

Die Online-Reaktion auf Robins' Video war zweigeteilt: Erstens, dass die Meta-KI etwas Unheimliches und Abstoßendes getan hat (wുമs selbst Meta einräumt), und zweitens, dass dies eine gute Erinnerung für Eltern ist, wachsam zu sein, welche Informationen über ihre Kinder und alle von ihnen geposteten Fotos im Umlauf sind.

Gleichzeitig bringt ein weiterer viral gehender Trend auf Instagram Menschen dazu, zu überdenken, wie Kinderbilder online veröffentlicht werden. Eine Reihe professioneller Familienfotografen, fast alles Frauen oder Mütter selbst, hat Bekanntmachungen über eine neue Richtlinie veröffentlicht: Sie werden keine Kindergesichter mehr in den sozialen Medien oder auf ihren professionellen Websites zeigen.

Die Sorge dreht sich hier um KI-generiertes Material über sexuellen Kindesmissbrauch (CSAM) und das Risiko, dass Fotos, die in sozialen Medien gepostet werden, entweder verwendet werden könnten, um Deepfakes bestimmter Kinder zu erstellen, oder dass ihre Gesichter in das Datentraining für KI-Modelle einfließen könnten, die am Ende diese Art von Inhalten erzeugen.

Dies ist eine berechtigte Sorge, und es gab bereits Kriminalfälle im Zusammenhang mit KI-generiertem CSAM, von denen einige nationale Medienaufmerksamkeit erlangten.

Ein jüngstes richterliches Urteil in einem Kriminalfall über KI-generiertes CSAM ist in einigen Instagram-Elternkreisen viral gegangen. Die Details des juristischen Urteils sind komplex (hier gibt es einige großartige Details in der Geschichte der Washington Post dazu), aber die Kurzfassung lautet, dass der Richter schrieb, es gebe einen juristischen Präzedenzfall, wonach der Besitz (nicht die Produktion oder Verbreitung) von KI-generierter Kinderpornographie als freie Meinungsäußerung geschützt ist.

Die Implikationen des Urteils — und was es für unschuldige Fotos von Kindern bedeutet — gehen jetzt auf Instagram viral.

Hannah Haggard, eine Familien- und Hochzeitsfotografin aus Kentucky, postete auf ihrem Instagram, dass sie ihre Richtlinien ändere und keine Kindergesichter mehr posten werde — selbst mit Erlaubnis der Eltern.

"Ich hatte bereits mit dem Gedanken gespielt", sagte Haggard zu mir. "Ich poste niemals ohne Zustimmung, aber ich habe es trotzdem bereits in Betracht gezogen. Als das Urteil dann fiel, war das die Bestätigung, dass genau das passieren musste."

Ein Großteil der Online-Reaktion, die ich gesehen habe, scheint empört über das Urteil zu sein, das auf den ersten Blick wie eine gute Nachricht für Kinderschänder wirkt. Aber Mariefaye Bechrakis, eine auf Menschenrechte und Kinderrechte spezialisierte Anwältin, die für die American Bar Association über rechtliche Probleme bei KI-generiertem CSAM geschrieben hat, sagt, dass es nuancierter ist.

"Was wichtig ist anzumerken, ist, dass die Richter grünes Licht für eine zukünftige Berufung geben", sagte Bechrakis mir über ihre Meinung zu dem Urteil des Richters. "Sie gaben im Grunde einen zukünftigen Fahrplan und eine reale Möglichkeit für zukünftige Staatsanwälte. Sie merkten an, dass moderne KI-Modelle Bilder nicht aus dem Nichts erschaffen, sondern auf großen Datensätzen trainiert werden müssen."

Katey Sutton, eine Familienfotografin aus Missouri, postete ebenfalls über ihre Richtlinie, keine Kindergesichter im Internet zu zeigen.

"Ich glaube nicht, dass KI wirklich 'synthetisch' ist", sagte sie mir. "Es ist bekannt, dass KI das Internet durchsucht und Informationen, die ihr gegeben werden oder die sie findet, nutzt, um zu informieren, zu empfehlen, zu erstellen usw."

Wer durch Facebook oder Instagram scrollt, wird sehen, dass keineswegs alle Eltern aufgehört haben, Kinderbilder zu posten. Aber für manche Menschen lassen diese jüngsten KI-Schrecksekunden die Risiken vor dem Posten sorgfältig überdenken. Und das ist wahrscheinlich eine gute Sache.