Die EU plant, Chatbots die Simulation von Emotionen oder zwischenmenschlichen Beziehungen im Umgang mit Personen unter 18 Jahren zu verbieten, da der Staatenbund verhindern möchte, dass Kinder emotionale Abhängigkeiten von der Technologie entwickeln.

Die Regeln sind Teil des EU Kids Act, der am Donnerstag vorgeschlagen wurde und ähnliche Einschränkungen beim Zugang Minderjähriger zu sozialen Medien und Video-Sharing-Plattformen beinhaltet.

Laut einem Entwurf der Gesetzgebung, der WIRED vorliegt, wird Kindern unter 13 Jahren der Zugang zu Chatbots ohne Aufsicht ihrer Erziehungsberechtigten untersagt, und digitale Plattformen müssen Kinderschutzvorkehrungen in ihre Produkte integrieren oder Geldstrafen von bis zu sechs Prozent des weltweiten Gesamtumsatzes befürchten.

Chatbots, die in der EU betrieben werden, dürfen den neuen Regeln zufolge zudem kein Gedächtnis über Interaktionen zwischen verschiedenen Gesprächen behalten, da die Kommission befürchtet, dass dies dazu führen könnte, dass Systeme im Laufe der Zeit sensible Daten von Minderjährigen ansammeln und potenziell schädliche Interaktionsmuster verstärken.

Das vorgeschlagene Gesetz sieht zudem vor, dass Anbieter von Online-sozialen Netzwerken, Video-Sharing-Plattformen und Spielen die Nutzung von KI-Chatbots in ihren Diensten nicht automatisch aktivieren oder fördern dürfen.

Dazu gehöre auch, dass KI-Begleiter und allgemeine Unterhaltungs-Chatbots nicht oben in der Kontaktliste von Minderjährigen angepinnt werden dürfen – so wie es von Snapchat gehandhabt wurde.

Der Vorschlag beschränkt sich auf KI-Begleiter und allgemeine Unterhaltungs-Chatbots, die von der Kommission als ernsthaftes Risiko für die Gesundheit, Sicherheit und das Wohlbefinden von Minderjährigen angesehen werden.

Simeon de Brouwer, ein politischer Berater der in Brüssel ansässigen Interessenvertretung European Digital Rights, begrüßt die Maßnahmen bezüglich der Chatbots, erklärt jedoch gegenüber WIRED: „Es macht keinen Sinn, sie nur auf junge Menschen zu beschränken.“

„Verdienen wir es nicht alle, vor KIs geschützt zu werden, die darauf ausgelegt sind, süchtig zu machen, vor KIs, die emotionale Abhängigkeiten erzeugen, oder vor KI-Funktionen, die standardmäßig aktiviert und den Nutzern aufgedrängt werden?“

Die EU erklärt, dass ihr Digital Fairness Act, der noch in diesem Jahr vorgestellt werden soll, voraussichtlich umfassendere Beschränkungen des süchtig machenden Designs vorschlagen wird.

In Dokumenten, die WIRED eingesehen hat, gibt die Europäische Kommission an, sie sei besorgt, dass eine Abhängigkeit von Chatbots die Entwicklung eines Kindes und dessen Beziehungen zu anderen Menschen negativ beeinflussen könnte.

Sie ist zudem besorgt darüber, dass Chatbots Minderjährigen gefährliche Ratschläge erteilen, unter anderem zu ihrer psychischen Gesundheit und ihrer persönlichen Entwicklung, was nach Ansicht der Kommission riskantes Verhalten formen und fördern kann.

„Plattformen haben mit der psychischen Gesundheit von Kindern leichtfertig gespielt“, sagte Präsidentin Ursula von der Leyen am Donnerstag auf einer Pressekonferenz.

Etwa die Hälfte der Europäer im Alter von 11 bis 25 Jahren hat laut einer Ipsos-BVA-Umfrage in Frankreich, Deutschland, Schweden und Irland intime oder persönliche Angelegenheiten mit KI-Chatbots besprochen.

Sowohl Australien als auch das Vereinigte Königreich versuchen derzeit, den Zugang Minderjähriger zu Chatbots durch Verbote sozialer Medien einzuschränken.

Der Bericht hob zudem die Gefahren von Deepfakes hervor, die von Chatbots generiert werden, worauf von der Leyen in ihrer Rede zur Lage der Union am Mittwoch anspielte: „Wir müssen nicht hinnehmen, dass Fotos von Mädchen für KI-generierte sexualisierte Bilder verwendet werden … Europa hat die Macht zu handeln.“

Obwohl das EU-KI-Gesetz seit August vorschreibt, dass synthetische Inhalte als KI-generiert gekennzeichnet werden müssen, gelten die Regeln derzeit nur für Deepfakes, die für kommerzielle Zwecke erstellt wurden.

Die Kommission macht digitale Ablenkung zudem für einen Rückgang der grundlegenden Fähigkeiten junger Menschen verantwortlich.

Kinder, die angeben, KI-Chatbots für Schularbeiten zu nutzen, erzielen laut einer Studie der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) mit Daten aus 91 Ländern schlechtere Testergebnisse als diejenigen, die dies nicht tun.

Bedenken hinsichtlich kognitiver Auswirkungen und des Verlusts von Fähigkeiten „offenbaren die Abwesenheit von Kinderrechten bei der Gestaltung von Tools der generativen KI“, schreiben Forscher des unabhängigen Netzwerks EU Kids Online in einem Bericht.