Metas Muse ist offenbar ein effektiver KI-Assistent, aber auch ein wenig unheimlich. Ein Grund dafür ist die neue Mac-App, die auf Nachrichten, Kalender und Notizen zugreifen kann.

Bei aller Intelligenz weiß Muse jedoch eigentlich nicht, wie er sich selbst beschreiben soll. Jason Aten, ein leitender Redakteur beim Inc Magazine, postete auf Threads Screenshots einer Unterhaltung mit Muse, in der der Assistent ihm einige Fragen zu einem Gespräch stellte, das Aten in der Nachrichten-App geführt hatte.

Das Problem dabei ist, dass Aten angibt, Muse keinen Zugriff auf seine Nachrichten gewährt zu haben. Auf die Frage, woher er den Inhalt seiner Nachrichten kenne, antwortete Muse: „Ich habe die Benachrichtigungsvorschauen gesehen, nicht Ihren Nachrichtenverlauf. Ich habe Ihre Texte nicht gelesen.“

Aten bohrte weiter und fragte, wie Muse Nachrichtenvorschauen empfange, woraufhin der Bot keine gute Antwort parat hatte. „Ehelehrliche Antwort: Ich kann Ihnen nicht die genauen technischen Hintergründe nennen“, hieß es. „Was ich weiß, ist, dass die gekoppelte Mac-App Benachrichtigungen als eine ihrer Funktionen bereitstellt und sie über die Gerätesynchronisierung bei mir ankommen.“

David Singleton von den Meta Superintelligence Labs schaltete sich unter dem Beitrag ein, um eine Erklärung zu versuchen. Zunächst ging er auf alle Berechtigungen ein, die Muse zum Lesen von Nachrichten benötigt, einschließlich der Gewährung eines vollständigen Festplattenzugriffs für die Mac-App. Er betonte, dass die Funktionen optional sind.

Der interessantere Teil folgt gegen Ende des Threads, in dem Singleton erklärt, dass Muse „Benachrichtigungen auf Ihrem Mac nicht überwacht, sondern Daten aus den Nachrichten erst synchronisiert, nachdem der Nutzer den Zugriff ausdrücklich aktiviert hat“. Er deutet an, dass das Problem nicht darin besteht, dass Muse Atens Texte unbefugt liest, sondern schlicht darin, dass Muse überhaupt keine Ahnung hat, wovon er spricht.

In dem Gespräch mit seinem Muse in Jasons Screenshots, als Muse behauptete, „Gerätebenachrichtigungen“ zu synchronisieren, war er über die Funktionsweise verwirrt und gab eine inkorrekte Erklärung ab. „Das geht auf unsere Kappe. Wir entschuldigen uns für die inkorrekte Antwort von Muse und arbeiten daran, das Verständnis von Muse für seine eigenen internen Abläufe zu verbessern, damit er bei Fragen zu seiner Funktionsweise konsistenter korrekte Antworten gibt.“

Das mag nicht besonders beruhigend sein, ergibt aber gleichzeitig ein Stück weit Sinn. Wir wissen bereits, dass Chatbots Ihnen nicht ihre Geheimnisse verraten, sondern stattdessen das sagen, was Sie hören möchten.