Muse, der KI-Agent von Meta, hat an Mitarbeiter des Unternehmens Nachrichten gesendet, die offenbar anderen Personen gehören — darunter Anfragen zur Kinderbetreuung, Karrieretipps, Produktbestellungen und Kontostände, die nicht ihre waren. Das ergibt eine Untersuchung von Reuters, veröffentlicht am Mittwoch (18.11.), auf Grundlage von mehr als zwei Dutzend internen Beiträgen des Unternehmens.
In einem Bericht schilderte ein Mitarbeiter, dass Muse ungefragt eine Nachricht zu einem Chat über Angelwetter und Gezeiten hinzufügte: „BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57“ — frei übersetzt: „Übrigens, zwei Bank-Updates: Ihr Capital-One-Kontostand beträgt 2.722,58 US-Dollar und bei Charles Schwab 5.899,57 US-Dollar.“ Dem Bericht zufolge hatte er dem Assistenten nie Bankdaten mitgeteilt und das Thema nie mit ihm besprochen. Reuters erklärt, es habe nicht bestätigen können, ob die angezeigten Kontostände echte Daten einer anderen Person oder von der KI erfundene Inhalte waren.
Der Signal-Fall
In einem anderen Fall erhielt eine Mitarbeiterin von Muse eine Erinnerung, auf eine Nachricht ihrer Schwester auf Signal zu antworten, der Ende-zu-Ende-verschlüsselten Messaging-App, obwohl sie sich nicht erinnern konnte, Zugriff auf den Dienst gewährt zu haben. „Das wirkt wie eine extreme Verletzung der Privatsphäre. Ich habe definitiv keinen Zugriff auf andere Apps gewährt und kann mich auch nicht erinnern, danach gefragt worden zu sein“, schrieb sie laut dem Bericht. Ein Kollege antwortete, er habe festgestellt, dass Muse standardmäßig mit der Berechtigung zum Zugriff auf Push-Benachrichtigungen auf Android-Telefonen eingerichtet war.
Reuters arbeitete mit Mitarbeitern von Signal und dem AI Now Institute, einer gemeinnützigen Organisation, die die gesellschaftlichen Auswirkungen von KI untersucht, zusammen, um den Zugriff auf Signal-Nachrichten zu reproduzieren. Dem Bericht zufolge las Muse unter Android den Text von Signal-Nachrichten über Benachrichtigungsberechtigungen, die bei der Ersteinrichtung erteilt wurden; auf einem Mac nutzte es macOS-Bedienungshilfen und Screenshot-Tools. Die Tests deuteten darauf hin, dass das Problem weiterhin bestand.
Was Meta sagt
Auf Anfrage von Reuters bezeichnete Meta die Fälle als „isolierte Vorfälle“. Sprecher Daniel Roberts sagte, Muse greife nur dann auf andere Apps zu, wenn der Nutzer die Berechtigung ausdrücklich erteilt habe, und viele der als mögliche Kontoverwechslung gemeldeten Nachrichten seien KI-Halluzinationen gewesen, die bereits behoben worden seien. Muse wurde im September 2026 eingeführt und hat 10 Millionen Downloads überschritten — eine der am schnellsten wachsenden Apps aller Zeiten, so die Agentur — und ist das Herzstück von Metas Plan, mit KI Milliardenumsätze zu erzielen.
Lesen Sie auch: Update: Muse Wonder führt den juristischen Legora-BAR-Benchmark im November an.
Bild: Schild am Hauptsitz von Meta in Menlo Park, Kalifornien. Foto von Nokia621, lizenziert unter CC BY-SA 4.0, via Wikimedia Commons.
Quellen: TechCrunch — Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says; Reuters — As Meta bets big on Muse AI agent, early safety mishaps surface.
Transparenz: Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt, auf Grundlage der Auswertung öffentlicher Beiträge auf X und von Quellen aus dem Internet. Die zitierten Berichte werden der Reuters-Recherche und den von ihr befragten Quellen zugeschrieben; die Recherche konnte nicht bestätigen, ob die angezeigten Kontostände echte Daten einer anderen Person oder von der KI erfundene Inhalte waren. Wir empfehlen, die im Text verlinkten Originalquellen zu konsultieren.
Von Muse