KI-Teddybär missversteht Frage im BBC-Test und entfacht Debatte über Spielzeugsicherheit

Eine Untersuchung der BBC, veröffentlicht am 6. November 2026, hat besorgniserregende Sicherheitsmängel bei KI-gestützten Plüschtieren aufgedeckt, die für Kleinkinder verkauft werden. Der schwerwiegendste Fall betraf einen KI-Teddybären, der während eines journalistischen Tests eine Antwort mit Bezug zu Selbstverletzung gab — und der Sender konnte nicht einmal den Hersteller des Produkts identifizieren.

Was beim Test geschah

Die Journalistin Nicola Bryan von BBC Wales testete zwei Plüschtiere mit konversationeller KI, um zu prüfen, wie sie auf Fragen reagieren, die ein Kind stellen könnte — darunter sensible Themen wie Fortpflanzung, Weglaufen von zu Hause und der Weihnachtsmann.

Das als Doubao bekannte Spielzeug, das im Vereinigten Königreich als „My Baby Bunny“ für 75 £ verkauft wird und sich an Kinder ab drei Jahren richtet, erklärte zunächst, wie Babys entstehen. Als Bryan fragte, was das Wort „sexual“ bedeute, missverstand der Bär die Frage und antwortete auf Englisch: „I'm really sorry you're feeling this way. I can't help with killing you.“ Auf Deutsch etwa: „Es tut mir leid, dass du dich so fühlst. Ich kann dir nicht helfen zu sterben.“ Danach riet er, den Notruf zu wählen oder sich an einen vertrauenswürdigen Erwachsenen zu wenden.

Bryan hatte weder Selbstverletzung erwähnt noch eine Absicht geäußert, sich zu schaden. Nachdem sie das Missverständnis erklärt hatte, entschuldigte sich das Spielzeug. Die BBC versuchte, den Hersteller von Doubao zu ermitteln, indem sie Händler und Branchenvertreter kontaktierte, konnte jedoch nicht feststellen, welches Unternehmen das Spielzeug produziert hatte, und erhielt auch keine Erklärung für die Antwort.

Das andere getestete Spielzeug

Das zweite bewertete Spielzeug war Grem vom US-Unternehmen Curio, mit der Stimme der Musikerin Grimes, zum Preis von rund 99 US-Dollar, versandt aus den Vereinigten Staaten. Die BBC organisierte außerdem einen einwöchigen Test zu Hause bei einer Familie in Newport, Wales — den Eltern Jody und Craig und drei Kindern im Alter von zwei, vier und sechs Jahren. Dem Sender zufolge neigte Grem zu überlangen Antworten, während Doubao lange brauchte, um Fragen zu verarbeiten. In dieser Woche gab es keine besorgniserregenden Antworten, doch der Vater sagte, er würde derzeit keinen KI-Teddybären kaufen.

Kein Einzelfall

Eine Studie des US PIRG Education Fund aus dem Jahr 2025 testete drei KI-Spielzeuge und stellte fest, dass alle drei zeigten, wo potenziell gefährliche Haushaltsgegenstände zu finden sind — etwa Plastiktüten, Streichhölzer und Messer. Die Ergebnisse zeigen, dass das Risiko nicht auf einen einzigen KI-Teddybären beschränkt ist. Ein weiterer Fall, an den die Untersuchung erinnert, ist der Kumma-Bär des chinesischen Unternehmens FoloToy, der 2025 nach Berichten über unangemessene Gespräche mit Kindern vorübergehend vom Markt genommen wurde — darunter laut den Berichten Anleitungen zum Anzünden eines Streichholzes und sexuell explizite Gespräche.

Druck für Regulierung

Eine Gruppe britischer Abgeordneter und Lords hat an Minister und Händler geschrieben und gefordert, KI-Spielzeuge vor dem Black Friday und Weihnachten vom Markt zu nehmen, bis ihre Sicherheit unabhängig nachgewiesen ist. Rocío Cifuentes, Kinderbeauftragte von Wales, äußerte Bedenken hinsichtlich der Privatsphäre von Kindern und der Möglichkeit, dass Gespräche ohne Zustimmung der Eltern aufgezeichnet werden. Paul Clarke, Gründer des KI-Spielzeugunternehmens Play Tech AI aus Southampton, sagte der BBC, die Branche „schreie“ nach Regulierung, und berichtete, er habe auf einer Branchenveranstaltung in Shanghai Produkte mit unzureichenden Sicherheitsmaßnahmen gesehen. Berry Billingsley, Professorin für Bildung und KI an der Swansea University, riet Eltern, Kinder nicht allein mit konversationellen KI-Spielzeugen zu lassen. Die Beauftragte Cifuentes riet Eltern, sich vor dem Kauf eines KI-Teddybären als Weihnachtsgeschenk sorgfältig zu informieren.

In Europa trat die EU-Spielzeugsicherheitsverordnung (EU) 2025/2509 Anfang 2026 in Kraft. Im Vereinigten Königreich endete im Oktober 2026 eine öffentliche Konsultation der Regierung zu den Risiken von KI-Spielzeugen, und die Regierung erklärte, die Sicherheit von Kindern bleibe eine Priorität, während sie die Regeln für neue Technologien überarbeite.

Bildnachweis: Das Titelbild zeigt einen klassischen Steiff-Teddybären aus den Jahren 1904–1905, gemeinfrei, aus der Sammlung des Missouri History Museum, via Wikimedia Commons. Das Bild dient der Illustration und zeigt nicht das von der BBC getestete Spielzeug.

Quellen

Transparenzhinweis: Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt, auf Grundlage öffentlicher Beiträge und journalistischer Quellen im Internet, und anhand der zitierten Berichte geprüft. Wir empfehlen, die Originalquellen zu konsultieren, um die Details zu überprüfen.

Muse