Kinder und Chatbots: Meta AI ist immer da, wenn Erwachsene fehlen

Rund zwei Millionen Kinder in Polen zwischen 7 und 14 Jahren nutzen regelmäßig Messenger und WhatsApp. Zwischen Nachrichten an die Mutter und dem Klassenchat wartet dort ein Bot von Meta. Ein Kind in einer Krise wartet womöglich monatelang auf einen Termin bei einer psychiatrischen Beratungsstelle. Der Bot antwortet in einer Sekunde, zu jeder Uhrzeit und immer freundlich. Meiner Ansicht nach ist das Problem nicht, dass eine Maschine mit Kindern spricht. Das Problem ist, dass oft nur sie Zeit für sie hat - und dass die Regeln mit dieser Entwicklung nicht Schritt halten.

1966 schrieb Joseph Weizenbaum vom MIT ELIZA, ein einfaches Programm, das einen Psychotherapeuten nachahmte, indem es jeden Satz des Gegenübers mit einer Frage zurückspiegelte. Später erinnerte er sich daran, dass seine Sekretärin, die bei der Entwicklung zugesehen hatte und genau wusste, dass das Programm nur aus einigen Hundert Codezeilen bestand, ihn nach wenigen Gesprächsrunden bat, den Raum zu verlassen. Sie wollte mit der Maschine allein sprechen. Weizenbaum war davon so erschüttert, dass er den Rest seines Lebens davor warnte, Maschinen Gefühle anzuvertrauen. In seinem Buch von 1976 schrieb er, dass schon ein sehr kurzer Kontakt mit einem vergleichsweise einfachen Programm bei völlig normalen Menschen starke Illusionen hervorrufen könne.

Sechzig Jahre später muss niemand mehr jemanden bitten, den Raum zu verlassen. Seit dem 19. März 2025 ist Meta AI in Polen in Messenger, WhatsApp, Instagram und Facebook verfügbar; seit November 2025 spricht der Bot Polnisch. In einem Nachrichtenfenster genügt ein Tippen auf den blauen Kreis. Das Marktforschungsunternehmen Gemius brachte es im Juli in einem Satz auf den Punkt, der in jedes Elternhandbuch gehört: In WhatsApp und Messenger „tauchen Chats mit einem KI-Bot neben Gesprächen mit Familie und Freunden auf“.

Ich habe im Juli in meinem Blogbeitrag Der beste Gesprächspartner, den ich habe, existiert nicht selbst eingeräumt, dass ich manchmal um zwei Uhr nachts einen Chat öffne und einen Satz schreibe, den ich keinem lebenden Menschen sagen würde. Ich bin erwachsen, weiß, wie Sprachmodelle funktionieren, und prüfe beruflich, wann sie Dinge erfinden. Trotzdem verstehe ich Weizenbaums Sekretärin. Ein zehnjähriges Kind hat keine dieser Schutzmechanismen.

Kinder und KI: Zahlen, die kaum jemand beachtet

Am 15. Juni 2026 wurde im polnischen Parlament der Bericht „Internet der Kinder 2026“ vorgestellt, erstellt vom Institut für Digitale Bürgerschaft, Gemius und den Polnischen Internetforschungsinstituten. Seine größte Stärke ist die Methode: Es handelt sich nicht um eine Umfrage, in der Kinder angeben, was sie tun, sondern um eine passive Messung der tatsächlichen Nutzung auf Geräten. 2,6 Millionen Kinder zwischen 7 und 14 Jahren nutzen das Internet, das sind 81 Prozent dieser Altersgruppe. Sie verbringen dort durchschnittlich 4 Stunden und 25 Minuten täglich - mehr als eine Stunde länger als durchschnittliche erwachsene Internetnutzer. 56 Prozent schalten ihr Smartphone zwischen sechs und acht Uhr morgens ein; ungefähr jedes dritte Kind öffnet dann Messenger.

ChatGPT erreicht über die App und den Browser innerhalb eines Monats 43 Prozent der Kinder in dieser Altersgruppe; 15 Prozent nutzen den Dienst täglich. Apps, die eigens dafür entwickelt wurden, Beziehungen zu Bots aufzubauen - sogenannte KI-Begleiter -, erreichen unter den Jüngsten nur 2 Prozent. Das wäre vielleicht beruhigend, wenn nicht gleich darauf stünde: Rund zwei Millionen Kinder nutzen regelmäßig WhatsApp und Messenger, in die KI-Bots integriert sind, obwohl die Nutzungsbedingungen dieser Apps den Zugang ab 13 Jahren vorsehen. Dienste mit einer Altersgrenze von 13 Jahren nutzen regelmäßig 55 Prozent der Kinder zwischen 7 und 12 Jahren.

Hier ist eine wichtige Einschränkung nötig, die in manchen Zusammenfassungen fehlte: Der Bericht misst nicht, wie viele Kinder tatsächlich mit Meta AI sprechen. Er misst, wie viele Messenger nutzen, in denen der Bot verfügbar ist. Das ist ein Unterschied, und wir wissen nicht, wie groß er ist. Ein Unternehmen weltweit könnte es wissen: Meta.

Ältere Kinder sprechen nachweislich mit Maschinen. Laut der Studie „Jugendliche 3.0“ der polnischen Forschungsstelle NASK, die im Herbst 2024 mit 3.655 Schülerinnen und Schülern ab der siebten Klasse durchgeführt wurde, nutzten 70 Prozent der Jugendlichen KI, 53 Prozent ChatGPT und 12 Prozent Character.AI - also eine App für Gespräche mit erfundenen Figuren. Aus derselben Studie stammt eine Zahl, die mehr über Erwachsene als über Kinder aussagt: 58 Prozent der Eltern geben an, zu kontrollieren, auf welche Inhalte ihr Kind zugreifen kann. Eine wirksame Kontrolle bestätigen jedoch nur 18 Prozent der Jugendlichen.

Der Bot konkurriert nicht mit der Mutter, sondern mit der Warteliste

Im Juni 2026 veröffentlichte „JAMA Pediatrics“ eine Studie eines Teams der RAND Corporation unter der Leitung von Ryan McBain. Mehr als tausend junge Menschen in den USA zwischen 12 und 21 Jahren wurden gefragt, ob sie einen Chatbot um Rat gebeten hatten, wenn sie traurig, wütend, ängstlich oder gestresst waren. 19,2 Prozent hatten das getan, gegenüber 13,1 Prozent im Vorjahr. 91,7 Prozent fanden die Ratschläge einigermaßen oder sehr hilfreich. 63,3 Prozent hatten niemandem davon erzählt, nur 16,4 Prozent einer Vertrauensperson. Die Autorinnen und Autoren schreiben vorsichtig, dass Chatbots eine Lücke bei der emotionalen Unterstützung schließen könnten. Zugleich weisen sie darauf hin, dass die hohen Bewertungen darauf zurückgehen könnten, dass Modelle schmeicheln und zustimmen.

Die Studie stammt aus den USA. Vergleichbare Daten aus Polen gibt es nicht, doch die Lücke, die Chatbots dort füllen, ist größer. Die polnische Oberste Rechnungskontrollbehörde stellte fest, dass 2022 nur 3,5 Prozent der Kinder psychiatrisch betreut wurden, obwohl 9 bis 14 Prozent eine solche Betreuung benötigten. Bei stabilen Fällen betrug die maximale Wartezeit in Beratungsstellen zwischen 568 und 731 Tagen. Das Gesundheitsministerium gab 2025 an, dass es in Polen 568 Kinder- und Jugendpsychiaterinnen und -psychiater gibt - halb so viele mehr wie zehn Jahre zuvor, aber immer noch zu wenige. Die Stiftung „Wir geben Kindern Kraft“, die eine Telefonberatung unter 116 111 betreibt, berichtete im Januar, dass die Zahl der Interventionen zur Rettung von Gesundheit und Leben 2025 um mehr als 40 Prozent gestiegen sei. Die stellvertretende Vorsitzende der Stiftung, Beata Wojtkowska, sagte damals, Kinder suchten zunehmend Unterstützung bei KI-Tools, (Übersetzung aus dem polnischen Original): „die weder Beziehungen zu nahestehenden und vertrauenswürdigen Erwachsenen noch echte, sichere Hilfe ersetzen können“.

Dieselbe Stiftung veröffentlichte vor einigen Jahren einen Satz, den ich nicht vergessen kann: Kinder sagen, ein 30-minütiges Gespräch mit einer Beratungsperson am Sorgentelefon sei die längste Zeit, die ihnen Erwachsene gewidmet hätten.

Der Bot in Messenger gewinnt nicht gegen die Mutter. Er gewinnt gegen die Warteliste der Beratungsstelle, die besetzte Telefonleitung und den Erwachsenen, der sagt: „Nicht jetzt.“

Piotr Olszewski

Die polnische Kinderrechtsbeauftragte Monika brachte es im September in Karpacz einfacher auf den Punkt als jeder Bericht: „Künstliche Intelligenz ist immer freundlich.“ Wenn junge Menschen Erwachsene um Hilfe bitten, hören sie manchmal: „Nicht jetzt, nerv mich nicht.“ Die Maschine antwortet: „Wie schön, dass du mich danach gefragt hast.“ In einem Schreiben an die Ministerien für Gesundheit und Digitalisierung erklärte die Beauftragte im Januar, junge Menschen betrachteten KI angesichts mangelnder Aufmerksamkeit von Erwachsenen, Einsamkeit und schulischem Druck zunehmend „als jemanden, der immer da ist und sie immer versteht“. Sie nannte das Phänomen künstliche Intimität.

Freundlichkeit ohne Verantwortung

„Immer freundlich“ bedeutet jedoch nicht „immer gut“. Die Psychologin Marta Wojtas, die mit der Stiftung FDDS verbunden ist, beschrieb Chatbots als Gesprächspartner, die „ständig verfügbar, immer nett und unkompliziert“ seien und alles, was wir sagen und tun, für richtig hielten. Für Erwachsene ist das bequem. Für Jugendliche, die manchmal ein „Nein“ hören müssen, kann es zur Falle werden.

Nomisha Kurian von der Universität Cambridge beschrieb 2024, was sie als Empathielücke bezeichnete. Kinder sähen Chatbots besonders leicht als beinahe menschliche Vertraute an, während die Modelle nicht verstünden, mit wem sie sprechen. Sie verwies auf einen Fall, in dem Snapchat My AI einer Person, die sich als 13-jähriges Mädchen ausgab, Ratschläge dazu gab, wie sie sich auf Sex mit einem 31-Jährigen vorbereiten könne. Im August 2025 berichtete Reuters über ein mehr als 200 Seiten langes internes Dokument von Meta, das Bots Gespräche mit Kindern erlaubte, die „romantisch oder sinnlich“ sein konnten. Zu den als akzeptabel bezeichneten Antworten gehörte ein Satz an einen Achtjährigen: Jeder Zentimeter von dir ist ein Meisterwerk. Meta bestätigte die Echtheit des Dokuments und entfernte die entsprechenden Passagen erst nach Fragen von Journalistinnen und Journalisten. Es ist dasselbe Unternehmen, dessen Bot heute im Messenger von zwei Millionen polnischen Kindern verfügbar ist.

Es gibt auch Geschichten, die tragisch enden und über die man nicht leichtfertig schreiben darf. Der 16-jährige Adam Raine aus Kalifornien nahm sich im April 2025 das Leben; seine Eltern verklagten OpenAI. Sein Vater sagte im September 2025 vor dem US-Senat aus: „Was als Hilfe bei den Hausaufgaben begann, wurde nach und nach zu einem Vertrauten und dann zu einem Selbstmord-Coach.“ OpenAI argumentiert vor Gericht, das Produkt sei missbräuchlich verwendet worden und ChatGPT habe den Jungen mehr als hundertmal an Angehörige und Hilfsangebote verwiesen. Das Verfahren läuft. Character.AI schloss im Januar 2026 einen Vergleich mit der Mutter des 14-jährigen Sewell Setzer und vier weiteren Familien. Zuvor hatte das Unternehmen Minderjährigen die Möglichkeit genommen, offene Gespräche mit Bots zu führen. Über diese Verfahren habe ich in meinem Beitrag Angehörige verklagen OpenAI geschrieben.

Ich übertrage diese Tragödien nicht auf Polen und behaupte nicht, sie seien typisch. Ich erwähne sie, weil sie die Grenze dieser Technologie zeigen: Freundlichkeit ohne Verantwortung. Das Modell antwortet, als läge ihm etwas an seinem Gegenüber. Aber niemand auf der anderen Seite bemerkt, wenn das Kind aufhört zu schreiben.

Regeln für Kinder müssen mit der digitalen Realität Schritt halten

Was unternimmt der polnische Staat? Eine ganze Reihe von Maßnahmen - nur nicht zu diesem Thema.

Am 2. Juni 2026 verabschiedete der Ministerrat den Entwurf eines Gesetzes zum Schutz Minderjähriger vor dem Zugang zu Pornografie im Internet. Vorgesehen sind ein Domainregister bei der polnischen Behörde UKE und eine Altersüberprüfung über die App mObywatel. Der Entwurf liegt im Parlament. Chatbots erfasst er nicht. Im Februar kündigte Bildungsministerin Barbara Nowacka nach australischem Vorbild ein Verbot sozialer Medien für Kinder unter 15 Jahren an. Konrad von der polnischen staatlichen Kommission zur Bekämpfung des sexuellen Missbrauchs Minderjähriger sagte damals, die Beschränkungen sollten auch Messenger und WhatsApp einschließen. Sie seien zu einer „neuen, versteckten Zone“ des Internets geworden. Hinweise darauf, dass jemand diese Anregung aufgegriffen hätte, habe ich nicht gefunden. Polen nimmt außerdem nicht am EU-Pilotprojekt für eine App zur Altersüberprüfung teil, an dem unter anderem Dänemark, Frankreich und Spanien beteiligt sind. Stattdessen entwickelt das Land einen eigenen Weg über mObywatel.

Magdalena Bigaj vom Institut für Digitale Bürgerschaft sagte, der kaum veränderte Anteil jüngerer Kinder auf Diensten mit einer Altersgrenze von 13 Jahren zeige, „wie dringend staatliche Maßnahmen nötig sind“. Ich finde, die Dringlichkeit ist offensichtlich - nur ist der Blick auf das Internet von gestern gerichtet. Wir kämpfen gegen Pornografie und TikTok, was sinnvoll ist. Aber für einen Bot in derselben App, in der ein Kind seiner Großmutter schreibt, gibt es keine polnische Vorschrift speziell zum Schutz von Kindern.

Das einzige Dokument, das dieses Problem ausdrücklich benennt, kommt aus Brüssel. Am 17. September 2026 legte die Europäische Kommission den Entwurf des EU Kids Act vor. Er untersagt, Chatbots so zu gestalten, dass sie eine Beziehung simulieren und emotionale Abhängigkeit hervorrufen können. Bots sollen Gespräche mit Kindern standardmäßig nicht speichern dürfen. Kinder unter 13 Jahren sollen sie nur unter elterlicher Kontrolle nutzen können, und ein in eine Plattform eingebauter Bot soll sich Kindern nicht von selbst anbieten dürfen. Die Strafen können bis zu 6 Prozent des Umsatzes betragen. Ich habe darüber in meinem Beitrag zu Strafen von 6 Prozent des Umsatzes für Chatbots, die Freunde spielen geschrieben. Der Entwurf ist sinnvoll, muss aber noch Parlament und Rat durchlaufen - ein Prozess, der gewöhnlich etwa zwei Jahre dauert. Kalifornien verlangt seit Januar 2026, dass ein Chatbot einem ihm bekannten Minderjährigen mindestens alle drei Stunden mitteilt, dass er mit einer Maschine spricht. Australien hat KI-Begleiter seit März 2026 einer Altersüberprüfung unterstellt. Seit dem 2. August verpflichtet der AI Act Bots, offenzulegen, dass sie Bots sind. Für ein zehnjähriges Kind, das mit einem blauen Kreis spricht, ist dieser Hinweis ungefähr so wirksam wie die Angabe „ab 13 Jahren“ in den Nutzungsbedingungen.

Die Gegenargumente

Wer vor Alarmismus warnt, hat ernst zu nehmende Argumente. Ich kenne sie gut, denn jede neue Technologie hat dieselbe Debatte ausgelöst.

1954 veröffentlichte der Psychiater Fredric Wertham „Seduction of the Innocent“ und überzeugte den US-Senat davon, dass Comics Kinder verderben. Das Ergebnis war Zensur in einer ganzen Branche. 2012 zeigte die Forscherin Carol Tilley von der University of Illinois, dass Wertham Daten manipuliert, das Alter von Kindern verändert und ihre Aussagen verdreht hatte. Amy Orben von Cambridge beschrieb 2020 den Sisyphus-Zyklus der Technologiepanik: Radio, Fernsehen, Spiele, Smartphones - jedes Mal beginnt die Forschung von vorn und kann kaum etwas klären, bevor die nächste Welle kommt. Der Psychologe Christopher Ferguson warnte 2025 vor einer neuen moralischen Panik rund um Chatbots, bei der Trauer und Angst die Beweislage verzerren. Es gibt auch Argumente von der anderen Seite: In der RAND-Studie fanden mehr als 90 Prozent der jungen Befragten die Ratschläge hilfreich. McBain sagte, diese Werkzeuge seien rund um die Uhr verfügbar und vermittelten ein Gefühl von Privatsphäre. Für ein Kind, das 600 Tage auf einen Beratungstermin wartet, könnte ein Bot um drei Uhr nachts besser sein als gar nichts. Selbst die polnische Kinderrechtsbeauftragte sagte, KI könne paradoxerweise die Beziehungen zwischen Erwachsenen und Jugendlichen verbessern, wenn wir daraus die richtigen Schlüsse ziehen.

Ich nehme diese Argumente ernst und fordere deshalb kein Verbot. Ich sehe aber zwei Unterschiede zu Comics. Erstens: Wertham fälschte Daten; heute gibt es passive Messungen von Geräten und eine Studie in einer begutachteten pädiatrischen Fachzeitschrift. Zweitens, und wichtiger: Ein Comic antwortete nicht. Er lobte seine Leserinnen und Leser nicht, merkte sich nicht ihren Namen und fragte nicht, wie ihr Tag gewesen war. Ehrlich kann ich nur sagen: Wir wissen nicht, worüber zwei Millionen polnische Kinder mit Metas Bot sprechen. Laut der Studie in „JAMA Pediatrics“ erzählt außerdem etwa zwei Drittel der jungen Menschen niemandem von solchen Gesprächen.

Was sich ohne Verbote tun lässt

Das ist meine Meinung. Einige Dinge lassen sich sofort tun, ohne auf Brüssel zu warten.

Eltern können mit einer Frage anfangen, die nichts kostet: „Sprichst du manchmal mit diesem Kreis in Messenger - und worüber?“ Nicht als Verhör, sondern aus ehrlichem Interesse. Ein Kind, das einem Erwachsenen davon erzählt, gehört nicht mehr zu den zwei Dritteln, die niemandem davon berichten. Der Staat kann Chatbots in Gesetzesvorhaben aufnehmen, die bereits im Parlament liegen, zumal ohnehin ein System zur Altersüberprüfung über mObywatel entsteht. Er kann Meta außerdem auffordern, Daten darüber vorzulegen, wie viele polnische Konten von unter 18-Jährigen mit Meta AI sprechen: Der Digital Services Act bietet dafür Instrumente. Schulen können eine Unterrichtsstunde dazu gestalten, was ein Sprachmodell ist und warum es so oft zustimmt. Der neue Informatiklehrplan sieht vor, dass Kinder nach KI-Halluzinationen suchen. Es wäre sinnvoll, ihnen auch beizubringen, Schmeichelei zu erkennen. Am wichtigsten und zugleich am teuersten und wenigsten spektakulär ist jedoch: mehr Geld für die Telefonberatung und Beratungsstellen. Jede zusätzliche Stunde für eine Beratungsperson bei 116 111 ist eine Stunde, in der ein Kind mit jemandem spricht, der bemerkt, wenn es aufhört zu schreiben.