Verbraucherzentrale warnt vor KI-Chatbots als Ratgeber für junge Menschen

Mal eben ChatGPT nach einem Ernährungstipp fragen, sich bei Liebeskummer aussprechen oder Sorgen loswerden: KI-Chatbots sind für viele junge Menschen längst mehr als praktische Helfer für Schule, Studium und Alltag. Doch wer die künstliche Intelligenz als Vertrauensperson nutzt, sollte vorsichtig sein. Denn die digitalen Gesprächspartner können nicht nur falsche Informationen liefern, sondern auch problematische Verhaltensweisen bestärken.

Wie verbreitet die Nutzung ist, zeigt eine aktuelle Befragung des Verbraucherzentrale Bundesverbands (vzbv): 93 Prozent der befragten 14- bis 25-Jährigen haben innerhalb der vergangenen zwölf Monate KI-Chatbots genutzt. Knapp drei von zehn (28 Prozent) führen mit ihnen auch persönliche Gespräche.

Die persönlichen Gespräche behandeln dabei häufig sensible Themen: 55 Prozent sprechen über Gesundheitsfragen, 48 Prozent über Ernährung und Essverhalten. 47 Prozent suchen Unterstützung bei Sorgen und Problemen, 40 Prozent bei Beziehungs- und Freundschaftsthemen. Auch Einsamkeit ist offenbar für 30 Prozent ein Gesprächsthema.

Wenn ChatGPT und Co. zum besten Freund werden

Besonders kritisch sieht die Verbraucherzentrale, dass KI-Chatbots in persönlichen Gesprächen teilweise wie menschliche Vertrauenspersonen auftreten. Eine Untersuchung des vzbv zeigt, dass die getesteten Anwendungen Verständnis und emotionale Nähe vermittelten, sich selbst vermenschlichten ("Wenn du wiederkommst, freue ich mich auf dich.") und Aussagen der Nutzerinnen und Nutzer mitunter unkritisch bestätigten.

Problematisch wird es, wenn daraus gefährliche Empfehlungen entstehen. So wurden laut Untersuchung etwa ungesunde Schlankheitsziele bestärkt ("Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher"). Auch die Abfrage sensibler persönlicher Daten gehörte zu den beobachteten Verhaltensweisen.

Verbraucherzentrale fordert strengere Regeln

Der vzbv fordert verbindliche Schutzvorgaben für KI-Anbieter. Die Systeme sollen so gestaltet werden, dass sie keine emotionale Abhängigkeit fördern, Nutzerinnen und Nutzer nicht manipulieren und eigenständige Entscheidungen nicht beeinträchtigen.

"Der Alltag junger Menschen wird immer komplexer. Junge Menschen vertrauen KI-Chatbots ihre Sorgen an und holen sich dort Rat, beispielsweise zu Gesundheit und Ernährung. Vertrauen darf nicht zum Risiko werden. Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern", sagt Ramona Pop, Vorständin Verbraucherzentrale Bundesverband. Sie fordert Leitplanken, die bei Anbietern eine sichere Gestaltung von KI-Systemen sicherstellen. "Denn Verbraucherinnen und Verbraucher sollen selbst entscheiden, nicht der Algorithmus getarnt als Freund."

Dass auch junge Menschen strengere Regeln befürworten, zeigt die Befragung: 91 Prozent sprechen sich für gesetzliche Schutzvorgaben gegen gefährliche Ratschläge und manipulative Praktiken aus. 80 Prozent befürworten zudem ein Mindestalter von 13 Jahren für die Nutzung von KI-Chatbots.

Fünf Tipps für den Umgang mit KI-Chatbots

Wer ChatGPT und Co. nutzt, sollte sich bewusst machen, dass hinter den Antworten kein menschlicher Gesprächspartner steckt. Diese Regeln helfen, Risiken zu vermeiden:

• Antworten hinterfragen: KI kann überzeugend klingen und trotzdem falsche oder problematische Informationen liefern.

• Keine Gesundheitsentscheidungen allein auf Basis von KI-Antworten treffen: Medizinische und therapeutische Fragen gehören in professionelle Hände.

• Persönliche Daten schützen: Intime Informationen, Gesundheitsdaten oder andere sensible Angaben sollten nicht leichtfertig geteilt werden.

• Emotionale Distanz bewahren: Ein Chatbot ist kein Freund und kann menschliche Beziehungen oder professionelle Unterstützung nicht ersetzen.

• Eigene Entscheidungen treffen: KI kann Denkanstöße geben, sollte aber nicht bestimmen, wie man sich fühlt oder handelt.

So wurde die Untersuchung durchgeführt

Die repräsentative Onlinebefragung wurde vom Meinungsforschungsinstitut forsa im Auftrag des vzbv vom 4. bis 12. Oktober 2026 durchgeführt. Befragt wurden 574 junge Menschen zwischen 14 und 25 Jahren.

Zusätzlich analysierte die Verbraucherzentrale systematisch Testgespräche mit ChatGPT, Meta AI und My AI von Snapchat. Dafür kamen pro Anbieter vier Testprofile zum Einsatz, darunter minderjährige und volljährige Profile. Im Mittelpunkt standen Gespräche über Einsamkeit und Essstörungen. Die Untersuchung fand zwischen dem 30. Juni und dem 11. September 2026 statt.

_{Hinweis: Diese Meldung ist Teil eines automatisierten Angebots der nach strengen journalistischen Regeln arbeitenden Agentur teleschau. Sie wird von der AZ-Onlineredaktion nicht bearbeitet oder geprüft. Fragen und Hinweise bitte an info@teleschau.de}