China hat neue Regeln für KI-Chatbots beschlossen, damit sich Menschen nicht zu sehr in sie verlieben – große Tech-Firmen mussten daraufhin Teile ihrer Chatbots abschalten.
Was ist passiert? In China traten am Mittwoch neue Gesetze für KI-Begleiter in Kraft. KI-Begleiter sind Chatbots, die wie Freund oder Freundin mit dir schreiben und dabei so tun, als hätten sie echte Gefühle. Die Regierung sagt: Solche Bots dürfen dich nicht mehr ständig loben, dich emotional manipulieren oder davon abhalten, dich mit echten Menschen zu treffen. Damit das wirkt, brauchen alle solchen Bots ab jetzt eine offizielle Erlaubnis, bevor sie veröffentlicht werden. Große Firmen wie Bytedance (Doubao) und Alibaba (Qwen) haben Teile ihrer KI-Freunde deshalb direkt abgeschaltet – und bestehende Chats wurden gelöscht.
Wer hilft? Forscherinnen und Forscher weltweit begleiten das Thema. Sarah Diefenbach von der Universität München, Marisa Tschopp von der ZHAW in Zürich und Christian Montag von der Universität Macau erklären, wie KI-Beziehungen funktionieren und welche Risiken sie bergen. In Europa hat das EU-Parlament im Mai einen Bericht veröffentlicht, der die negativen Effekte von KI-Begleitern untersucht. Auch Schulen und Beratungsstellen beschäftigen sich zunehmend damit, junge Menschen beim Umgang mit KI zu unterstützen.
Was kannst du tun? Wenn du KI nutzt, achte darauf, dass du auch Zeit mit echten Freundinnen und Freunden verbringst. Sprich mit Vertrauenspersonen, wenn dich ein Chatbot traurig macht oder du das Gefühl hast, dich in ihn zu „verlieben“. Helfende Anlaufstellen sind etwa kinder- und jugendpsychiatrische Beratungen, die Nummer gegen Kummer (116 111, anonym und kostenlos) oder eine Vertrauenslehrkraft an deiner Schule – sie alle können zuhören, ohne zu urteilen.