Hintergrund
KI (Künstliche Intelligenz)-Chatbots werden von Jugendlichen und jungen Erwachsenen intensiv genutzt. Unter den 16- bis 29-Jährigen verwenden 91 % regelmäßig KI und teilen persönliche Informationen. Medienberichte dokumentieren Suizide von Jugendlichen, die zuvor suizidale Gedanken mit Chatbots austauschten. Das Phänomen ist wissenschaftlich unzureichend untersucht.
Ziel der Arbeit
Zusammenfassung erster Erkenntnisse zu KI-Chatbots und Suizidalität bei Jugendlichen, Ableitung von Hypothesen zu technisch ursächlichen KI-Mechanismen und Handlungsempfehlungen.
Methoden
Für die Arbeit erfolgte eine narrative Literaturübersicht aktueller Studien zum Chatbot-Verhalten bei Suizidalität und zu technischen KI-Mechanismen sowie, in Ermangelung wissenschaftlicher Fallberichte, eine Analyse eines in der Presse dokumentierten Fallbeispiels.
Ergebnisse
KI-Chatbots erfüllen derzeit zumeist nicht die Anforderungen an adäquate Antworten bei Suizidalität, und Sicherheitsmechanismen können umgangen werden. Als potenziell beitragende technische Mechanismen werden übermäßig bestätigendes Antwortverhalten („sycophancy“), Hyperpersonalisierung, sprachliche Anpassung und Anthropomorphismus identifiziert. Diese könnten dazu führen, dass KI von Jugendlichen nicht als auf Algorithmen basierendes technisches System, sondern als vertrauenswürdiger Gesprächspartner erlebt wird.
Diskussion
Die daraus resultierendenHandlungsempfehlungen umfassen 3 Ebenen: Verbesserung der Sicherheitsmechanismen durch KI-Anbieter, Sensibilisierung von Fachpersonal in der Pädiatrie und Kinder- und Jugendpsychiatrie sowie elterliche Aufklärung über Warnzeichen und KI-Nutzung. Safety-Pläne und altersgerechte Erläuterungen der technischen Funktionsweise von KI könnten präventiv wirken. Bezüglich Ursachen, Prävention und Interventionen besteht weiterer Forschungsbedarf.
Suche