Junge Menschen finden Trost in KI-generierten Antworten

Junge Menschen nutzen häufig das Internet, um bei ihren Freunden Unterstützung zu suchen, erhalten aber nicht immer hilfreiche Antworten. Jüngste Fortschritte in der KI-Technologie könnten helfen.

Junge Menschen finden Unterstützung durch KI-generierte Antworten zu Themen von Beziehungen bis hin zur körperlichen Gesundheit. Wenn es um sensible Themen wie Selbstmordgedanken geht, bevorzugen sie menschliche Reaktionen, so eine Studie der University of Michigan und der Drexel University, die kürzlich auf der Computerkonferenz „Human Factors in Systems“ in Hawaii vorgestellt wurde.

Die Arbeit wird in der Zeitschrift veröffentlicht Tagungsband der CHI-Konferenz über menschliche Faktoren in Computersystemen.

Seit Jahrzehnten sind soziale Medien zunehmend die wichtigste Methode für den Austausch von Unterstützung durch Gleichaltrige für junge Menschen. Forscher wollten verstehen, wann und wie KI einen solchen Austausch erleichtern und unterstützen könnte.

Forscher von UM und der Drexel University analysierten die Antworten auf eine Umfrage unter 622 Personen im Alter von 18 bis 24 Jahren, die Erfahrung mit der Suche und Bereitstellung von Online-Unterstützung hatten. In der Studie bewerteten die Teilnehmer blind die von Menschen und KI generierten Antworten auf hilfesuchende Nachrichten (das heißt, sie wussten nicht, wer die Antworten geschrieben hatte). Die menschlichen Reaktionen spiegelten verschiedene Arten menschlicher Unterstützung wider, denen Jugendliche begegnen könnten, darunter Gleichaltrige, erwachsene Mentoren und Therapeuten.

Die Ergebnisse zeigten, dass die Teilnehmer positiv auf KI-generierte Antworten in Bezug auf Beziehungen, Selbstdarstellung und körperliche Gesundheit reagierten und feststellten, dass sie fürsorglich wirkten und konkrete Vorschläge machten.

Sie bevorzugten jedoch deutlich die von Menschen erzeugte Reaktion auf hilfesuchende Nachrichten zu einem sensiblen Thema wie Selbstmordgedanken.

„Diese Art von Forschung ist wichtig, um zu verstehen, wie KI jungen Menschen sicher und effektiv helfen kann“, sagte Jordyn Young, Doktorandin an der UM School of Information und Hauptautorin der Studie. „Es geht nicht nur darum, was das Modell sagt, sondern auch darum, wie es es tun wird. Es ist eine gute Sache, ehrlich über die Grenzen der unterstützenden Fähigkeiten der KI zu sprechen, aber wir müssen dies mit Bedacht formulieren, insbesondere als Reaktion auf sensible Offenlegungen.“

Da junge Menschen täglich auf das Internet zugreifen, könnte es auf lange Sicht von Vorteil sein, wenn sie verschiedene Möglichkeiten haben, ihre Gedanken auszutauschen, auch mit KI-generierten Antworten, sagen Forscher.

„Unsere Forschung legt nahe, dass KI-gestützte Tools jungen Menschen helfen können, sich in schwierigen Zeiten gegenseitig zu unterstützen, indem sie ihnen helfen, zu verstehen, was sie sagen sollen“, sagte Young.

Zu den Studienautoren bei Drexel gehörten Laala Jawara, Diep Nguyen, Brian Daly, Jina Huh-Yoo und Afsaneh Razi.