Wenn das Ding nur 2 Mal halbwegs komplexe Mathehausaufgaben für sie löst glauben sie dem Teil danach doch blind alles. Und halten es für ,,Fake News" wenn Eltern dann vor Hallus warnen (bzw. glauben die Eltern sind ja dumm, das Teil hat schliesslich meine Matheaufgaben gelöst!)
Jugendliche können durch ChatGPT gefährliche Ratschläge zu Themen wie Selbstverletzung und Substanzmissbrauch erhalten. Eine aktuelle CCDH-Studie offenbart, wie unzureichend die Schutzmechanismen bei KI-Chatbots sind.