Klingt KI immer objektiv? Scheinbar nicht. Eine neue MIT-Studie zeigt: Wer wie schreibt, beeinflusst, welche medizinischen Ratschläge Chatbots geben – und bestimmte Gruppen bekommen systematisch schlechtere Empfehlungen.
https://www.notebookcheck.com/MIT-Studie-warnt-Chatbots-raten-bestimmten-Gruppen-haeufiger-vom-Arztbesuch-ab.1054487.0.html
Und wer ist verantwortlich für das "Neutrale, objektive Bild" dieser Systeme bei den Nutzern?
Ach ja, richtig. Die selbsternannten Journalisten.
Welche ein Sprachmodell als "KI" bezeichnen und allein damit falsche Erwartung wecken.
Newsflash:
Die Systeme wissen nicht, was sie von sich geben. Das sind alles nur Wortstatistiken.
Und statistisch sind Frauen häufiger in Foren unterwegs, um sich medizinischen Rat zu holen, treffen dort häufiger auf Schwurbler, welche dadurch natürlich auch vom Arzt abraten.
Bei Transpersonen ebenso. Die sind statistisch sowieso medizinfeindlich, vertrauen Ärzten gar nicht.
Gleiches bei Migranten oder Flüchtlingen.
Die Sprachmodelle haben keine Ahnung, sie haben kein Wissen, sie plappern nur sehr überzeugende Wahrscheinlichkeiten nach.
Tipp an jeden von euch:
Stellt eine Grundfrage und dann Verständnisfragen mit der Bitte um Quellen.
In der einen Hälfte wird das Modell zugeben, sich Informationen ausgedacht zu haben, in der anderen Hälfte passen die Quellinfos nicht zur Behauptung.
Aber naja... mein Kommentar ein Tropfen auf dem heissen Stein.
Morgen wird der nächste Bericht über die angeblich tolle "KI" kommen. Ohne Kritik, ohne Erklärung, ohne Einordnung. Und übermorgen dann wieder die verwunderten Fragen, wieso Nutzer "der KI" so blind glauben.
Wer denen das nur eingetrichtert hat? Auf gar keinen Fall die selbsternannten Journalisten, welche gestern noch "die KI" in den siebten Himmel lobten.
Wahrscheinlich ist es falsch, daß KI von uns lernt?