Nutzungskompetenz spielt eine Rolle, aber eine untergeordnete. KI ist darauf trainiert, mit weniger KI-affinen Nutzern richtig umzugehen.
KI ist aber tatsächlich so dumm, wie die Quellen, die sie einbezieht und wie gut oder schlecht der Algorithmus programmiert ist. KI neigt zu Halluzinationen. Dann werden frei erfundene Märchen mit völliger Selbstsicherheit als unumstößliche Fakten präsentiert, für die es nicht einen Beleg gibt. Außerdem werden auch minderwertige oder widerlegte Studien, widerlegte Erkenntnisse, Hörensagen und anekdotische Erzählungen aus Foren und Blogs, zweifelhafte Berichte aus Medien und Alternativmedien, Falschinformationen auf Webseiten und andere, qualitativ fragwürdige Quellen von KI verarbeitet.
Der Fall, über den die Zeit berichtet, ist kein Beleg für eine Heilung, noch für eine überhaupt vorliegende, wirkliche Erkrankung. Es könnte sich um einen Placebo-Effekt bei einer psychosomatischen Geschichte mit Burnout-Komponente handeln.
Laut Artikel wurden die Symptome ausgelöst durch eine tatsächlich stattgefundene Hirnhautentzündung. Die wurde dann behandelt, die Symptome blieben kurioserweise und es folgte ein Schlaganfall. Der aber sehr wahrscheinlich einfach nur Ergebnis eines hochgradig ungesunden Lebenswandels. Wer 17 Stunden täglich als Berater arbeitet, 7 Tage die Woche ohne freien Tag, hat keine Zeit mehr für Erholung, körperliche Ertüchtigung / Ausgleichssport, ausreichend Schlaf und anderes Essen außer ungesundem Fast Food. Da sind Infarkt oder Schlaganfall vorprogrammiert.
Der Mann wurde krank und schwach durch eine Meningitis, extrem ungesunden Lebenswandel, vermutlich auch durch Burnout und schließlich noch zusätzlich geschwächt durch Schlaganfall. Seine ominöse Erschöpfungs-Krankheit, von der völlig unklar ist, was es sein soll und ob es sie überhaupt gibt, könnte psychosomatisch entstanden sein, im Nachgang an Meningitis, Schlaganfall, Burnout. Da helfen dann auch mal ein Placebo von ChatGPT und eine Änderung des ungesunden Lebenswandels.
Laut Artikel hat der Mann über Monate ein inniges Vertrauensverhältnis zu seinem Chatbot aufgebaut, nimmt schließlich dessen einzige Medikamenten-Empfehlung ein, die der Bot auch noch so präsentiert, dass eine mögliche Unrichtigkeit dieser Empfehlung gar nicht erst überprüfbar ist. So ist jedem potentiellen Aufkommen von Zweifeln vorgebeugt. Der Mann vertraut also, nimmt die Pillen ein, erwartet eine Wirkung auf seine psychosomatische Krankheit und voilà, es funktioniert.
Eine "Rettung durch ChatGPT’ ist durch diesen Fall nicht belegt. Im Gegenteil, da sind Zweifel angebracht.
BTW:
Ein Screenshot, wo Google Gemini mir selbstsicher verklickern möchte, dass eine Postleitzahl für verschiedene Ortschaften gelten kann. Klassisches Beispiel, wie eine KI aus vernünftigen Quellen in Kombination mit eigenen, falschen Annahmen völligen Unsinn halluziniert. In dem Fall wenigstens sofort offensichtlich, in anderen Fällen halt leider überhaupt nicht erkennbar. Z. B. wenn es hoch fachspezifische Themen sind.
