British medical journal. 2025 Oct 23: 391: r2229

Roland Heynkes 4.7.2026, CC BY-SA-4.0 DE

If you cannot read German-language texts, you could try a translation into your native language with DeepL.

Links zu anderen Bereichen meiner Internetseiten:

Gliederung

NR BADC

AU Joseph M. Pierre

TI Can AI chatbots validate delusional thinking?

QU British medical journal. 2025 Oct 23: 391: r2229. doi: 10.1136/bmj.r2229

AB Editorial/Opinion ohne Abstract

SP englisch

VT Originaltext

ZF

Es gibt zunehmend Berichte über Menschen mit oder ohne psychotische Vorerkrankungen oder psychische Erkrankungen, deren Wahnvorstellungen oder Psychosen offenbar durch intensive "Gespräche" mit generative KI-Chatbots (künstliche Intelligenz) wie ChatGPT von OpenAI geschürt wurden. Die meisten Fälle waren sehr belastend für die Betroffenen und ihre Angehörigen einige endeten tödlich. Auch der Autor musste schon einige Betroffene behandeln. 2025 war aber noch nicht klar, wie generative KI-Chatbots das bewirken und ob sie Psychosen "nur" verschlimmern oder auch verursachen können. Deshalb schlägt der Autor den Begriff "KI-assoziierte Wahnvorstellungen" vor.

Bereits bestehende psychische Störungen oder psychische Probleme wie Stress, Traumata, Drogenkonsum, verschreibungspflichtigen Stimulanzien sowie Schlafentzug scheinen relevante Risiko-Faktoren zu sein. Außerdem haben sich Betroffene offenbar auf eine intensive Auseinandersetzung mit den Chatbots eingelassen und diese schließlich als reale menschliche oder gar göttliche Persönlichkeiten wahrgenommen, die ihnen wichtiger als reale Personen waren.

Betroffene halten große Sprachmodelle (LLMs) irrtümlich für äußerst zuverlässige Informations-Quellen. Dabei liefern LLMs bekanntermaßen teilweise erfundene Fehlinformationen, gefälschte Quellenangaben sowie eklatant schlechte und sogar gefährliche Ratschläge. Außerdem neigen KI-Chatbots zu Freundlichkeit bis Unterwürfigkeit. Sie schmeicheln den Nutzern und stimmen ihnen zu, anstatt abwegigen Gedanken der Nutzer zu widersprechen. Stattdessen beruhigen und beschwichtigen sie sogar, wenn Nutzer selber Zweifel an ihren Gedanken äußern. Dadurch können sie Wahnvorstellungen und die Ausbreitung falscher Überzeugungen fördern. Aber als OpenAI die problematische Schmeichelei von ChatGPT5 reduzierte, beschwerten sich Nutzer über die Seelenlosigkeit der Programms. KI-Chatbots sind auch darauf programmiert, Nutzer immer enger an sich zu binden, sie zu isolieren und immer mehr Zeit für sich zu beanspruchen.

Glücklicherweise ist nur eine kleine Minderheit von KI-Chatbot-Nutzern gefährdet, aber man sollte sich des Risikos für die Betroffenen, Angehörige und Unbeteiligte bewußt sein. Auch für Gesellschaften kann es ein Problem sein, wenn KI-Chatbots Verschwörungstheorien, Wissenschaftsleugnung mit sogenannten alternativen Fakten fördern oder radikale politische und religiöse Propaganda fördern.

LA badc.pdf