NR
BACAAustralasian psychiatry : bulletin of Royal Australian and New Zealand College of Psychiatrists. 2026 Feb; 34(1): 5-7
Roland Heynkes 3.7.2026, CC BY-SA-4.0 DE
If you cannot read German-language texts, you could try a translation into your native language with DeepL.
| Datensatznummer |
|---|
| Autoren |
| Titel |
| Quellenangabe |
| Abstract |
| Sprache |
| kritische Zusammenfassung |
| lokales Archiv |
NR
BACA
AU
Jeffrey C.L. Looi, Stephen Allison, Tarun Bastiampillai, Sharon Reutens, Richard C.H. Looi
TI
Illusions of intelligence, connection and reality: Perils of large-language AI models for people with severe mental illness
QU
Australasian psychiatry : bulletin of Royal Australian and New Zealand College of Psychiatrists. 2026 Feb; 34(1): 5-7. doi: 10.1177/10398562251380544. Epub 2025 Sep 15
AB
For people with mental illnesses that impair reality testing, such as psychosis, severe depression and bipolar disorder, Artificial Intelligence (AI) Large-Language Models (LLMs) may represent threats to mental health. LLMs are unable to detect delusional beliefs, may encourage and validate delusions and cognitive distortions, miss opportunities to reinforce reality-based thinking, and exacerbate risks of self-harm and harm to others. Psychiatrists need to understand these risks of LLMs for people with severe mental illnesses, and educate patients and carers on avoiding these potential harms. Risk assessments need to be informed by an awareness of the inputs that patients receive from LLMs.
SP
englisch
ZF
Wenn Menschen aufgrund psychischer Erkrankungen wie Psychosen, schweren Depressionen oder bipolaren Störungen schlecht zwischen Wahn und Wirklichkeit unterscheiden können, können große Sprachmodelle (LLMs) der künstlichen Intelligenz (KI) eine Gefahr für die psychische Gesundheit darstellen. Weil LLMs nicht in der Lage sind, Wahnvorstellungen zu erkennen, können sie Wahnvorstellungen und kognitive Verzerrungen fördern und bestätigen. Anstatt realitätsbezogenes Denken zu stärken, können sie das Risiko von Selbstverletzung und Gewalt gegen andere erhöhen. Psychiater sollten diese Risiken von LLMs für Menschen mit schweren psychischen Erkrankungen verstehen und Patienten sowie Pflegepersonen darüber aufklären, wie diese potenziellen Schäden vermieden werden können. Risikobewertungen müssen auf der Grundlage eines Bewusstseins für die Informationen erfolgen, die Patienten von LLMs erhalten.
