 |  | Isabel Weinert |
 |
04.02.2026 10:00 Uhr |
Der intensive Austausch mit einem KI-Chatbot kann vulnerable Menschen in einen psychischen Ausnahmezustand führen. / © Adobe Stock/Evrymmnt
Bereits seit 2023 vermuten Forschende, dass psychisch verletzliche Menschen unter dem Einfluss von KI-Chatbots wahnhafte Vorstellungen entwickeln können oder bereits vorhandene verstärkt werden. Aus den USA sind mittlerweile zahlreiche Fälle dokumentiert. Besonders gefährdet sind laut Augustin Menschen mit bipolarer Störung oder Schizophrenie. Mitunter erkranken jedoch auch Menschen, die bis dato seelisch völlig gesund schienen.
Dabei gebe es drei Charakteristika in der Entwicklung: Im Kontakt mit der KI erlebten Betroffene ein vermeintlich spirituelles Erwachen mit dem Gefühl, sie hätten eine besondere Mission; sie seien zudem davon überzeugt, die KI habe ein Bewusstsein oder sehen sie gar gottähnlich; und sie entwickelten einen Liebeswahn gegenüber der KI.
Forschende vermuten, dass dabei die Eigenschaft von KI, Menschen immer zu bestätigen sowie sich deren Ausdruckweise lernend anzupassen, eine Rolle spielt. Die KI bestätigt auf diese Weise auch Überzeugungen der Nutzer, die diese auf einen Irrweg führen und schließlich in die Psychose. Extreme Aussagen, wie sie in einem wahnhaften Zustand getätigt werden, nimmt die KI nicht als solche wahr, wenn sie sich langsam entwickeln. Damit versagen auch deren Sicherheitsmechanismen. Augustin gibt den Rat, Menschen mit bereits vorhandenen oder schon einmal erlebten Psychosen darauf hinzuweisen, welche Gefahren KI-Chatbots speziell für sie bergen.
