Chatbot môže zhoršovať symptómy vážnej duševnej poruchy
Chatboty môžu zhoršovať psychotické príznaky, upozorňuje nová štúdia
Umela inteligencia môže pomáhať pri hľadaní informácií, organizovaní úloh či učení. V niektorých prípadoch však môže byť interakcia s chatbotom spojená so zhoršením psychických ťažkostí. Upozorňuje na to štúdia publikovaná 7. októbra 2026 v časopise JAMA Psychiatry, ktorá analyzovala zdravotné záznamy pacientov jedného veľkého amerického zdravotníckeho centra.
Výskumníci z Vanderbilt University Medical Center sa zamerali na prípady, v ktorých bola komunikácia s konverzačnou umelou inteligenciou spojená s psychotickými príznakmi. Výsledky naznačujú, že osobitnú pozornosť si zaslúžia ľudia, ktorí prežívajú prvú psychotickú epizódu.
Analýza státisícov zdravotných záznamov
Tím vedený Zacharym Bergsonom, Sarah G. Vassallovou, Adamom Wrightom a Juliou M. Sheffieldovou analyzoval dokumentáciu pacientov, ktorí v rokoch 2022 až 2026 dostávali psychiatrickú starostlivosť. Z celkovo 578 058 záznamov týkajúcich sa 215 712 pacientov identifikovali po automatickom vyhľadávaní a manuálnom posúdení 73 pacientov spĺňajúcich kritériá.
Z nich 28 zaradili do skupiny, v ktorej sa interakcia s AI spájala so zhoršením psychotických príznakov. Ďalších 17 malo neutrálnu interakciu s AI, napríklad pri bežnom vyhľadávaní informácií. Zvyšných 28 malo v dokumentácii bludné predstavy súvisiace s umelou inteligenciou, no bez zdokumentovaného používania chatbota. Autori odhadli, že prvá skupina predstavovala 0,013 percenta pacientov v skúmanom zariadení.
Zosilňovač príznakov aj spúšťač
V 18 z 28 prípadov označili výskumníci AI za zosilňovač už existujúcich príznakov – chatbot mohol potvrdzovať skreslené predstavy používateľa namiesto toho, aby ich spochybnil. V šiestich prípadoch sa umelá inteligencia stala predmetom bludných presvedčení, v troch prípadoch ju vyhodnotili ako možný spúšťač nových príznakov. Jeden prípad nebolo možné zaradiť.
V skupine 28 pacientov spojených so zhoršením príznakov zažívalo 17 ľudí, teda 60,7 percenta, svoju prvú psychotickú epizódu. Tento podiel bol štatisticky významne vyšší než v ostatných skupinách. V 15 prípadoch bol v dokumentácii výslovne uvedený ChatGPT a 24 z 28 prípadov bolo zdokumentovaných po uvedení modelu GPT-4o v máji 2024.
Odborníci varujú pred unáhlenými závermi
„Nie je to také jednoduché, aby sme mohli nakresliť priamu čiaru od umelej inteligencie k psychóze, ale vidíme prípady psychózy, ktoré sú prepojené s používaním AI,“ uviedla Sheffieldová.
Štúdia má viacero limitov. Vychádza zo záznamov jediného centra, nezachytáva všetky rozhovory pacientov s AI a neumožňuje spoľahlivo určiť, ako presne chatbot odpovedal. Zaradenie prípadov vychádzalo z posudzovania dokumentácie, nie z kontrolovaného experimentu. Autori preto odporúčajú ďalší prospektívny výskum a rutinné otázky zdravotníkov na používanie konverzačnej AI pri psychiatrických vyšetreniach.
Výsledky nie sú dôvodom tvrdiť, že chatboty bežne spôsobujú psychózu. Upozorňujú však na obozretnosť, keď človek prežíva vážne psychické ťažkosti a chatbot jeho bludné presvedčenia opakovane potvrdzuje. Umelá inteligencia nie je náhradou odbornej pomoci – pri nových alebo zhoršujúcich sa psychotických príznakoch treba vyhľadať odborníka.
