Advokát citoval neexistujúce rozsudky, halucinované AI. Súd mu udelil pokutu a varuje pred slepou dôverou v AI.

Umelá inteligencia priviedla advokáta pred súd za falošné rozsudky

V súčasnosti, keď technológie neustále napredujú a umelá inteligencia (AI) zohráva čoraz dôležitejšiu úlohu v našich životoch, sa objavili aj vážne problémy, ktoré naznačujú, že nie všetko je tak jednoduché, ako to na prvý pohľad vyzerá. Prípad z Oregonu, kde advokát Bill Ghiorse dostal pokutu vo výške 10-tisíc dolárov za to, že citoval neexistujúce súdne rozhodnutia vytvorené umelou inteligenciou, je toho jasným príkladom. Súdny predseda, sudca Scott Shorr, charakterizoval predložené materiály ako „vytvorené z ničoho“.

Skandál ohľadom falošných citácií

Celý spor začal dotykom s vážnou témou – licenciou na predaj marihuany. Ghiorse sa snažil obhájiť svoju pozíciu pred súdom, no namiesto presných a overených faktov predložil iba fiktívne citácie. V priebehu konania sa ukázalo, že odvolával sa na pätnásť súdnych rozhodnutí, ako aj deväť citácií, ktoré nemali žiadny reálny základ. Tento systématický prehrešok vyvolal vážne otázky o dôveryhodnosti a integrite právneho systému.

Odmietnutie zodpovednosti a poučenie pre právnikov

Počas procesu sa ukázalo, že protistrana upozornila Ghiorsea už v apríli 2025, že citované prípady neexistujú. Jeho ignorovanie tejto výzvy spôsobilo, že súdne konanie pokračovalo s nepresnými podkladmi ešte niekoľko mesiacov. Až keď sa aspekt veci dostal do rúk odvolacieho súdu, sudcovia zahájili podrobnú kontrolu predložených dôkazov, ktorá vyústila do tvrdého odsúdenia Ghiorseho konania. Súd zdôraznil, že zodpovednosť spočíva na advokátovi, nie na použitých technológiách.

Nezvratné dôsledky na právny systém

Tento incident je varovaním pre celý právnický svet, ktorý sa musí pozerať na umelú inteligenciu so zdravou skepsou, najmä pokiaľ ide o overovanie faktov a presnosť informácií. Je jasné, že AI môže byť užitočným nástrojom, ale jej schopnosť generovať objekty či informácie, ktoré neexistujú, môže viesť ku katastrofálnym následkom, ak jej používateľ nie je dostatočne obozretný.

Krízová situácia v právnej praxi

Prípad Ghiorsea nie je ojedinelý, pretože v posledných rokoch sa viackrát objavili situácie, kde právnici využili generatívne nástroje bez riadneho overovania faktov. Tento trend, známy ako „halucinovanie“ AI, poukazuje na to, že aj zdania by mali mať svoje limity, pretože presne formulované, ale úplne nepravdivé informácie môžu zásadne ohroziť právny systém, ktorého základom je presnosť a dôveryhodnosť.

Návrat k základom a zodpovednosti

Vzhľadom na to, že AI sa čoraz viac integruje do každodennej praxe právnikov, novinárov a úradníkov, je dôležité, aby sa respektíval etický rámec a pravidlá profesionálneho správania. Ukazuje sa, že efektivita, ktorú AI poskytuje, musí byť vyvážená zodpovednosťou a hodnotami, ktoré sú základom každej odbornej praxe.