Vývoj umelej inteligencie (AI) síce na pohľad napreduje nečakane rýchlym tempom, dostupné riešenia však v súčasnosti stále majú výrazné nedostatky. Osobne sa o tom presvedčil napríklad aj právnik z firmy Levidow, Levidow & Oberman, ktorý sa pri príprave dôkazov na pojednávanie spoľahol na ChatGPT od spoločnosti OpenAI. Neskôr sa však ukázalo, že AI si všetky sprostredkované dôkazy vymyslela. Téme sa venoval denník The New York Times na svojom webe.

Na žalobu letecká spoločnosť odpovedala tak, že súd požiadala o jej odmietnutie z dôvodu uplynutia premlčacej lehoty. K údajnej nehode na palube totiž malo dôjsť 27. augusta 2019, teda pred takmer 4 rokmi.

Právnik Steven Schwartz, ako zamestnanec právnej firmy zastupujúcej žalobcu, sa na prípade podieľal, a preto pripravoval dokumenty pred plánovaným pojednávaním. Zhromažďoval všetky dostupné dôkazy, argumenty a právne precedensy, ktoré by mohli súd presvedčiť, aby ich žalobu neodmietol. A práve vtedy sa tento právnik so zhruba tridsaťročnými skúsenosťami rozhodol obrátiť na ChatGPT.

AI si vymyslela až šesť prípadov

Výsledkom bola 10-stranová námietka, v ktorej sa Steven Schwartz odvolával na dovedna osem iných prípadov z minulosti. Právnik v dokumente sprostredkoval rozsiahle citácie vyjadrení zúčastnených strán, ktoré podporovali dôvodnosť žaloby a mali pomôcť zotrvaniu prípadu na súde.

Šesť z týchto prípadov však bolo len výmyslom ChatGPT. Umelá inteligencia si napríklad úplne vymyslela súdne spory Martinez verzus Delta Air Lines, Zicherman proti Korean Air Lines či Varghese proti China Southern Airlines. Steven Schwartz sa síce umelej inteligencie opýtal, či naozaj ide o skutočné súdne spory, no chatbot mu pravdivosť týchto (vymyslených) informácií sebavedomo potvrdil.

Právnik sa preto rozhodol sprostredkované informácie použiť a podal ich vo forme spomenutej námietky na súde. Za krátky čas však právni zástupcovia leteckej spoločnosti kontaktovali sudcu rozhodujúceho v tomto prípade s oznámením, že žiadny zo spomenutých dôkazov ani precedensov sa im nepodarilo nezávisle potvrdiť. Nielenže s pomocou dostupných zdrojov nevedeli dohľadať konkrétne prípady, ale ani žiadne iné, ktoré „by sa im akýmkoľvek spôsobom podobali“.

Sudca v reakcii požiadal právne zastúpenie žalobcu, teda firmu zamestnávajúcu Stevena Schwartza, aby súdu doručila kópie dokumentov, na ktoré sa vo svojej námietke odvoláva. Právnik zdroje znova „konzultoval“ s umelou inteligenciou a súdu následne sprostredkoval nielen konkrétne názvy súdov a mená sudcov, ktorí v daných prípadoch rozhodovali, ale taktiež aj identifikačné čísla jednotlivých prípadov a ich dátumy.

Aj v prípade týchto informácií sa neskôr ukázalo, že išlo o číre výmysly umelej inteligencie. ChatGPT ich očividne pospájalo náhodným spôsobom – doložené identifikátory napríklad patrili nesúvisiacim prípadom.

Bude čeliť sankciám

A hoci protistrana medzičasom naznačila podozrenie z použitia chatbota fungujúceho na základe umelej inteligencie, celý incident objasnilo až čestné vyhlásenie právnej firmy zastupujúcej žalobcu podané minulý týždeň.

Steven Schwartz sa v ňom konkrétne priznal, že v rámci rešeršnej činnosti k tomuto prípadu „konzultoval“ zdroje s chatbotom ChatGPT za účelom „doplnenia“ svojich vlastných zistení. Dodal, že umelú inteligenciu opakovane žiadal o potvrdenie pravdivosti sprostredkovaných informácií, čo mu chatbot zakaždým potvrdil. Dokonca právnikovi odpovedal aj na žiadosť o sprostredkovanie zdrojov a dodal mu konkrétne citácie či iné požadované detaily.

Právnik ďalej vo vyhlásení priznal, že ChatGPT používal prvýkrát vo svojom živote a nevedel o možnosti, že informácie sprostredkované umelou inteligenciou nemusia byť pravdivé. Jeho cieľom vraj nebolo poskytnúť mylné informácie súdu ani protistrane. Vyjadril sa, že incident ho mrzí a v budúcnosti podobnú chybu nezopakuje, pričom bude dbať na dôkladné preverenie sprostredkovaných informácií.

Sudca nazval incident „bezprecedentnými okolnosťami“ s tým, že doručené mu boli „falošné súdne rozhodnutia s falošnými citáciami a falošnými zdrojmi“. Na 8. júna naplánoval vypočúvanie s cieľom určenia prípadných sankcií voči právnemu zastúpeniu žalobcu za toto konanie.