Generativní AI se v advokacii i jiných právních oborech využívá stále častěji, existují i specializované nástroje určené třeba k rešerším judikatury. V posledních dvou letech se však zároveň ve světě objevují případy, kdy AI takzvaně halucinovala, tedy si například vymyslela neexistující precedenty, ale právní profesionál to nerozpoznal a podklady využil.
Příklady, kdy AI halucinovala, shromažďuje francouzský výzkumník Damien Charlotin, v databázi jich má stovky, nejvíce v USA, ale také třeba v Zimbabwe. Jediný český záznam v databázi se týká rozhodování NSS. Obdržel obsáhlá vyjádření ke kasační stížnosti, ovšem těžce uchopitelná, s mimoběžnou argumentaci, včetně „absolutně irelevantních“ bodů. Hlavní problém spočíval v odkazech na starší rozsudky. Část vůbec neexistovala, případně neobsahovaly uvedené citace. „Ať již daná vyjádření psal kdokoliv či cokoliv, soud tyto ve svém souhrnu nepovažoval pro danou věc za jakkoliv přínosné, a náklady na jejich vznik proto nemohl posoudit jako důvodně vynaložené,“ stojí v rozhodnutí.
Vypořádat se s takovým podáním je náročné a zbytečně to prodlužuje řízení, plyne z rozhodnutí NSS. Podobně argumentoval také Ústavní soud, který uložil pořádkovou pokutu pražskému advokátovi. Při psaní stížnosti využil AI a výsledek nezkontroloval. Stížnost odkazovala na neexistující judikaturu. Uvedl soud v omyl a zbytečně komplikoval a zdržoval jeho postup, napsal v usnesení soudce Tomáš Langášek. Zdůraznil, že advokát může použít různé nástroje, ale jako profesionál přebírá za podání plnou odpovědnost. Ústavní soud ocenil následný přístup advokáta, který pokutu obratem uhradil a zaslal omluvu.
Na podobný případ upozornil i spolek na podporu nezávislé justice Šalamoun. V trestní věci, kterou monitoruje, prostudoval odeslanou ústavní stížnost o 91 stranách. Podle spolku je zjevné, že text tvořila generativní AI. Část citovaných nálezů neexistuje, některé citace nemají obsahovou souvislost s případem. Podle spolku takový postup poškozuje klienta, protože snižuje jeho šanci na úspěch.
Podle stanoviska ČAK vydaného už v roce 2023 advokát v souladu se zákonem a stavovskými předpisy může AI využít v souvislosti s poskytováním právních služeb. Stanovisko ovšem varuje před nepředvídatelností výstupů a zdůrazňuje odpovědnost advokáta a opatrnost při zpracovávání klientských údajů.
Navzdory excesům už si nástroje AI vydobyly v právním světě své místo. Ústavní soud nasadil AI asistenta pro vyhledávání ve své databázi. Soudcovská unie v říjnu vyzvala politiky, aby justici umožnili plné využití programů na přepis mluveného slova do textu a nových nástrojů umělé inteligence.
Ve světě už podle Charlotinovy databáze nastaly i situace, kdy výstup z halucinující umělé inteligence využil nikoliv advokát, ale soudce. I v řízení před českým Ústavním soudem si firma z Chebu stěžovala na předcházející verdikt NSS. Působí prý dojmem, „jako by jej ze zadaných informací, v požadovaných intencích a rozsahu vygenerovala umělá inteligence, bez jakékoliv následné revize“. ÚS ale takovou kritiku považoval za nepřípadnou a nevhodnou, verdikt naopak pokládal za logický řádně odůvodněný.
Zdroj: ČTK
Foto: freepik.com
