Advokáti stále víc využívají AI. Její halucinace míří až k soudům
Umělá inteligence nachází stále častější využití v advokacii i dalších právních oborech. V posledních dvou letech se však zároveň nejen ve světě, ale i v Česku objevují případy, kdy AI takzvaně halucinovala, například si vymyslela neexistující precedenty, ale právní profesionál to nerozpoznal a podklady využil.
🚩 Proč je to důležité: Smyšlené podání z dílny umělé inteligence zbytečně komplikuje a prodlužuje další řízení. Může to snižovat i šanci na úspěch klientů.
➡️ Co se stalo: Nepoužívejte k automatickému psaní ústavních stížností a jiných zásadních podání umělou inteligenci, vyzval advokáty Šalamoun, spolek na podporu nezávislé justice. S právními podáními, na kterých se negativně podepsala halucinující AI, se už setkal nejen Ústavní soud, ale také Nejvyšší správní soud (NSS).
Generativní AI se v advokacii i jiných právních oborech využívá stále častěji, existují i specializované nástroje určené třeba k rešerším judikatury. Forma bývá zdánlivě bezvadná, ovšem citace vedou k neexistujícím rozsudkům nebo se argumentace míjí s podstatou sporu. Případů v posledních dvou letech významně přibývá.
Příklady shromažďuje francouzský výzkumník Damien Charlotin, v databázi jich má stovky, nejvíce v USA, ale také třeba v Zimbabwe. Jediný český záznam v této databázi se týká rozhodování NSS, který obdržel obsáhlá vyjádření ke kasační stížnosti, která však byla těžce uchopitelná, s mimoběžnou argumentací, včetně zcela irelevantních bodů.
Hlavní problém spočíval v odkazech na starší rozsudky. Část vůbec neexistovala, případně neobsahovaly uvedené citace. Vypořádat se s takovým podáním je náročné a zbytečně to prodlužuje řízení, plyne z rozhodnutí NSS.
Podobně argumentoval také Ústavní soud, který uložil pořádkovou pokutu pražskému advokátovi. Při psaní stížnosti využil AI a výsledek nezkontroloval. Stížnost odkazovala na neexistující judikaturu. Uvedl soud v omyl a zbytečně komplikoval a zdržoval jeho postup, napsal v usnesení soudce Tomáš Langášek.
Zdůraznil, že advokát může použít různé nástroje, ale jako profesionál přebírá za podání plnou odpovědnost. Ústavní soud ocenil následný přístup advokáta, který pokutu obratem uhradil a zaslal omluvu.
Spolek Šalamoun v trestní věci, kterou monitoruje, nově prostudoval odeslanou ústavní stížnost o 91 stranách. Podle spolku je zjevné, že text tvořila generativní AI. Část citovaných nálezů neexistuje, některé citace nemají obsahovou souvislost s případem. Podle spolku takový advokátův postup poškozuje klienta, protože snižuje jeho šanci na úspěch.
📢 Co kdo říká:
Václav Peričevič, spolek Šalamoun: „Ústavní stížnost běžně stojí vyšší desítky tisíc korun. Pokud má klient za tyto peníze dostat dokument, kde advokát nekontroluje realitu citací a spoléhá na systém, který má vrozenou tendenci halucinovat, je to nejdražší vstupenka do právního sci-fi žánru, jaká je na českém trhu k dispozici.“
👀 Kontext: Advokátní komora už v roce 2023 vydala stanovisko, podle kterého advokát v souladu se zákonem a stavovskými předpisy může AI využít v souvislosti s poskytováním právních služeb. Stanovisko ovšem varuje před nepředvídatelností výstupů a zdůrazňuje odpovědnost advokáta a opatrnost při zpracovávání klientských údajů.
Navzdory excesům už si nástroje AI vydobyly v právním světě své místo. Ústavní soud nasadil AI asistenta pro vyhledávání ve své databázi. Soudcovská unie v říjnu vyzvala politiky, aby justici umožnili plné využití programů na přepis mluveného slova do textu a nových nástrojů umělé inteligence.
