Úřad okresního prokurátora v Nevadě se dostal pod kontrolu poté, co právníci uvedli, že nesprávný obsah generovaný umělou inteligencí byl použit k ospravedlnění držení Kylea Keollera (57) ve vyšetřovací vazbě. Případ poukazuje na rostoucí rizika spojená s používáním umělé inteligence v soudních řízeních, kde je prvořadá přesnost.
Obvinění
Kjoller byl zatčen na základě několika obvinění ze zbraně. Jeho obhájce argumentoval, že obvinění neospravedlňují vyšetřovací vazbu podle kalifornských zákonů. Státní zastupitelství však podalo odvolání, které prokázalo opak. Právníci společnosti Kjoller tvrdí, že dokument obsahoval řadu chyb typických pro generativní AI, včetně nesprávných interpretací právních precedentů a vymyšlených citací.
Běžné chyby
Problém nebyl izolovaný. Stejný žalobce, okresní prokurátor Jesse Wilson, podal odvolání v nejméně čtyřech případech s podobnými chybami. Tyto chyby zdůrazňují vzorec nástrojů AI, které postrádají přesnost potřebnou pro právní dokumentaci. Důsledky jsou vážné: chybné právní uvažování může vést k nespravedlivým zadržením a justičním omylům.
Odpověď od prokurátora
Wilson připouští, že došlo k chybám, ale říká, že AI byla použita pouze v jednom z odvolání. Faktem však zůstává, že obsah generovaný umělou inteligencí byl zaveden do právního systému bez dostatečné kontroly, což vyvolává otázky ohledně dohledu a odpovědnosti.
Proč na tom záleží
V tomto případě jde o víc než jen o držení jedné osoby ve vazbě. Zdůrazňuje kritickou chybu ve spěchu integrovat umělou inteligenci do vysoce důležitých rozhodovacích procesů. Generativní AI je náchylná k „halucinacím“ – vymýšlení informací nebo zkreslování faktů. V jurisprudenci, kde se o přesnosti nedá vyjednávat, to přímo ohrožuje řádný proces. Tento incident zdůrazňuje naléhavou potřebu preventivních opatření a lidského dohledu při používání umělé inteligence v právním kontextu.
Incident vzbuzuje širší obavy: S tím, jak se umělá inteligence stává běžnějším v oblasti vymáhání práva a soudních sporů, se zvyšuje riziko systémových chyb. Případ zdůrazňuje potenciál umělé inteligence podkopávat právní spravedlnost a posiluje potřebu pečlivé implementace a testování těchto nástrojů.
