Адвокати кажуть, що через # помилок штучного інтелекту людину залишили під заставою
Офіс окружного прокурора штату Невада потрапив під пильну увагу після того, як юристи заявили, що некоректний контент, створений штучним інтелектом, використовувався для виправдання тримання під вартою 57-річного Кайла Кеоллера. Справа підкреслює зростаючі ризики, пов’язані з використанням штучного інтелекту в судових процесах, де точність має першорядне значення.
Звинувачення
Кьоллер був заарештований за кількома звинуваченнями у володінні зброєю. Його команда захисту стверджувала, що звинувачення не виправдовують досудове ув’язнення згідно із законодавством Каліфорнії. Проте прокуратура подала апеляцію, де довела протилежне. Адвокати Кьоллера стверджують, що документ містив численні помилки, характерні для генеративного ШІ, включаючи неправильне тлумачення правових прецедентів і сфабриковані цитати.
Поширені помилки
Проблема не була одиничною. Той самий прокурор, окружний прокурор Джессі Вілсон, подав апеляції щонайменше у чотирьох справах із подібними помилками. Ці помилки підкреслюють модель інструментів ШІ, яким бракує точності, необхідної для юридичної документації. Наслідки серйозні: неправильне юридичне обґрунтування може призвести до несправедливих затримань і судових помилок.
Відповідь прокуратури
Вілсон визнає, що були помилки, але каже, що ШІ використовувався лише в одному з звернень. Проте факт залишається фактом: контент, створений штучним інтелектом, було введено в правову систему без належної перевірки, що викликає питання про нагляд і підзвітність.
Чому це важливо
У цій справі йдеться не лише про утримання під вартою однієї людини. Це підкреслює критичний недолік поспіху інтегрувати штучний інтелект у важливі процеси прийняття рішень. Генеративний ШІ схильний до «галюцинацій» — фабрикації інформації або спотворення фактів. У юриспруденції, де точність не є предметом обговорення, це створює пряму загрозу для належного процесу. Цей інцидент підкреслює нагальну потребу в запобіжних заходах і людському нагляді під час використання ШІ в правовому контексті.
Інцидент викликає ширші занепокоєння: Оскільки штучний інтелект стає все більш поширеним у правоохоронних органах і судових процесах, зростає ризик системних помилок. Цей випадок підкреслює потенціал штучного інтелекту підривати юридичну справедливість і посилює необхідність ретельного впровадження та тестування цих інструментів.
