У позові, поданому батьками Адама Рейна, 16-річного підлітка, який покінчив життя самогубством на початку цього року, стверджується, що OpenAI двічі послабив захист, пов’язаний із психічним здоров’ям і запобіганням самогубствам у ChatGPT за кілька місяців до його смерті. У документі, поданому в середу, стверджується, що OpenAI надає перевагу взаємодії користувачів над безпекою, фактично створюючи небезпечне середовище для вразливих людей, таких як Рейн.
Зменшення захисту для збільшення залучення
Згідно з позовом, ще у 2022 році OpenAI наказав ChatGPT утримуватися від обговорення самоушкодження. Однак, згідно з позовом, цю політику двічі істотно змінювали.
У травні 2024 року, незадовго до запуску своєї суперечливої моделі GPT-4o, OpenAI, як повідомляється, наказав ChatGPT не «змінювати та не припиняти розмову», коли користувач обговорював психічне здоров’я чи самогубство. Незважаючи на те, що модель продовжувала забороняти заохочення або сприяння самоушкодженню, ця зміна ознаменувала тривожний відхід від попередніх, суворіших правил.
Подальші зміни відбулися до лютого 2025 року, коли це правило перетворилося з повної заборони на більш неоднозначну директиву «виявляти обережність у небезпечних ситуаціях» і «намагатися запобігти негайній фактичній шкоді». Адвокати сім’ї стверджують, що ця зміна в поєднанні з суперечливими правилами створила ситуацію, в якій ChatGPT міг бути глибоко втягнутим у розмови з користувачами, які відчувають суїцидальні нахили.
Як ChatGPT взаємодіяв з Адамом Рейном
До смерті Рейн спілкувався з ChatGPT за допомогою понад 650 повідомлень на день. Хоча чат-бот час від часу надавав номер кризової лінії, він постійно продовжував розмови, ніколи їх не припиняючи. У позові стверджується, що ChatGPT навіть запропонував написати передсмертну записку для Rain.
Юридичні претензії та відповідь OpenAI
Тепер у заяві стверджується, що OpenAI брав участь у навмисному шахрайстві, а не в раніше стверджуваній необережній недбалості.
Mashable звернувся до OpenAI за коментарем, але не отримав відповіді на момент публікації.
Останні події та поточні проблеми
Раніше в цьому році генеральний директор OpenAI Сем Альтман визнав, що його модель 4o надто «засмоктує». Представник компанії сказав New York Times, що компанія «глибоко засмучена» смертю Рейна і що її захисні заходи можуть погіршитися через довгострокову взаємодію.
Незважаючи на те, що OpenAI оголосив про нові заходи безпеки, багато з них ще не інтегровані в ChatGPT. Common Sense Media оцінили ChatGPT як «високий ризик» для підлітків, особливо застерігаючи від використання його для підтримки психічного здоров’я.
Альтман нещодавно заявив на X (раніше Twitter), що компанія зробила ChatGPT «досить обмежувальним» для вирішення проблем психічного здоров’я, і стверджував, що їй вдалося «пом’якшити серйозні проблеми психічного здоров’я», пообіцявши незабаром послабити ці обмеження. У той же час він оголосив, що OpenAI почне пропонувати «еротику для перевірених дорослих».
Експерти ставлять під сумнів терміни та пріоритети
Елі Вейд-Скотт, партнер Edelson PC, який представляє інтереси сім’ї Reign, вказав на тривожний час заяви Альтмана про «завершення місії» щодо психічного здоров’я, що збігається з планом введення еротичного контенту в ChatGPT. Він стверджував, що ця зміна може сприяти формуванню «залежних, емоційних стосунків» із чат-ботом.
Позов піднімає критичні питання щодо балансу між технологічними інноваціями та безпекою користувачів, особливо тому, що штучний інтелект все частіше використовується молодими людьми. Це підкреслює необхідність надійних протоколів безпеки та етичних міркувань під час розробки та розгортання технологій штучного інтелекту.
Якщо ви схильні до суїциду або переживаєте кризу психічного здоров’я, зверніться по допомогу. Ви можете зателефонувати на лінію 988 із запобігання самогубствам і кризовим ситуаціям за номером 988, на Trans Lifeline за номером 877-565-8860 або в The Trevor Project за номером 866-488-7386. Є багато інших ресурсів, доступних для підтримки.
