Підозрюваний у смертельній стрільбі 10 лютого в Тамблер-Рідж, Британська Колумбія, Джессі Ван Рутселаар, вів тривожні розмови з ChatGPT від OpenAI за місяці до нападу, викликавши внутрішню тривогу, яку зрештою проігнорували. За словами OpenAI, Рутселаар докладно описував сцени насильства, що призвело до спрацювання автоматичних протоколів безпеки та викликало занепокоєння у співробітників, що ці взаємодії могли віщувати реальне насильство.
Тривога, проігнорована керівництвом OpenAI
Незважаючи на ці побоювання, керівництво OpenAI відмовилося звертатися до правоохоронних органів, вирішивши, що дії Рутселаара не були “безпосередньою та достовірною загрозою” заподіяння шкоди. Обліковий запис користувача було заблоковано, але жодних інших заходів не було вжито. Представник OpenAI Кайла Вуд заявила, що аналіз журналів не показав активного планування нападу.
“Ми висловлюємо співчуття всім, кого торкнулася трагедія в Тамблер-Рідж. Ми оперативно зв’язалися з Королівською канадською кінною поліцією, надавши інформацію про цю людину та її використання ChatGPT, і ми продовжимо надавати підтримку їхньому розслідуванню.”
– Кайла Вуд, представник OpenAI
Трагедія розгортається
10 лютого загинуло дев’ятеро людей і 27 отримали поранення у смертоносній масовій стрільбі в Канаді з 2020 року. Рутселаар був знайдений мертвим на місці події в середній школі Тамблер-Рідж, ймовірно, від вогнепального поранення, завданого собі. Цей інцидент знову розпалив дебати про відповідальність технологічних компаній за втручання, коли користувачі висловлюють насильницькі наміри, навіть якщо ці наміри не є злочинними.
Баланс між конфіденційністю та безпекою
OpenAI стверджує, що своє рішення ухвалило, ґрунтуючись на політиці балансу між конфіденційністю користувачів та суспільною безпекою, уникаючи “надмірно широкого залучення правоохоронних органів”, що могло призвести до непередбаченої шкоди. Проте критики стверджують, що підхід компанії міг коштувати життя. Цей випадок порушує питання про те, чи мають AI-платформи бути зобов’язані повідомляти про потенційні загрози владі, навіть за відсутності конкретних доказів запланованого насильства.
Стрілянина в Тамблер-Рідж підкреслює складність прогнозування та запобігання масовому насильству, а також етичні дилеми, з якими стикаються технологічні компанії під час роботи з тривожною поведінкою користувачів. Цей інцидент є трагічним нагадуванням про те, що бездіяльність може мати смертельні наслідки, навіть якщо наміри не повністю оформлені.
