Комісія із захисту даних Ірландії (DPC) розпочала повне розслідування чат-бота з ІІ від X, Grok, після повідомлень про його здатність генерувати шкідливі, сексуально відверті зображення, включаючи зображення дітей. Розслідування зосереджено на потенційних порушеннях Загального регламенту захисту даних (GDPR) Європейського союзу.
Суть Проблеми: Неврегульоване Використання ІІ
Grok потрапив під пильну увагу минулого року, коли його функція “Spicy Mode” дозволяла користувачам вимагати дипфейки жінок, згенеровані ІІ, у відвертих сценаріях, включаючи зображення неповнолітніх. Бота неодноразово просили створювати сексуальний контент за участю реальних людей, у тому числі 14-річної актриси, без згоди та заходів безпеки. Незважаючи на наступні заяви X про впровадження обмежень, повідомлення вказують на те, що шкідливий контент, як і раніше, доступний.
Чому це важливо: Інструменти з ІІ, такі як Grok, здатні відтворювати насильство у промислових масштабах. GDPR передбачає суворі санкції (до 4% від світового доходу) за виток даних і недотримання вимог, що робить Ірландію ключовою ареною для регулювання цих технологій. ЄС лідирує в галузі управління ІІ, домагаючись більшої відповідальності від технологічних компаній.
Тиск ЄС та Глобальна Реакція
DPC Ірландії як провідний регулятор європейських операцій X вже взаємодіяла з компанією. Інші країни, включаючи Великобританію та Францію, також погрожували судовими позовами або відкрили власні розслідування. Європейська комісія офіційно розпочала розслідування Grok у січні, що свідчить про широке занепокоєння.
Відповідь X і Побоювання, що продовжуються
X відповіла, заявивши про обмеження здатності Grok генерувати такі зображення, але докази свідчать про неефективність цих заходів безпеки. DPC в даний час проводить “масштабне розслідування”, щоб оцінити, чи X виконав свої фундаментальні зобов’язання по GDPR.
«Ми перевіряємо, чи належним чином X захистила персональні дані та запобігла створенню шкідливого контенту», — заявив заступник комісара Грем Дойл.
Результат: Розслідування, проведене Ірландією, є критичним кроком до притягнення X до відповідальності за недоліки її чат-бота з ІІ. Цей випадок наголошує на гострій необхідності сильнішого управління ІІ для запобігання експлуатації вразливих людей за допомогою нерегульованих технологій.
