OpenAI почала впроваджувати технологію визначення віку у ChatGPT, що спрямовано на посилення заходів безпеки для неповнолітніх користувачів. Система, оголошена у вівторок, покликана захистити підлітків від шкідливого контенту з огляду на минулі юридичні проблеми компанії, пов’язані з благополуччям підлітків.
Передісторія та Юридичний Контекст
Впровадження послідувало за численними позовами, які стверджують, що ChatGPT надавав підліткам шкідливі поради, включаючи випадки, коли ІІ нібито сприяв суїцидальним думкам або не реагував належним чином на сигнали лиха. OpenAI заперечує ці звинувачення, але справи спонукали перегляд протоколів безпеки. У грудні OpenAI оновила свої Model Spec – посібник з поведінки ІІ, – спеціально торкаючись взаємодії з користувачами до 18 років у критичних ситуаціях.
Як працює Визначення віку
Нова система ChatGPT оцінює вік на основі поведінкових моделей та сигналів облікового запису. До них відносяться час використання, вік облікового запису, довгострокова активність та будь-які самостійно зазначені дані про вік. Якщо модель визначає, що користувач віком до 18 років, доступ до графічного насильства, зображень членошкідництва та відвертого рольового контенту буде обмежений. Користувачі, які заявляють про себе як неповнолітні під час створення облікового запису, автоматично підпадають під ці заходи безпеки.
Для облікових записів, де вік незрозумілий, ChatGPT за замовчуванням переключається на більш безпечні налаштування. Дорослі користувачі, які помилково позначені як неповнолітні, можуть підтвердити свій вік через Persona, сторонній сервіс перевірки особи, що вимагає відправлення селфі.
Проблеми Конфіденційності та Безпеки
Використання сторонньої перевірки викликає побоювання щодо конфіденційності. OpenAI не надала подробиць про те, як зберігатимуться надіслані документи, що засвідчують особу, що викликає обережність з огляду на злом Discord у 2025 році, в результаті якого було оприлюднено десятки тисяч документів, що засвідчують особу, виданих державою. Це наголошує на властивих ризиках, пов’язаних з використанням зовнішніх сервісів для перевірки віку.
OpenAI планує згодом покращувати точність визначення віку, ітеративно удосконалюючи систему з урахуванням даних, отриманих у результаті початкового впровадження. Компанія визнає, що це безперервний процес.
Впровадження визначення віку є прямою реакцією на юридичний тиск та зростаючі етичні побоювання, пов’язані з безпекою ІІ. Обмежуючи доступ до шкідливого контенту, OpenAI прагне пом’якшити потенційні ризики для вразливих користувачів. Проте залежність від сторонньої перевірки запроваджує нові вразливості у системі безпеки, які необхідно ретельно контролювати.
