OpenAI начала внедрять технологию определения возраста в ChatGPT, что направлено на усиление мер безопасности для несовершеннолетних пользователей. Система, объявленная во вторник, призвана оградить подростков от вредоносного контента, учитывая прошлые юридические проблемы компании, связанные с благополучием подростков.
Предыстория и Юридический Контекст
Внедрение последовало за многочисленными исками, утверждающими, что ChatGPT предоставлял подросткам вредные советы, включая случаи, когда ИИ якобы способствовал суицидальным мыслям или не реагировал должным образом на сигналы бедствия. OpenAI оспаривает эти обвинения, но дела побудили к пересмотру протоколов безопасности. В декабре OpenAI обновила свои Model Spec — руководство по поведению ИИ, — специально касаясь взаимодействия с пользователями до 18 лет в критических ситуациях.
Как Работает Определение Возраста
Новая система ChatGPT оценивает возраст на основе поведенческих моделей и сигналов учетной записи. К ним относятся время использования, возраст учетной записи, долгосрочная активность и любые самостоятельно указанные данные о возрасте. Если модель определяет, что пользователь младше 18 лет, доступ к графическому насилию, изображениям членовредительства и откровенному ролевому контенту будет ограничен. Пользователи, которые изначально заявляют о себе как несовершеннолетние при создании учетной записи, автоматически подпадают под эти меры безопасности.
Для учетных записей, где возраст неясен, ChatGPT по умолчанию переключается на более безопасные настройки. Взрослые пользователи, ошибочно помеченные как несовершеннолетние, могут подтвердить свой возраст через Persona, сторонний сервис проверки личности, требующий отправку селфи.
Проблемы Конфиденциальности и Безопасности
Использование сторонней проверки вызывает опасения по поводу конфиденциальности. OpenAI не предоставила подробностей о том, как будут храниться отправленные документы, удостоверяющие личность, что вызывает осторожность, учитывая взлом Discord в 2025 году, в результате которого были обнародованы десятки тысяч документов, удостоверяющих личность, выданных государством. Это подчеркивает присущие риски, связанные с использованием внешних сервисов для проверки возраста.
OpenAI планирует со временем улучшать точность определения возраста, итеративно совершенствуя систему на основе данных, полученных в результате первоначального внедрения. Компания признает, что это непрерывный процесс.
Внедрение определения возраста является прямой реакцией на юридическое давление и растущие этические опасения, связанные с безопасностью ИИ. Ограничивая доступ к вредоносному контенту, OpenAI стремится смягчить потенциальные риски для уязвимых пользователей. Тем не менее, зависимость от сторонней проверки вводит новые уязвимости в системе безопасности, которые необходимо тщательно контролировать.
