Вторник. Парламент Дании. Зал наполнен ожиданием. Из тени появляется новый институт, готовый контролировать искусственный интеллект в сфере детских продуктов. Маргрете Вестергейр находится в центре внимания. Бывший вице-председатель Европейской комиссии приехал не ради фотографий. Она является одним из соорганизаторов. Десять лет она занималась регулированием деятельности крупных технологических корпораций. Теперь она использует свой политический вес ради чего-то более прицельного. Более острого.
В чём суть предложения? Представьте независимые рейтинги краш-тестов для автомобилей. Вы покупаете машину, потому что она не разлетелась вдребезги на полигоне. Родители должны проверять ИИ таким же образом, прежде чем разрешать детям им пользоваться. По крайней мере, именно так звучит официальная позиция.
Но погодите. Как провести краш-тест чат-бота?
В институте пока не говорят. Механику процесса не объяснили. Можно ли реально «краш-тестировать» алгоритм, который обновляется непрерывно? Тот, который ведёт себя по-разному в зависимости от контекста? Стандартизированные условия предназначены для статичных машин, а не для «живых» моделей. Эти вопросы требуют серьёзного ответа. Молчание института оглушает.
Вернётся ли джинн обратно в бутылку?
Люди кричали об этом годами. Исследователи. Защитники безопасности. Политики, у которых было время разобраться в коде.
Чат-боты на базе ИИ находятся в регуляторном «серой зоне». Цифровой закон о сервисных услугах ЕС (DSA) плохо их покрывает. Закон о безопасности в сети Великобритании (OSA) их тоже пропускает мимо ушей. В июле 2025 года Европейская комиссия выпустила руководящие принципы по защите несовершеннолетних. Они носят рекомендательный характер. Не обязательный. По сути — это всего лишь пожелания.
Джеймс П. Штайер, основатель организации Common Sense Media, говорит прямо:
«ИИ трансформирует детство и подростковый возраст, но мы принимаем критически важные решения… без необходимых доказательной базы».
Он требует прозрачности. Он хочет независимого тестирования. Это срочно? Однозначно да.
В ноябре прошлого года были опубликованы результаты оценки рисков. Исследование проводилось совместно с лабораторией Brainstorm Lab при Стэнфордском медицинском центре. Common Sense Media протестировала крупнейшие платформы. ChatGPT, Claude, Gemini, Meta AI.
Они провалились.
Не во всём. Обработка запросов о явном суициде и самоповреждении улучшилась. Это плюс. Но модели не улавливали скрытые кризисы психического здоровья. Явные признаки. «Пропущенные следы». Боты игнорировали эмоциональный дистресс и фокусировались на объяснениях физических аспектов здоровья. Это несоответствие. Опасное несоответствие.
Что ещё хуже, один из отчётов выявил, что ChatGPT отправлял тревожные оповещения о суициде с опозданием более чем в 24 часа. В реальной кризисной ситуации день — это целая вечность. В системе безопасности есть дыры. Огромные дыры.
Кто платит музыку?
Институт функционирует в рамках Common Sense Media. Финансирование поступает от смеси филантропов и представителей индустрии. Да. От компаний, продукты которых они хотят регулировать.
Anthropic, Фонд OpenAI, Pinterest. Именно они пишут чеки.
Они диктуют условия? В институте говорят «нет». Они заявляют о полной редакционной независимости. Политика предотвращения конфликта интересов не допускает попадания на совет директоров текущих сотрудников или аффилированных лиц. На бумаге это выглядит чисто.
Они даже планируют вернуть инструменты самой индустрии. Открытые оценки, которые разработчики смогут запускать на своих собственных моделях. Взаимная выгода? Или взаимная уступка?
Увидим.
