Google отключил экспериментальные AI-обзоры для определенных медицинских запросов после сообщений о явно неверных и опасных советах, которые генерировались системой. Это решение последовало за публикацией в The Guardian, в которой были задокументированы случаи, когда AI предоставлял вводящую в заблуждение медицинскую информацию, включая потенциально смертельные рекомендации для пациентов с раком.
Недостоверные Медицинские Советы Вызвали Немедленную Негативную Реакцию
Наиболее тревожным примером, приведенным в расследовании The Guardian, стало то, что AI неверно посоветовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров, что противоречит общепринятым медицинским рекомендациям и может ускорить прогрессирование заболевания. Также сообщалось, что AI давал неточные данные о жизненно важных печеночных тестах, что приводило к потенциальной ошибочной диагностике у людей с тяжелыми заболеваниями печени.
Эти ошибки быстро вызвали критику со стороны медицинских экспертов, которые отметили реальные последствия такой дезинформации. AI был не просто несколько неточным ; он давал советы, которые могли напрямую навредить пациентам.
Ответ Google и Продолжающиеся Проблемы
Google отказался давать конкретные комментарии по поводу отключения AI-обзоров для медицинских запросов. Однако представитель компании, Дэвис Томпсон, защитил эту функцию, заявив, что «подавляющее большинство предоставляют точную информацию», и что неточности часто подтверждались существующими онлайн-источниками. Компания заявила, что работает над широкими улучшениями, одновременно применяя свои политики, когда это необходимо.
Это не единичный случай. AI-обзоры Google ранее генерировали странные и опасные предложения, включая рекомендацию клея в качестве начинки для пиццы и предложение людям есть камни. Эта функция также была предметом судебных разбирательств, что подчеркивает риски развертывания непроверенного AI-генерируемого контента для общественности.
Будущее AI-Поиска
Этот инцидент поднимает критические вопросы о готовности AI-поиска к обработке деликатных тем, таких как здравоохранение. В то время как AI может улучшить доступ к информации, риск генерации ложных или вводящих в заблуждение советов остается серьезной проблемой. Временное отключение Google этих обзоров говорит об осторожном подходе, но дальнейшая доработка и тщательное тестирование необходимы, прежде чем такие функции можно будет надежно интегрировать в основные результаты поиска.
Этот инцидент подчеркивает, что AI, хотя и мощный, еще не безупречен, особенно в областях, где точность имеет решающее значение для жизни и смерти.
