Google вимкнув експериментальні перевірки ШІ для певних медичних запитів після повідомлень про явно неправильні та небезпечні поради, які генерує система. Рішення прийнято після звіту в The Guardian, який задокументував випадки, коли штучний інтелект надавав оманливу медичну інформацію, включаючи потенційно смертельні поради хворим на рак.
Хибна медична порада викликає негайну негативну реакцію
Найбільш тривожним прикладом, наведеним у розслідуванні The Guardian, було те, що штучний інтелект неправильно порадив людям з раком підшлункової залози уникати їжі з високим вмістом жиру, що суперечить загальноприйнятим медичним порадам і може прискорити прогресування захворювання. Повідомлялося також, що AI надає неточні дані щодо життєво важливих печінкових тестів, що призводить до потенційної помилкової діагностики у людей із серйозними захворюваннями печінки.
Ці помилки швидко викликали критику з боку медичних експертів, які відзначили реальні наслідки такої дезінформації. ШІ був не просто дещо неточним ; він давав поради, які могли безпосередньо зашкодити пацієнтам.
Відповідь Google і поточні проблеми
Google відмовився конкретно коментувати вимкнення перевірки AI для медичних запитів. Однак речник компанії Девіс Томпсон захистив цю функцію, заявивши, що «переважна більшість надає точну інформацію» і що неточності часто підтверджуються існуючими онлайн-джерелами. Компанія заявила, що працює над значними вдосконаленнями, одночасно дотримуючись своєї політики, коли це необхідно.
Це не поодинокий випадок. Огляди ШІ раніше генерували дивні та небезпечні пропозиції, зокрема рекомендували клей як начинку для піци та пропонували людям їсти каміння. Ця функція також була предметом судового розгляду, підкреслюючи ризики розгортання неперевіреного контенту, створеного ШІ, для громадськості.
Майбутнє пошуку AI
Цей інцидент піднімає критичні питання щодо готовності пошуку ШІ працювати з такими делікатними темами, як охорона здоров’я. Хоча штучний інтелект може покращити доступ до інформації, ризик отримання неправдивих або оманливих порад залишається серйозним. Тимчасове вимкнення Google цих оглядів свідчить про обережний підхід, але необхідні подальші вдосконалення та ретельне тестування, перш ніж такі функції можна буде надійно інтегрувати в основні результати пошуку.
Цей інцидент підкреслює, що штучний інтелект, хоч і потужний, ще не бездоганний, особливо в тих сферах, де точність є критичною для життя та смерті.
