Google telah menghapus ikhtisar eksperimental yang didukung AI untuk penelusuran medis tertentu menyusul laporan yang menghasilkan saran yang terbukti salah dan berbahaya. Keputusan ini diambil setelah The Guardian mengungkap kejadian di mana AI memberikan informasi kesehatan yang menyesatkan, termasuk rekomendasi yang berpotensi fatal bagi pasien kanker.
Nasihat Medis yang Palsu Menimbulkan Reaksi Langsung
Contoh paling mengkhawatirkan yang dikutip dalam investigasi The Guardian adalah AI Google yang secara keliru memberikan saran kepada penderita kanker pankreas untuk menghindari makanan berlemak tinggi – sebuah rekomendasi yang bertentangan dengan pedoman medis yang sudah ada dan dapat mempercepat perkembangan penyakit. AI juga dilaporkan memberikan rincian yang tidak akurat tentang tes fungsi hati yang vital, sehingga berpotensi menyebabkan kesalahan diagnosis bagi mereka yang memiliki kondisi hati yang parah.
Kesalahan ini dengan cepat menuai kritik dari para ahli medis, yang mencatat konsekuensi nyata dari kesalahan informasi tersebut. AI tidak hanya sedikit salah ; itu memberikan nasihat yang secara langsung dapat merugikan pasien.
Tanggapan Google dan Masalah yang Sedang Berlangsung
Google menolak berkomentar secara spesifik tentang penghapusan ikhtisar AI untuk pertanyaan medis. Namun, juru bicara Davis Thompson membela fitur tersebut, dengan menyatakan bahwa “sebagian besar memberikan informasi yang akurat” dan ketidakakuratan sering kali didukung oleh sumber online yang ada. Perusahaan mengaku sedang berupaya melakukan perbaikan secara luas sambil juga menegakkan kebijakannya bila diperlukan.
Ini bukanlah kejadian yang terisolasi. Tinjauan AI Google sebelumnya telah menghasilkan saran yang aneh dan berbahaya, termasuk merekomendasikan lem sebagai topping pizza dan menyarankan orang makan batu. Fitur ini juga menjadi subyek tantangan hukum, yang menyoroti risiko penyebaran konten buatan AI yang belum terverifikasi ke publik.
Masa Depan Penelusuran yang Didukung AI
Insiden ini menimbulkan pertanyaan kritis mengenai kesiapan pencarian bertenaga AI untuk menangani topik sensitif seperti layanan kesehatan. Meskipun AI mempunyai potensi untuk meningkatkan akses informasi, risiko menghasilkan saran yang salah atau menyesatkan masih menjadi kekhawatiran yang signifikan. Penghapusan sementara ikhtisar ini oleh Google menunjukkan pendekatan yang hati-hati, namun penyempurnaan lebih lanjut dan pengujian yang ketat sangat penting sebelum fitur tersebut dapat diintegrasikan secara andal ke dalam hasil penelusuran umum.
Insiden ini menggarisbawahi bahwa AI, meskipun kuat, namun tetap tidak bisa salah, terutama dalam bidang dimana akurasi adalah masalah hidup dan mati.
