Журналісти виявили низку випадків неточної медичної інформації в сервісі AI Overviews після того, як медичні організації, благодійні фонди та фахівці висловили занепокоєння достовірністю таких даних. За їхніми словами, деякі поради можуть вводити користувачів в оману та становити загрозу для життя.
Зокрема, в одному з випадків Google рекомендував людям із раком підшлункової залози уникати продуктів з високим вмістом жиру. Медичні експерти наголосили, що така порада є помилковою і суперечить клінічним рекомендаціям, адже може підвищити ризик летальних наслідків для пацієнтів.
В іншому прикладі AI Overviews надали некоректну інформацію про тести функції печінки. Через це люди із серйозними захворюваннями могли помилково вважати себе здоровими та не звертатися по медичну допомогу.
Також було зафіксовано «абсолютно невірні» відповіді щодо онкологічних обстежень у жінок, які, за словами експертів, здатні призвести до ігнорування небезпечних симптомів.
Окрему стурбованість викликали результати пошуку про психічні розлади: деякі поради щодо психозу та розладів харчової поведінки назвали «неправильними, шкідливими або такими, що можуть відштовхувати людей від звернення за допомогою».
У відповідь компанія Google заявила, що переважна більшість оглядів AI є точними та корисними, а компанія постійно інвестує в підвищення якості результатів пошуку, особливо в темах, пов’язаних зі здоров’ям.