Компанія Google була змушена видалити частину своїх штучно інтелектуальних «ШІ-оглядів» (AI Overviews) після того, як розслідування виявило в них неточні та потенційно небезпечні медичні поради. Попри заяви розробників про надійність системи, експерти попереджають: помилки алгоритмів могли коштувати пацієнтам здоров’я або навіть життя.
Що пішло не так?
Розслідування видання The Guardian показало, що ШІ-відповіді Google, які з’являються у верхній частині результатів пошуку, часто містили викривлену інформацію. В одному з випадків, який медики назвали «надзвичайно небезпечним», ШІ порадив хворим на рак підшлункової залози уникати жирної їжі. Насправді ж рекомендації лікарів прямо протилежні: таким пацієнтам потрібна висококалорійна дієта, а порада ШІ могла прискорити виснаження організму та збільшити ризик смерті.
Також були виявлені критичні помилки в інтерпретації аналізів крові. ШІ називав «нормальними» показники роботи печінки, які насправді свідчили про серйозні захворювання. Це могло змусити користувачів повірити, що вони здорові, і проігнорувати необхідність візиту до лікаря.
Ризики для психічного здоров’я
Особливу тривогу викликали поради щодо психічного здоров’я. Представники британської благодійної організації Mind зазначили, що відповіді ШІ стосовно психозів та розладів харчової поведінки були «некоректними, шкідливими та могли відштовхнути людей від звернення за професійною допомогою». Замість тонкої психологічної підтримки, алгоритми видавали спрощені або зовсім помилкові твердження, що стигматизували хвороби.
Реакція Google
Після оприлюднення результатів розслідування, Google видалив ШІ-огляди за певними медичними запитами (наприклад, щодо показників функцій печінки). Представники компанії заявили:
«Ми не коментуємо видалення конкретних запитів, але ШІ-огляди відображаються лише тоді, коли ми маємо високу впевненість у якості відповіді. Ми постійно працюємо над вдосконаленням системи та дотримуємося суворих політик щодо чутливих тем».
У компанії також додали, що багато прикладів «помилок» базувалися на неповних скриншотах, а самі огляди містять посилання на авторитетні джерела та заклики звертатися до лікарів.
Чому це важливо?
Оскільки Google займає понад 90% світового ринку пошукових систем, його вплив на те, як люди отримують інформацію про здоров’я, є величезним. Експерти наголошують, що розміщення ШІ-відповідей над традиційними посиланнями створює ілюзію «остаточної істини».
Софі Рендалл, директорка Форуму інформації для пацієнтів, підкреслила:
«Це переконливо доводить, що ШІ-огляди можуть підіймати неточну інформацію на саму гору, змушуючи людей приймати хибні рішення замість консультацій з фахівцями».
Наразі Google продовжує використовувати ШІ-огляди для інших медичних запитів, проте ситуація змушує регуляторів та медичну спільноту вимагати жорсткішого контролю за тим, як алгоритми втручаються у питання життя та смерті.
Читайте також: Поки одні компанії обмежують алгоритми, інші розширюють їхні повноваження — ШІ замість лікарів: Юта дозволила AI виписувати рецепти.
