Google не показує медичні застереження в оглядах ШІ – експерти попереджають про ризики – новини технологій

Застереження з’являються лише після натискання кнопки “Показати більше” та маленьким шрифтом.

Після розслідування, проведеного The Guardian минулого місяця, компанія Google видалила з результатів пошуку частину медичних оглядів, створених штучним інтелектом, які містили потенційно небезпечну та оманливу інформацію про результати аналізів. Однак нове розслідування The Guardian виявило іншу проблему — Google ставить користувачів під загрозу, зменшуючи значущість застережень щодо медичних рекомендацій, згенерованих штучним інтелектом.

Застереження з’являється лише після натискання кнопки “Показати більше” під зведенням, і навіть тоді воно розміщене внизу сторінки меншим і світлішим шрифтом. У тексті попередження зазначено: “Інформація призначена лише для довідки. Щоб отримати медичну консультацію або встановити діагноз, зверніться до спеціаліста. Відповіді ШІ можуть містити помилки”.

Приклад відповіді Google AI.Скріншот ZN.UA

У Google зазначили, що огляди ШІ “заохочують людей звертатися за професійною медичною допомогою” і згадують про це в тексті, “коли це доречно”. Проте компанія не заперечила, що під час первинної демонстрації медичної поради окреме застереження не відображається.

Експерти з етики штучного інтелекту та представники пацієнтських організацій висловили стурбованість. Вони підкреслюють, що застереження повинні бути помітними з самого початку, адже йдеться про чутливу сферу охорони здоров’я.

Пет Патаранутапорн, дослідник Массачусетського технологічного інституту, зазначив: “Відсутність застережень під час першого надання користувачам медичної інформації створює кілька критичних небезпек”. За його словами, навіть найсучасніші моделі ШІ можуть генерувати дезінформацію або надавати відповіді, орієнтовані на задоволення користувача, а не на точність.

“Застереження слугують вирішальним моментом втручання. Вони порушують цю автоматичну довіру та спонукають користувачів більш критично ставитися до отриманої інформації”, — додав дослідник.

Професорка Лондонського університету королеви Марії Джина Нефф зазначила, що “проблема з неналежними оглядами ШІ є свідомим рішенням”. За її словами, огляди створені для швидкості, а не точності, що може бути небезпечним у сфері медичної інформації.

Соналі Шарма з Центру штучного інтелекту в медицині та візуалізації Стенфордського університету звернула увагу на розміщення оглядів у верхній частині сторінки. За її словами, це створює ілюзію повної відповіді та може зменшувати мотивацію користувачів шукати додаткову інформацію чи переглядати застереження.

“Ми знаємо, що дезінформація — це реальна проблема, але коли йдеться про дезінформацію щодо здоров’я, вона може бути дуже небезпечною”, — заявив Том Бішоп з благодійної організації Anthony Nolan та додав, що попередження має бути розміщене в самому верху і таким шрифтом, як основний текст.

У січні The Guardian вже повідомляло про ризики, пов’язані з неправдивою та оманливою інформацією про здоров’я в оглядах Google AI. Після публікації компанія видалила огляди ШІ для частини медичних запитів, але не для всіх.