Штучний інтелект Google поширює небезпечні медичні поради

Здатна створювати медичні огляди і давати відповідні поради функція AI Overviews від американської технологічної компанії Google поширює неправдиву інформацію, яка вводить в оману, яка може нашкодити здоров’ю людей.

Про це повідомила британська газета The Guardian.

Згідно з результатами проведеного виданням дослідження, частина підготовлюваних цим штучним інтелектом (ШІ) зведень містить неправдиву інформацію практично з перших рядків. Експерти, яким було запропоновано оцінити створені AI Overviews матеріали, підтвердили, що вони є повною протилежністю до рекомендацій лікарів.

“В одному випадку Google помилково радив людям з раком підшлункової залози уникати їжі з високим вмістом жирів. <…> В іншому <…> компанія надала неправдиву інформацію про важливі тести функціонування печінки, що може змусити людей із серйозним захворюванням печінки помилково думати, що вони здорові”, – йдеться у матеріалі.

Наголошується, що представники Google, яким надали видані їх розробкою тексти, заявили, що там були посилання на “відомі авторитетні джерела та рекомендації звернутися до експертів за консультацією”. Там же зазначили, що переважна більшість їхніх оглядів “була фактичною і корисною”.

“Якщо AI Overviews неправильно інтерпретує веб-контент або упускає контекст, вона (компанія – ред.) вживатиме заходів відповідно до своєї політики”, – наводить газета їхні слова.