Google премахна част от своите автоматично генерирани здравни обобщения след разследване на британския вестник „Гардиън“. Проверката установи, че функцията AI Overviews, базирана на генеративен изкуствен интелект, предоставя подвеждаща медицинска информация, която може да застраши здравето на потребителите.
Рискове за здравето при чернодробни изследвания
Основният проблем е открит при търсения, свързани с чернодробни кръвни изследвания. Алгоритъмът на Google е представял специфични стойности като „нормални“, пренебрегвайки критични фактори като медицински контекст, възраст и пол. Според експерти подобни обобщения могат да подведат пациенти с тежки заболявания, че състоянието им е стабилно, и да ги възпрат от търсене на лекарска помощ.
В резултат на разкритията компанията преустанови показването на AI резюмета за конкретни заявки относно референтните стойности за чернодробна функция.
Реакции и официални позиции
От Британския тръст за чернодробни заболявания приветстваха мярката, но предупредиха, че системата остава уязвима. Проверки показват, че при лека промяна в начина на задаване на въпроса, изкуственият интелект продължава да генерира потенциално опасни отговори. Организацията подчертава, че тълкуването на медицински резултати е сложен процес, който не може да бъде сведен до просто сравнение на числа.
От своя страна Google заявиха, че подобряват системите си в случаите, когато липсва достатъчен контекст. Технологичната компания твърди, че AI обобщенията се появяват само при висока увереност в качеството на данните, но признава нуждата от постоянен преглед.
Проблемът с медицинското доверие
Експерти по информационна сигурност посочват, че премахването на отделни резултати не решава фундаменталния въпрос за надеждността на AI при здравни търсения. Те призовават търсачката по-ясно да насочва потребителите към проверени медицински източници и консултации с професионалисти, вместо да предлага синтезирани от алгоритъм заключения.
Все още няма коментари. Бъдете първи!