ChatGPT Search, AI-захранвана търсачка, която бе пусната този месец, може да бъде заблудена да генерира напълно подвеждащи резюмета, установи британският вестник The Guardian.

Функцията за търсене на ChatGPT е предназначена да ускори сърфирането в интернет, като например обобщава отзивите за продукти от уеб страница.

Но The Guardian откри, че може да накара ChatGPT да игнорира негативните отзиви и да генерира "изцяло положителни" резюмета чрез вмъкване на скрит текст в уебсайтове, които е създал. ChatGPT Search също може да бъде накаран да извежда злонамерен код с помощта на този метод.

Такива атаки със скрит текст са известен риск за големите езикови модели, но това изглежда е първият път, когато е демонстриран върху жив AI-захранван продукт за търсене. Google, лидерът в търсенето, има повече опит в справянето с подобни проблеми, отбелязва The Guardian.

OpenAI не коментира конкретно този инцидент, когато TechCrunch се свърза с тях, но заяви, че използва различни методи за блокиране на злонамерени уебсайтове и непрекъснато се подобрява.