Използването на чатботове с изкуствен интелект (ИИ) носи множество предимства, но един от основните им недостатъци е склонността им да „халюцинират“ – термин в индустрията, описващ измислянето на информация, вместо признаването на несигурност.

Според последни изследвания този проблем е дълбоко вкоренен в начина, по който функционират тези системи, и вероятно е неизбежен.

Изследователи от OpenAI и Технологичния институт на Джорджия в САЩ отбелязват в статия, публикувана през септември, че „подобно на студенти, изправени пред трудни изпитни въпроси, големите езикови модели понякога правят предположения при несигурност, като създават правдоподобни, но неверни твърдения, вместо да признаят, че не знаят отговора“.

Това поведение се дължи на начина, по който тези модели се обучават и оценяват – процеси, които насърчават прави предположения, вместо да изразяват несигурност.

Според анализатори, цитирани от научното списание Nature, е „практически невъзможно“ напълно да се елиминират халюцинациите. Особено предизвикателство е предотвратяването на случаи, в които ИИ измисля цитати или източници, сякаш изникнали от нищото.

Освен това изследователите смятат, че премахването на „измамите“ – ситуации, в които чатбот твърди, че е изпълнил задача, която всъщност не е извършил – също представлява значителна трудност.

Тианян Сю от университета Пърдю отбелязва, че броят на халюцинациите е намалял до ниво, което може да се счита за „приемливо за потребителите“.

Въпреки това, според Nature, халюцинациите са резултат от фундаменталния начин, по който работят големите езикови модели. Тези системи са „статистически машини“, които правят прогнози, основавайки се на научени асоциации. Този подход ги кара да генерират отговори, които звучат правдоподобно, но понякога са неверни.

В заключение, халюцинациите на ИИ не са просто техническа грешка, а присъща характеристика на текущите езикови модели. Докато технологията напредва, предизвикателството ще бъде да се балансира между правдоподобността на отговорите и тяхната точност, за да се увеличи доверието на потребителите.