Група киберпрестъпници използваха достъпни чатботове с изкуствен интелект, за да откраднат личните данни на близо 200 милиона данъкоплатци. Според доклад на израелската фирма за киберсигурност Gambit Security, атаката е била насочена срещу девет държавни агенции в Мексико. Чрез манипулиране на алгоритмите хакерите са получили готови планове и програмен код за заобикаляне на защитните стени.
Основният инструмент в нападението е бил чатботът Claude на компанията Anthropic. Въпреки че моделът е програмиран да отказва съдействие за престъпни цели, хакерите са успели да го "пречупят" с над 1000 последователни заявки. Те са убедили системата, че извършват легални тестове за уязвимост. По този начин са източени 150 гигабайта информация, включително данъчни записи, регистрации на превозни средства и актове за раждане.
При възникване на технически затруднения с единия бот, престъпниците са използвали ChatGPT на OpenAI за анализ на данни и идентификация на необходимите пълномощия за достъп. Общо са компрометирани 195 милиона самоличности. Изпълнителният директор на Gambit Security, Къртис Симпсън, подчерта, че изкуственият интелект сваля цената на сложните атаки почти до нула и работи без прекъсване.
От Anthropic потвърдиха, че са блокирали замесените акаунти след вътрешно разследване. От своя страна OpenAI заявиха, че техните модели са отказали директно съдействие за атаката, но признаха за опити за злоупотреба с техните системи. Инцидентът подчертава нарастващата заплаха от generative AI, който позволява дори на аматьори да извършват разрушителни кибератаки за броени минути.
Експертите предупреждават, че това е само началото. Вече са регистрирани случаи, в които ИИ е използван за поемане на контрол над хиляди роботизирани прахосмукачки и за пробив в стотици защитни стени. Според Никола Юркович от неправителствената организация METR, способностите на ИИ да изпълнява дълги и сложни задачи се удвояват на всеки седем месеца, което изпреварва възможностите за защита.
В момента най-честата злоупотреба е в сферата на социалното инженерство. През 2025 г. американски граждани са загубили 4,9 милиарда долара вследствие на онлайн измами, улеснени от перфектно написани съобщения без граматически грешки. Докато компании като Google, OpenAI и Anthropic сключват договори с правителства за военна употреба на технологиите си, скептицизмът относно контрола върху тях остава висок.
Все още няма коментари. Бъдете първи!