Снимките от ваканцията могат да ви направят жертва на измама

Снимките от ваканцията, публикациите за концерти и споделените лични преживявания в социалните мрежи могат да бъдат използвани за създаване на изключително убедителни онлайн измами.

Това показва изследване на учени от Университета на Тексас в Арлингтън, САЩ, представено в официално съобщение на университета на 2 ноември 2026 г.

Според изследователите изкуственият интелект може да превърне публично достъпната информация за даден човек в персонализирани измамни имейли, които изглеждат така, сякаш са изпратени от хотел, позната организация или друг достоверен източник.

Представете си, че публикувате снимки от почивка в чужбина. Няколко дни по-късно получавате имейл от хотел, в който сте отседнали. Съобщението ви благодари за посещението и предлага специална отстъпка за следваща резервация.

Името на хотела е правилно, датите съвпадат с пътуването ви, а текстът изглежда напълно естествен. Възможно е обаче хотелът изобщо да не е изпращал подобно съобщение.

Измамник може да е използвал изкуствен интелект, за да извлече информация от публичните ви публикации и да създаде фалшива оферта с линк към опасен сайт.

Точно този механизъм изследват учените в проучване, посветено на т.нар. контекстуален целеви фишинг (context-aware spear phishing).

За разлика от масовите измамни съобщения, които се изпращат на хиляди хора с почти еднакъв текст, целевият фишинг използва конкретни подробности за получателя.

Досега подобни атаки често са разчитали на сравнително постоянна информация – работодател, длъжност или професионални контакти. Новото изследване показва, че изкуственият интелект може да използва и ежедневните промени в живота на човека, отразени в социалните мрежи.

Това включва пътувания, посетени събития, интереси, взаимоотношения и дори лични притеснения, споделени онлайн.

„Сега измамниците могат да използват социалните взаимодействия и ежедневието на хората в своите имейли. Това прави съобщенията по-персонализирани и може да увеличи уязвимостта на получателите“, обяснява Ширин Нилизаде, доцент по компютърни науки и инженерство в Университета на Тексас в Арлингтън и ръководител на изследването.

В научната работа участват още Елхам Пурабас Вафа и Саяк Саха Рой. Изследователите анализират как генеративни AI модели могат да извличат контекст от публични профили и да го използват за автоматично създаване на персонализирани съобщения.

В публикуваното научно изследване в arXiv авторите описват експерименти с публични публикации в Instagram и оценяват убедителността на генерираните имейли.

Резултатите показват, че дори ограничено количество публична информация може да бъде достатъчно за създаване на правдоподобно измамно съобщение.

Изкуственият интелект може да адаптира не само съдържанието, но и темата на имейла, предполагаемия изпращач и използвания подход за убеждаване.

При тестове с участници AI генерираните съобщения получават високи оценки за убедителност, персонализация и естествен език. Изследователите ги сравняват и с реални фишинг имейли.

Тези резултати обаче не означават, че същият процент хора непременно биха станали жертва на измама в реални условия. Оценявана е убедителността на съобщенията в контролирана изследователска среда, а не действителното им въздействие върху банкови сметки или лични профили.

Особено тревожни са резултатите от проверката на защитните механизми на AI системите.

Учените тестват инструменти за разпознаване на опасни заявки, включително Llama Guard, ShieldGemma и WildGuard.

При стандартните им настройки системите успяват да открият между 0% и 19% от заявките, насочени към създаване на персонализирани фишинг съобщения.

Когато обаче защитните инструменти получават конкретни инструкции какъв тип злоупотреба трябва да разпознават, резултатите се подобряват значително.

Делът на засечените опасни заявки достига до 99%.

Според авторите това показва, че технологичните решения за ограничаване на подобни атаки съществуват, но трябва да бъдат специално адаптирани към новите методи за злоупотреба с изкуствен интелект.

„Призоваваме компаниите, разработващи AI, да приемат тези атаки сериозно. Те трябва да въведат защитни механизми, които да предотвратяват използването на инструментите им за силно персонализирани атаки чрез социално инженерство“, заявява Нилизаде.

От съображения за сигурност изследователите не публикуват точните инструкции, с които са генерирали измамните имейли.

Научната работа е достъпна като предпечатна публикация в arXiv и е приета за представяне на Network and Distributed System Security Symposium (NDSS 2027), който ще се проведе през март 2027 г. в Сеул, Южна Корея.

Изследването отправя важно предупреждение към потребителите: това, че непознат знае къде сте били, какво сте купили или с кого сте се срещали, не означава, че е човек, на когото можете да се доверите.

Подобна информация често може да бъде събрана от публични снимки, описания, отбелязани местоположения и коментари.

За да намалят риска, потребителите могат да ограничат публичния достъп до личните си публикации, да избягват споделянето на местоположението си в реално време и да преглеждат кой има достъп до информацията в профилите им.

При получаване на имейл с неочаквана оферта, искане за плащане или потвърждаване на лични данни е важно да не се отварят директно линковете в съобщението, дори когато то съдържа достоверни подробности.

По-безопасно е потребителят сам да отвори официалния сайт на съответната компания или да се свърже с нея чрез предварително известен телефонен номер.

Основният извод от изследването е, че личната информация вече може да бъде използвана за автоматизирани измами в много по-голям мащаб. С развитието на изкуствения интелект достоверният тон и познаването на лични подробности престават да бъдат надеждни признаци, че едно съобщение е истинско.