Meta пуска AI срещу скрити опасни реклами

Meta започва да внедрява нови инструменти с изкуствен интелект за откриване на реклами и профили, които прикрито могат да насочват потребителите извън Facebook и Instagram към незаконни материали, свързани със сексуална експлоатация на деца.

Компанията разширява проверките отвъд съдържанието на самата реклама, като анализира и външните сайтове, към които тя води.

Новите мерки бяха представени от Meta като част от усилията на компанията да противодейства на т.нар. covert redirection – прикрито пренасочване.

При тази схема дадена реклама може сама по себе си да изглежда безобидна и да не съдържа материал, нарушаващ правилата. След кликване обаче потребителят може да бъде отведен до външен сайт или друга онлайн услуга, където се намира незаконно или вредно съдържание.

Това създава сериозен проблем за традиционните системи за модериране, защото проверката само на изображението, видеото или текста на рекламата може да не открие действителната ѝ цел.

Според информация, цитирана от TechCrunch, Meta използва нов голям езиков модел (LLM), който трябва да помага при откриването на подобни опити за заобикаляне на системите за безопасност.

Компанията посочва, че хората, разпространяващи незаконно съдържание, непрекъснато променят методите си, за да избегнат автоматичното засичане. Затова новият подход няма да анализира само това, което потребителят вижда във Facebook или Instagram, а и крайната дестинация зад рекламните връзки.

Ако системите установят нарушение, Meta ще може да предприема действия както срещу външните ресурси и домейни, така и срещу свързаните с тях профили.

Мащабът на проблема личи и от данните на компанията.

През първата половина на 2026 г. Meta е предприела действия срещу 33,2 милиона материала във Facebook и Instagram, класифицирани от компанията като съдържание, свързано със сексуална експлоатация на деца.

Според Meta над 97% от тях са били открити от собствените ѝ системи, преди да бъдат докладвани от потребители.

Особено голям обем е отчетен в Индия. Там компанията посочва, че е предприела действия срещу 5,3 милиона материала, като повече от 98% са били засечени проактивно от системите ѝ.

Тези числа представляват действия, отчетени от самата Meta, и не трябва автоматично да се тълкуват като същия брой отделни престъпления, извършители или уникални изображения. Един и същ материал например може да бъде публикуван или споделян многократно.

Новият модел за анализ на рекламните връзки е само една от няколкото AI системи, които компанията въвежда.

Meta добавя и допълнително сканиране с изкуствен интелект, чиято задача е да открива материали, които по-ранните системи за безопасност може да са пропуснали.

Компанията планира да включва нови сигнали в моделите си, докато събира повече информация за начина, по който действат мрежите, опитващи се да разпространяват незаконно съдържание.

Друг интересен елемент е използването на AI агент, който ще тества самите системи за безопасност на Meta.

Вместо да търси само реални нарушения, този агент трябва да проверява защитните механизми и да открива потенциални слабости, които биха могли да бъдат използвани за тяхното заобикаляне. Подходът наподобява автоматизирано „red teaming“ тестване – системата се опитва да намери пропуски, преди те да бъдат експлоатирани.

Компанията подобрява и технологиите си за откриване на повторно появяващи се нарушители – хора или организации, чиито профили са били премахнати, но впоследствие се връщат във Facebook или Instagram чрез нови акаунти.

Това е особено важна част от противодействието на организирани мрежи, тъй като премахването на отделен профил не е достатъчно, ако зад него стои човек или група, способни бързо да създадат нови акаунти.

Новите инструменти показват и промяна в начина, по който платформите използват генеративния AI за модериране. Големите езикови модели вече не се използват единствено за чатботове и създаване на съдържание, а и за разпознаване на контекст, модели на поведение и опити за прикриване на нарушения.

Това обаче не означава, че AI може самостоятелно да реши проблема. Автоматизираните системи могат да допускат както пропуски, така и погрешни сигнали, а борбата със сексуалната експлоатация на деца изисква съчетание от технологични средства, човешка проверка, сътрудничество с компетентните органи и постоянна адаптация към новите методи за заобикаляне на защитите.

За Meta основното предизвикателство вече е не само да открива забранено съдържание във Facebook и Instagram, а да разпознава кога собствените ѝ платформи се използват като вход към незаконни ресурси, разположени другаде в интернет.