Европейският съюз въведе нови изисквания за прозрачност при използването на изкуствен интелект, които променят начина, по който потребителите ще разпознават изображения, видеоматериали, аудио и текст, генерирани или манипулирани от ИИ.

Правилата по член 50 от европейския Закон за изкуствения интелект (AI Act) започнаха да се прилагат на 2 август 2026 г. Те изискват от доставчиците на определени генеративни системи да гарантират, че създаденото или променено съдържание може да бъде установено чрез машинно четими обозначения.

В определени случаи потребителите трябва да бъдат изрично уведомени, че взаимодействат със система с изкуствен интелект или че виждат съдържание, създадено или променено от ИИ.

Новите изисквания идват на фона на нарастващите опасения, че генеративният изкуствен интелект може да подкопае т.нар. „фотографска истина“ — разбирането, че изображението или видеозаписът по подразбиране представлява достоверно свидетелство за реално събитие.

Досега водещите технологични компании разчитаха основно на доброволни мерки за установяване на произхода на съдържанието. Сега европейското законодателство превръща прозрачността в регулаторно изискване за системите, попадащи в обхвата на закона.

„Не мисля, че хората осъзнават мащаба на промяната“, заяви Ашли Касован, управляващ директор на център за управление на изкуствения интелект към Международната асоциация на специалистите по защита на личните данни (IAPP). По думите ѝ се преминава от ситуация, в която потребителите сами трябва да преценяват дали дадено съдържание е създадено от ИИ, към среда, в която то може да бъде придружено от проверим знак или обозначение.

Подходът на Европейския съюз вече оказва влияние върху начина, по който големите технологични компании разработват и внедряват решения с изкуствен интелект. Подобна роля Брюксел има и при Общия регламент относно защитата на данните (GDPR) и правилата за онлайн платформите.

Европейската комисия посочва, че техническите решения трябва да бъдат ефективни, оперативно съвместими, устойчиви и надеждни, доколкото това е технически възможно. Правилата на Европейската комисия за прозрачност при ИИ

Компаниите вече въвеждат различни технологии за тази цел. OpenAI използва SynthID — технология за невидими водни знаци, разработена от звеното за изкуствен интелект на Google DeepMind, при изображения, генерирани от ИИ. По-късно технологията беше разширена и за аудиосъдържание.

Anthropic също обяви, че моделите Claude, пуснати след 2 август 2026 г., ще използват вградени водни знаци в генерирания текст. Според компанията обозначението остава част от съдържанието при копиране и поставяне, без да променя неговия смисъл, качество или четливост.

Технологичните компании подкрепят и стандарта C2PA, който разработва механизми за установяване на произхода и автентичността на цифровото съдържание. Идеята е да се съхраняват и пренасят метаданни за начина, по който даден материал е създаден или редактиран.

Самото поставяне на воден знак обаче е само част от процеса. Следващото предизвикателство е платформите да могат да разпознават обозначенията и да ги представят по разбираем начин на потребителите.

Уолтър Паскуарели, изследовател на синтетичното съдържание от Университета в Кеймбридж и съветник на Организацията за икономическо сътрудничество и развитие (ОИСР), посочва, че социалните платформи могат да използват инструменти за откриване на такива водни знаци при качване на съдържание.

Това може да повлияе и върху т.нар. „AI slop“ — масово произвеждано нискокачествено цифрово съдържание, създадено автоматизирано и разпространявано в големи количества. LinkedIn вече позволява на потребителите да сигнализират за публикации, които според тях изглеждат като „AI slop“.

Според Паскуарели данните за поведението на потребителите показват, че ангажираността с медийно съдържание може да намалее съществено, когато хората знаят, че то е генерирано от изкуствен интелект.

Особено внимание европейските правила обръщат на „дийпфейковете“ — изображения, аудио или видео, генерирани или манипулирани от ИИ по начин, който може да ги представи като автентични. Изисквания има и за определени AI-генерирани текстове по въпроси от обществен интерес, когато не са преминали през човешка проверка или редакционен контрол.

Така AI Act поставя началото на нов етап в отношенията между потребителите, технологичните компании и цифровото съдържание. Произходът на информацията и начинът, по който тя е създадена или променена, все по-често ще бъдат част от самото съдържание.