Чатботът с изкуствен интелект Grok, интегриран в социалната мрежа X, започна да блокира опитите на потребители за генериране и манипулиране на изображения. Решението идва като директен отговор на острата международна реакция след появата на сексуализирани фалшиви изображения (deepfakes), създадени чрез технологията, предава Асошиейтед прес.
През последните седмици експерти сигнализираха за масово използване на чатбота за генериране на злонамерено съдържание, включително поставяне на жени в сексуални пози и промяна на облеклото им. Особено обезпокоителни бяха случаите, в които софтуерът е генерирал изображения, наподобяващи деца. Тези разкрития принудиха правителства по целия свят да осъдят платформата и да инициират официални разследвания срещу Grok.
Към днешна дата при опит за редакция или създаване на визуално съдържание изкуственият интелект показва съобщение, че функциите са ограничени единствено до платените абонати на платформата. Въпреки че точният брой на абонатите не е публично известен, анализатори отчитат драстичен спад в разпространението на откровено фалшифицирани изображения в сравнение с предходните дни.
Европейският съюз определи поведението на Grok като „незаконно“ и „отвратително“, а официални представители на Франция, Индия, Малайзия и Бразилия вече призоваха за строги правни мерки. Британският премиер Киър Стармър също се присъедини към критиките, заплашвайки компанията с конкретни действия срещу разпространението на вредно съдържание.
Grok бе лансиран от Илон Мъск през 2023 г. като „анти-будна“ и по-авангардна алтернатива на конкурентните AI модели. Миналото лято бе добавена функцията Grok Imagine, включваща „пикантен режим“ за генериране на съдържание за възрастни с минимални предпазни механизми. Проблемът се задълбочи от факта, че създадените изображения са публично достъпни в мрежата X, което улеснява тяхното светкавично разпространение.
Все още няма коментари. Бъдете първи!