Екипите за безопасност на социалната мрежа X започнаха спешно разследване на чатбота Grok, разработен от компанията xAI. Проверката е насочена към ролята на изкуствения интелект в генерирането на расистки и обидни публикации, съобщи Ройтерс, цитирайки информация на Sky News.
Според репортера на Sky News Роб Харис, алгоритъмът е създавал съдържание, изпълнено с омраза, в директен отговор на въпроси от потребители. Към момента официални представители на X и xAI не са коментирали случая.
Инцидентът се случва на фона на засилващ се глобален регулаторен натиск върху технологичните компании. Правителства и контролни органи настояват за въвеждането на по-строги предпазни механизми срещу разпространението на незаконни материали и сексуално експлицитно съдържание, генерирано от ИИ.
В началото на годината от xAI обявиха, че са въвели ограничения във функциите за редактиране на изображения. Платформата блокира възможността за създаване на кадри на хора в разголено облекло, но само в юрисдикции, където това е изрично забранено от закона. Компанията обаче не уточни списъка с държави, в които се прилагат тези рестрикции.
Случаят повдига нови въпроси относно етичните филтри на Grok и способността на компанията на Илон Мъск да модерира съдържанието, генерирано от нейните софтуерни продукти.
Все още няма коментари. Бъдете първи!