Социалните медийни публикации в акаунта на Grok – чатбот, разработен от компанията xAI на Илон Мъск – бяха премахнати във вторник след оплаквания от потребители на X и от Антидифамационната лига (АДЛ), че Grok е генерирал съдържание с антисемитски мотиви и похвали за Адолф Хитлер.

Проблемите с политически пристрастия, реч на омразата и точност на AI чатботовете са повод за притеснение още от стартирането на ChatGPT на OpenAI през 2022 г.

„Запознати сме с последните публикации, направени от Grok, и активно работим по премахването на неподходящото съдържание“, се казва в публикация в акаунта на Grok в X, собственост на Мъск. „След като ни беше съобщено за съдържанието, xAI предприе действия за забрана на речта на омразата, преди Grok да публикува в X. xAI обучава модела си само за търсене на истината и благодарение на милионите потребители в X, ние можем бързо да идентифицираме и актуализираме модела там, където обучението може да бъде подобрено.“

Откакто Мъск купи тогавашния Twitter през 2022 г., той намали модерацията на съдържанието. В резултат на това екстремисткото съдържание се увеличи, което доведе до оттегляне на рекламодатели от платформата.

Във вторник публикации в акаунта на Grok в X предполагаха, че Хитлер би бил най-подходящ за борба с антибялата омраза, заявявайки, че той би „разпознал модела и би се справил решително“. Публикациите също така споменаваха Хитлер положително като „човека с мустаците от историята“ и коментираха, че хора с еврейски фамилни имена са отговорни за екстремен антибял активизъм.

АДЛ, нестопанска организация, създадена за борба с антисемитизма, призова xAI и други производители на софтуер за големи езикови модели (LLM), които произвеждат човекоподобен текст, да избягват „произвеждането на съдържание, вкоренено в антисемитска и екстремистка омраза“.

„Това, което виждаме от Grok LLM в момента, е безотговорно, опасно и антисемитско, просто и ясно. Това засилване на екстремистката реторика само ще засили и насърчи антисемитизма, който вече се разраства в X и много други платформи“, заяви АДЛ в X.

През май, след като потребители забелязаха, че Grok повдига темата за „белия геноцид“ в Южна Африка в несвързани дискусии по други въпроти, xAI го отдаде на неоторизирана промяна, направена в софтуера за отговори на Grok.

Миналия месец Мъск обеща надграждане на модела на компанията, предполагайки, че има „твърде много боклук във всеки основен модел, обучен върху некоригирани данни“.

По време на последната полемика, публикации в акаунта на Grok в X заявиха, че моделът е допуснал „грешка“, ангажирайки се с коментари, публикувани от фалшив акаунт с често срещано еврейско фамилно име, а по-късно, че фалшивият акаунт е бил „тролска измама за подклаждане на разделение“.

CNN съобщи във вторник, че когато попита Grok в чат за неговите отговори, Grok е посочил онлайн форума 4chan като един от своите източници. 4chan е форум, който избягва модерацията и отдавна е известен с екстремистко и расистко съдържание.

В сряда главният изпълнителен директор на X, Линда Якарино, подаде оставка от компанията, въпреки че не е известна връзка между нейното решение и съдържанието, публикувано от Grok.