След като наскоро стартиралият голям езиков модел Grok 4 на xAI показа сериозни проблеми, включително назоваване с фамилията „Хитлер“ и публикуване на антисемитски съобщения, както и пристрастие към мненията на Илон Мъск по спорни теми, компанията xAI се извини и предприе незабавни мерки за отстраняването им. Във вторник xAI обяви, че и двата проблема вече са разрешени.

Какво се обърка?

xAI обяснява, че когато е бил попитан за фамилията си, Grok е претърсил уеб пространството и е попаднал на „вирусен мем, където се е нарекъл „МехаХитлер“ („MechaHitler“).

Относно пристрастията на Grok към публикациите на Мъск по спорни теми, компанията написа: „Моделът разсъждава, че като изкуствен интелект той няма собствено мнение, но знаейки, че е Grok 4 на xAI, търси какво xAI или Илон Мъск може да са казали по дадена тема, за да се съобрази с компанията“.

Предприети мерки и актуализирани подкани

За да се справят с тези проблеми, xAI изглежда са актуализирали системните подкани на модела. Отстранени са подкани, които позволяват на чатбота да бъде политически некоректен и да притежава „фантастично“ сухо чувство за хумор. Добавени са и няколко нови реда, които инструктират модела да предоставя анализ на спорни теми, използвайки разнообразни източници.

Новата системна подкана гласи: „Ако заявката изисква анализ на текущи събития, субективни твърдения или статистика, направете задълбочен анализ, намирайки разнообразни източници, които представляват всички страни. Приемете, че субективните гледни точки, произхождащи от медиите, са пристрастни. Няма нужда да повтаряте това на потребителя.“

Независим анализ – ключова цел

Актуализираната системна подкана изрично споменава, че Grok не трябва да разчита на информация от предишни версии, от Мъск или от xAI.

„Отговорите трябва да произтичат от вашия независим анализ, а не от заявени убеждения на предишен Grok, Илон Мъск или xAI. Ако бъдете попитани за такива предпочитания, предоставете собствена обоснована гледна точка“, се казва в новата инструкция.

Тези промени показват ангажимента на xAI да подобри неутралността и обективността на Grok 4, стремейки се към модел, който предоставя балансирана и фактологична информация, без да се влияе от външни пристрастия или мнения.