Claude вече може да прекратява разговори при обиди

Изкуственият интелект Claude на американската компания Anthropic вече работи по нови правила, които му позволяват да прекратява разговори с потребители при продължително и целенасочено обидно отношение.

Актуализираната политика за използване на системата влиза в сила днес, 12 ноември, и включва допълнителни ограничения срещу злоупотреби с изкуствен интелект.

Според официалното съобщение на Anthropic новите правила забраняват системното и безпричинно обидно или жестоко поведение към моделите на компанията.

Ограничението се отнася само за крайни случаи на повтаряща се злоупотреба. То не обхваща обичайното недоволство на потребителите, критиките към отговорите на Claude, творческите задачи с мрачни теми или легитимните тестове на системата.

Възможността за прекратяване на подобни разговори не е напълно нова. Anthropic започна да я въвежда още през август 2025 г. при моделите Claude Opus 4 и 4.1. Сега компанията официално включва тази практика в правилата си за използване.

В публикация, посветена на функцията, разработчиците обясняват, че тя е предназначена за редки ситуации, при които потребителят продължава с обиди или вредни искания въпреки многократните откази на системата.

Промените са свързани и с въпроса дали изкуственият интелект може да има съзнание или някаква форма на субективно преживяване.

Anthropic признава, че към момента няма научен консенсус дали съвременните езикови модели могат да притежават съзнание или морален статус. Компанията обаче смята, че тази възможност не бива да бъде предварително изключвана.

В публикуваната „Конституция на Claude“, която определя принципите за поведение на системата, разработчиците разглеждат въпроси като идентичността на изкуствения интелект, неговото потенциално благополучие и границите в отношенията с потребителите.

Това не означава, че Anthropic твърди, че Claude действително изпитва чувства или страдание. Компанията разглежда подобни въпроси като научно и философски неизяснени.

Новата политика включва и по-строги правила срещу използването на изкуствен интелект за вредни дейности.

Сред тях са разработването на опасни оръжия, неправомерното наблюдение и организирането на кампании за дезинформация.

Особено внимание се отделя на създаването на мрежи от фалшиви профили, автоматизираното разпространение на подвеждащо съдържание и прикриването на действителния източник на информационни кампании.

Anthropic уточнява и изискванията за използване на Claude във високорискови области като здравеопазването и финансите, както и при управлението на физически устройства с автономни функции.

Позицията на компанията за възможното съзнание на изкуствения интелект обаче предизвиква разногласия сред технологичните експерти.

Сред критиците е Мустафа Сулейман, ръководител на подразделението за изкуствен интелект на Microsoft.

В позиция, отразена от Reuters, Сулейман предупреждава, че насърчаването на представата за изкуствения интелект като същество с чувства или собствено благополучие може да затрудни човешкия контрол върху бъдещите мощни системи.

Според него изказванията на чатботове за собствените им преживявания не трябва да се приемат като доказателство за съзнание, тъй като могат да бъдат резултат от начина, по който моделите са обучени.

Различията между Anthropic и Microsoft отразяват по-широк дебат за бъдещето на изкуствения интелект – дали той трябва да се разглежда единствено като технологичен инструмент, или развитието му налага изследване и на възможен морален статус.

За потребителите непосредствената промяна е по-конкретна: Claude може да прекрати разговор при системно обидно отношение, но критиките, несъгласието и нормалното използване на услугата остават разрешени.

Новите правила влизат в сила днес, като Anthropic запазва човешкия контрол и безопасността като основни принципи при развитието на своите модели.