Губернаторът на Калифорния Гавин Нюсъм издаде на 18 септември указ, с който нареди да бъде ускорено въвеждането на независим контрол върху най-мощните системи с изкуствен интелект и да бъде разработен модел за т.нар. „kill switch“ – авариен механизъм, позволяващ спирането на определени AI модели при опасно поведение или извънредна ситуация.

Нюсъм съобщи за решението в X, като едновременно с това отправи остра критика към президента Доналд Тръмп и Конгреса на САЩ, обвинявайки федералните власти, че не предприемат достатъчно действия за регулиране на рисковете от бързо развиващите се AI системи.

„Току-що издадох указ за ускоряване на въвеждането на мерки за безопасност и за напредване на създаването на „авариен прекъсвач“ в най-напредналите програми с AI“, написа губернаторът.

Важно уточнение е, че Калифорния не въвежда незабавно задължителен бутон за изключване на AI.

Указът поставя началото на процедура, при която експертна група трябва да разработи конкретни препоръки за промени в щатското законодателство. Сред възможните мерки е изискването разработчиците на т.нар. frontier AI модели да разполагат с механизъм за аварийното им спиране.

Според администрацията на Нюсъм ефективността на подобен механизъм би трябвало да бъде проверявана периодично от независима организация, а не само от компанията, разработила съответния модел.

Експертите трябва да представят предложенията си до два месеца. Щатската Government Operations Agency ще работи по тях съвместно с California Governor’s Office of Emergency Services.

Обсъжда се и по-широк модел на външен контрол.

Една от идеите е независими организации за проверка да имат представители директно в лабораториите на компаниите, разработващи най-мощните AI системи, където да извършват редовни оценки и одити.

Другото предложение е документите, които компаниите подават за своите мерки за безопасност, оценки на риска и потенциални критични инциденти, също да преминават през независима проверка.

Калифорния възнамерява и да разшири определението за инцидент, който задължително трябва да бъде докладван, така че то да обхваща случаи на загуба на контрол върху AI система.

Новият указ идва на фона на засилен дебат в технологичния сектор за поведението на все по-автономни AI агенти и способността им да извършват сложни действия без постоянна човешка намеса.

Опасенията включват потенциално използване на такива системи за кибератаки, разработване на биологични или химически заплахи, измами или атаки срещу критична инфраструктура.

Това обаче са категории на риск, които регулаторите се опитват да предотвратят, а не доказателство, че съвременните AI модели вече могат самостоятелно да причинят всички подобни сценарии.

Идеята за „kill switch“ също не е нова за Калифорния.

През 2024 г. Нюсъм наложи вето на законопроекта SB 1047, който предвиждаше част от най-големите разработчици на AI да бъдат задължени да преминават през външни проверки и да разполагат с механизъм за аварийно изключване.

Тогава губернаторът предупреди, че предложеният подход може да ограничи развитието на технологията, без непременно да се концентрира върху системите с най-висок реален риск.

Две години по-късно част от същите идеи отново са на масата.

Междувременно Калифорния изгради значително по-широка регулаторна рамка.

През 2025 г. Нюсъм подписа SB 53 – Transparency in Frontier Artificial Intelligence Act, който задължи разработчиците на най-мощните модели да публикуват рамките си за безопасност, да оценяват рисковете от катастрофални инциденти и да докладват определени критични случаи на щатските власти.

На 9 септември 2026 г. губернаторът подписа още два закона – SB 813 и AB 1405.

Първият създава рамка за сертифициране на независими организации, които могат да проверяват AI системи и модели за рискове и безопасност.

Вторият създава регистър на AI одиторите в Калифорния и въвежда стандарти за тяхната независимост, прозрачност и професионална работа.

Новият указ нарежда именно прилагането на тези два закона да бъде ускорено.

Нюсъм използва решението и за директен политически сблъсък с администрацията на Доналд Тръмп.

Губернаторът твърди, че Вашингтон не е създал достатъчна федерална система за надзор и отчетност на най-мощните AI модели и призова Конгреса и президента да разгледат калифорнийските правила като възможна национална основа.

Администрацията на Тръмп, от своя страна, поставя значителен акцент върху ускоряването на американското развитие на AI на фона на технологическата конкуренция с Китай. Президентът вече се е противопоставял на призивите за общо забавяне на развитието на технологията.

Така спорът е не само за необходимостта от безопасност, а и за степента и начина на регулиране – доколко строгите предварителни изисквания намаляват риска и доколко могат да забавят иновациите и конкурентоспособността на американските компании.

Има и чисто технически въпрос: един „kill switch“ не е универсално решение.

AI моделите могат да бъдат копирани, разпространявани, интегрирани в множество системи или управлявани от различни оператори. Затова ефективността на механизма зависи от архитектурата на конкретната система, начина на внедряване и това кой действително контролира изчислителната инфраструктура.

Именно поради тази причина калифорнийската инициатива предвижда не просто съществуването на авариен механизъм, а независима проверка дали той действително работи.

Към 18 септември 2026 г. обаче най-важното разграничение остава ясно: Калифорния все още не е въвела задължителен „kill switch“ за AI компаниите.

Нюсъм е наредил да бъде разработен конкретен регулаторен модел и да бъдат предложени промени в закона, които впоследствие могат да превърнат подобен механизъм в задължително изискване за най-мощните AI системи.

Така Калифорния, където са концентрирани някои от най-големите компании и лаборатории в световната AI индустрия, се подготвя за следващата фаза на регулирането – не само компаниите да обясняват как управляват риска, а независими експерти да могат да проверяват твърденията им и да съществува техническа възможност опасна система да бъде спряна при извънредна ситуация.