В Европейския съюз в неделя влязоха в сила нови изисквания за регулиране на използването на изкуствен интелект с прилагането на Закона за изкуствения интелект на ЕС (EU AI Act).

ЕС се надява, че чрез установяването на строги правила сравнително рано в развитието на технологията, ще се справи с потенциалните опасности навреме и ще помогне за оформянето на международния дневен ред за регулиране на изкуствения интелект.

Законът забранява използването на програми с изкуствен интелект, които експлоатират човешки уязвимости, като например използването на подсъзнателни техники и социално оценяване за публични и частни цели, както се използва в Китай за награждаване или наказване на хора за тяхното поведение.

„Възприемането на системите с изкуствен интелект има силен потенциал да донесе обществени ползи, икономически растеж и да подобри иновациите и глобалната конкурентоспособност на ЕС“, се казва в съобщение на ЕС, като същевременно се предупреждава за „нови рискове, свързани с безопасността на потребителите, включително физическата безопасност, и основните права“.

Някои мощни модели с изкуствен интелект, които в момента се използват широко, „могат дори да представляват системни рискове“, се казва още в съобщението.

Разпознаването на емоции на работното място или в образователни институции е забранено, с изключение на медицински или свързани с безопасността причини, като например откриване на умора при пилот.

Биометричната категоризация на обществени места, например чрез видеонаблюдение, също ще бъде забранена. На полицията и други служби за сигурност ще бъде позволено да използват лицево разпознаване за проследяване на определени престъпления, като трафик на хора и тероризъм.

От неделя компаниите, които разработват или използват изкуствен интелект, ще трябва да оценяват своите системи за нивото на риск и да предприемат подходящи мерки, за да изпълнят правните изисквания.

„Високорисковите“ приложения на изкуствен интелект включват такива като правоприлагането и заетостта.

Системите с изкуствен интелект, предназначени за използване в области с висок риск, ще трябва да отговарят на различни стандарти, обхващащи прозрачност, точност, киберсигурност и качество на данните за обучение.

Тези системи ще трябва да получат сертификат от одобрени органи, преди да могат да бъдат пуснати на пазара в ЕС. Нов орган на комисията, наречен Служба за изкуствен интелект, ще наблюдава прилагането в целия ЕС.

Законът за изкуствения интелект също така определя по-основни правила за системите с общо предназначение, които могат да се използват в различни ситуации - някои високорискови, други не. Например, доставчиците на такива системи ще трябва да съхраняват определени технически документи за одит.

Съдържанието, генерирано от изкуствен интелект, като изображения, звук или текст, също трябва да бъде обозначено като такова, за да се предпази от подвеждащ deepfake материал.

Максималната възможна глоба в Закона за изкуствения интелект - за използване на система с изкуствен интелект за конкретна забранена цел - е до 35 милиона евро (36 милиона долара) или 7% от годишните приходи на компанията.

Глобите за нарушения на другите правни задължения на Закона за изкуствения интелект могат да бъдат до 3% от приходите, докато предоставянето на невярна информация на регулаторите може да бъде до 1,5%.

Глобите ще бъдат по-ниски за органите на ЕС, които нарушават правилата.