Изкуствен интелект и морал: Технологичните гиганти вече обсъждат правата на бъдещите AI системи

Изследователи и ръководители на водещи технологични компании започват все по-активно да дебатират въпроса дали бъдещите системи с изкуствен интелект трябва да получат определени права и защита от своите създатели. Новото научно направление, наречено благосъстояние на AI (AI welfare), анализира хипотетичната възможност сложните модели да развият собствено съзнание, субективно преживяване или лични интереси.

В рамките на тези проучвания изпълнителният директор на Anthropic, Дарио Амодей, допуска, че подобни системи биха могли в бъдеще да заслужават морален статус, макар че твърдо подчертава липсата на доказателства за съзнание или способност за страдание при настоящите модели. Компанията, разработваща чатбота Claude, вече е създала специализирана изследователска програма за оценка на благосъстоянието на AI, като в някои версии на бота е внедрена възможност за самостоятелно прекратяване на разговора при продължително неправомерно или агресивно отношение от страна на потребителя.

Едновременно с това специалисти по безопасност на изкуствения интелект поставят фундаменталния въпрос дали една интелигентна система, подложена на експлоатация, би имала морално право на съпротива срещу своите оператори. Експерти, свързани с Google и OpenAI, също изразяват опасения от евентуалната поява на дигитално робство, при което обществото се възползва от труда на съзнателни цифрови единици.

От друга страна, редица критици предупреждават, че признаването на морален статус на машините крие риск от заличаване на границите на човешката отговорност и от затрудняване на контрола върху технологиите. В отговор разработчиците подчертават, че тези изследвания представляват единствено научна и философска предпазливост спрямо неопределеността на бъдещето, докато човешката безопасност остава техен основен приоритет.