OpenAI спря генерирането на дълбоки фалшификати (deepfake) чрез приложението си за изкуствен интелект (AI) Sora, които изобразяват д-р Мартин Лутър Кинг-младши, след искане от неговото наследство.

Компанията призна, че видеогенераторът е създал „неуважително“ съдържание, свързано с бореца за граждански права.

Sora стана изключително популярно в САЩ, благодарение на способността си да създава хиперреалистични видеа, което доведе до споделяне на фалшифицирани сцени с починали знаменитости и исторически личности в необичайни и често обидни сценарии.

OpenAI заяви, че ще спре изображенията на д-р Кинг, „докато укрепва защитните мерки за историческите фигури“; въпреки това, компанията продължава да позволява създаването на клипове с други известни личности.

Този подход се оказа спорен, тъй като видеа, включващи фигури като президентът Джон Ф. Кенеди, кралица Елизабет II и професор Стивън Хокинг, бяха широко споделяни онлайн.

Случаят накара Зелда Уилямс, дъщерята на Робин Уилямс, да помоли хората да спрат да ѝ изпращат генерирани от AI видеа с баща ѝ – известният американски актьор и комик, който почина през 2014 г.

Бърнис А. Кинг, дъщерята на покойния д-р Кинг, по-късно отправи подобна публична молба, пишейки онлайн: „Съгласна съм по отношение на баща ми. Моля, спрете.“

Сред генерираните от AI видеа, изобразяващи бореца за граждански права, имаше и такива, които редактираха по различни начини неговата известна реч „Имам мечта“ (“I Have a Dream”), като Washington Post съобщи, че един клип го показва да издава расистки звуци.

Междувременно, други, споделени в приложението Sora и в социалните медии, показваха фигури, наподобяващи д-р Кинг и колегата му, бореца за граждански права Малкълм X, да се бият помежду си.

Експертът по AI етика и автор Оливия Гамбелин заяви пред BBC, че ограничаването от OpenAI на по-нататъшното използване на образа на д-р Кинг е „добра стъпка напред“.

Тя обаче посочи, че компанията е трябвало да въведе мерки от самото начало, вместо да прилага подход на „проба-грешка на пожарникарски маркуч“ при пускането на такава технология.

Според нея, способността за създаване на дълбоки фалшификати на починали исторически личности не говори само за „липса на уважение“ към тях, но също така крие допълнителни опасности за разбирането на хората за реално и фалшиво съдържание.

„Твърде близко е до опит да се пренапишат аспекти от историята“, каза тя.

„Интереси на свободното слово“

Появата на дълбоките фалшификати – видеа, които са променени с помощта на AI инструменти или друга технология, за да покажат някого да говори или да се държи по начин, по който не го е правил – предизвика притеснения, че те могат да бъдат използвани за разпространение на дезинформация, дискриминация или злоупотреба.

OpenAI заяви в петък, че макар да смята, че има „силни интереси на свободното слово“ при изобразяването на исторически личности, те и техните семейства трябва да имат контрол върху своите образи.

„Упълномощени представители или собственици на наследството могат да поискат техният образ да не бъде използван в Sora камери“, се казва в изявлението.

Експертът по генеративен AI Хенри Айдър каза, че този подход, макар и положителен, „повдига въпроси кой получава защита от синтетично възкресение и кой не“.

„Наследството на Кинг с право повдигна този въпрос пред OpenAI, но много починали лица нямат известно и добре осигурено наследство, което да ги представлява“, каза той.

„В крайна сметка, мисля, че искаме да избегнем ситуация, в която, освен ако не сме много известни, обществото приема, че след като умрем, има свобода за това как ще продължим да бъдем представяни.“

В изявление пред BBC в началото на октомври, OpenAI каза, че е изградила „множество нива на защита, за да предотврати злоупотреби“.

Компанията добави, че е в „директен диалог с обществени личности и собственици на съдържание, за да събере обратна връзка за това какъв контрол искат“, с оглед на това да отрази това в последващи промени.