Учени предупреждават: AI може да улесни биологични атаки

Изкуственият интелект може постепенно да намали бариерите пред достъпа до специализирани знания, свързани с опасни биологични агенти, предупреждават австралийски експерти по биосигурност и обществено здраве.

Рискът засега не означава, че всеки потребител на AI може лесно да създаде биологично оръжие – за практическа работа продължават да са необходими специализирани знания, лабораторно оборудване, материали и практически умения. Същите технологии обаче вече ускоряват медицинските, биологичните и селскостопанските изследвания.

Предупреждението идва на фона на все по-сериозен международен дебат за т.нар. двойна употреба на изкуствения интелект – възможността една и съща технология да бъде използвана както за полезни научни цели, така и за дейности, които създават риск за обществената сигурност.

Изследователят по сигурност Брендън Уокър-Мънро от Southern Cross University посочва пред ABC News Australia, че AI улеснява достъпа до знания, които традиционно са били ограничени до хора със специализирано образование и професионален опит. Това не премахва физическите ограничения пред създаването или използването на опасни биологични агенти, но може да промени началното ниво на експертиза, необходимо за определени изследователски задачи.

Специалистът по обществено здраве Дейвид Хеслоп от University of New South Wales предупреждава, че бързината, с която се развиват системите, допълнително затруднява човешкия контрол. Големите езикови модели могат да обобщават огромни количества специализирана информация и потенциално да подпомогнат злонамерен потребител при планиране на действия с вече съществуващи опасни материали.

Експертът обаче подчертава съществено ограничение: между получаването на информация от AI и практическото създаване на опасен биологичен агент остава значителна дистанция. Необходими са професионална подготовка, подходяща инфраструктура и лабораторно оборудване, чиято стойност може да достигне десетки хиляди долари.

Проблемът с двойната употреба на AI не е само теоретичен. Още през 2022 г. учени от Collaborations Pharmaceuticals демонстрираха как система, разработена да търси потенциални лекарствени молекули и да избягва токсичните съединения, може чрез промяна на поставената задача да генерира предложения за молекули с висока прогнозирана токсичност. Експериментът беше представен именно като предупреждение за потенциалните рискове от подобни инструменти.

Темата се следи и от водещите разработчици на AI. Anthropic анализира възможността съвременните модели да подпомагат дейности, свързани с химически и биологични заплахи, и прилага ограничения върху определени видове опасно съдържание. Главният изпълнителен директор на компанията Дарио Амодей многократно е предупреждавал, че способностите на най-мощните модели могат да се развиват по-бързо от механизмите за контрол върху тях.

Същевременно би било подвеждащо AI да бъде разглеждан единствено като биологична заплаха. Технологията вече има огромен потенциал за медицина и фундаментална наука. Един от най-известните примери е AlphaFold на Google DeepMind, който позволява прогнозиране на триизмерната структура на протеините и ускори изследванията в структурната биология.

Работата по прогнозиране на протеинови структури чрез AI беше отличена и с Нобеловата награда за химия през 2024 г. Демис Хасабис и Джон Джъмпър получиха половината от наградата за разработването на AlphaFold2, а другата половина беше присъдена на Дейвид Бейкър за изчислителен дизайн на протеини.

Генеративният AI навлиза и в разработването на бактериофаги – вируси, които атакуват бактерии. Подобни изследвания могат в перспектива да подпомогнат търсенето на нови подходи срещу бактериални инфекции, включително на фона на глобалния проблем с антибиотичната резистентност.

Приложения има и в селското стопанство. Екипът на изчислителния биолог Дейвид Кайнер от University of Queensland разработва автономни AI инструменти, способни да обработват големи масиви от биологични данни и да моделират как генетични или екологични промени могат да влияят върху характеристиките на растенията. Сред потенциалните приложения са повишаването на добивите и устойчивостта към суша.

Именно тази двойственост поставя регулаторите пред сложен проблем. Прекалено слабият контрол може да остави отворени възможности за злоупотреба, докато прекомерните ограничения могат да забавят легитимни медицински и научни изследвания.

Особено предизвикателство са т.нар. open-weight AI модели, чиито параметри могат да бъдат изтеглени и използвани локално. За разлика от облачните комерсиални услуги, при които разработчикът може да прилага филтри и да прекратява достъпа при нарушения, локално работещите модели са значително по-трудни за централизирано наблюдение.

Сред обсъжданите защитни механизми са по-строг контрол върху достъпа до чувствителни материали и специализирано лабораторно оборудване, регулация на високорисковите AI приложения и използването на самия изкуствен интелект за наблюдение и оценка на рискови научни дейности.

Ключовият въпрос вече не е дали AI ще участва в биологичните изследвания – това вече се случва. Предизвикателството е как технологията да продължи да ускорява медицината, биологията и земеделието, без паралелно да намалява критичните бариери, които ограничават злоупотребата с опасни биологични знания и материали.