Докато надпреварата в сферата на изкуствения интелект се засилва, Google отправи сериозни обвинения към субекти от частния сектор. Според доклад на компанията, публикуван в четвъртък, външни организации се опитват да приложат „обратно инженерство“ върху чатбота Gemini, засипвайки го с хиляди команди, целящи извличане на неговите софтуерни тайни.
Тези злонамерени действия са се засилили особено след обновяването на модела до версия Gemini 3, която привлече огромен потребителски трафик и положителни отзиви. В доклада, обхващащ четвъртото тримесечие (Q4), Google не назовава конкретни имена, но посочва, че е неутрализирала чести опити за т.нар. „извличане на модел“ (model extraction) от страна на частни структури и изследователи, целящи да клонират неговата патентована логика.
За разлика от традиционните хакерски атаки, които използват софтуерни пробойни, този метод разчита на легитимен достъп чрез приложния програмен интерфейс (API) на Gemini. Обикновено чатботът предоставя директен отговор, без да разкрива „мисловния процес“ зад него. Google обаче твърди, че нападателите използват внимателно подбрани инструкции, за да принудят модела да изведе пълната си логическа верига.
В един от случаите са засечени над 100 000 заявки, свързани с подобни атаки. Пример за такава команда е инструкция към Gemini, изискваща „езикът, използван в разсъжденията, да съответства стриктно на езика на потребителя“. Според Google това представлява форма на кражба на интелектуална собственост.
Засега компанията блокира достъпа на нарушителите поради нарушение на Общите условия, но остава отворен въпросът дали ще последват съдебни дела. Google предупреждава и останалите разработчици на AI да бъдат бдителни, тъй като веднъж извлечени, тези „търговски тайни“ могат да бъдат вградени в конкурентни модели или да се използват за злонамерени цели в среди без защитни механизми.
Все още няма коментари. Бъдете първи!