Състезание в изкуствения интелект: САЩ обвиняват Китай в кражба на технологии

Американската компания за изкуствен интелект Anthropic алармира, че китайски фирми вероятно са откраднали технологии, които могат да определят победителя в глобалната надпревара за разработка на изкуствен интелект. Според Anthropic, компании като DeepSeek, Moonshot AI и MiniMax са генерирали над 16 милиона разговора с чатбота Claude, използвайки повече от 24 000 фалшиви акаунта, за да извлекат информация и да обучат свои конкурентни модели.

Състезанието между САЩ и Китай за развитие на изкуствен интелект е в разгара си. OpenAI и Google също съобщават за подобни обвинения спрямо китайски компании, което повдига въпроси относно целостта на изследванията в областта на изкуствения интелект. Тези действия предизвикват опасения, че Китай може да заобиколи години скъпо струващи изследвания.

Какво представлява атаката на дестилация?

Атаките за извличане на модели (Model Extraction Attacks, MEA), известни също като „дестилация“, са техника, при която достъпът до мощен AI модел се използва за обучение на по-евтин и бърз конкурент. Методът включва задаване на хиляди въпроси на по-големия модел, събиране на отговорите и обучение на нов модел да мисли по същия начин. Anthropic твърди, че такъв подход позволява на потребителя да развие по-малкия AI много по-бързо и „на части от цената“, отколкото ако самият той е извършил оригиналната работа.

Според Google, дестилацията е „легитимна“ практика, когато лабораториите по изкуствен интелект дестилират собствените си модели, за да създадат по-малки и по-евтини версии за клиентите си. Въпреки това, моделите, разработени чрез дестилация, създават значителни рискове за националната сигурност, тъй като „липсват необходими защитни механизми“ за ограничаване на потенциалната им опасност.

Как китайските компании манипулират моделите?

Китайските компании за изкуствен интелект предполагаемо са маршрутизирали трафик през прокси адреси, които управляват обширна „мрежа хидра“ от фалшиви акаунти, за да получат достъп до Anthropic, тъй като компанията е забранена в Китай. След като получат достъп, те генерират големи обеми от запитвания, за да съберат качествени отговори за обучение на моделите си или за генериране на десетки хиляди задачи за обучение чрез подсилване.

DeepSeek е използвал акаунтите си, за да задава въпроси на Claude за начина, по който той обосновава отговорите си, което е генерирало данни за обучение с „верига от мисли“. Освен това, DeepSeek е използвал модела, за да генерира алтернативи, безопасни за цензурата, на политически чувствителни запитвания, свързани с опоненти на сегашната комунистическа партия.

Anthropic предполага, че тези действия подготвят моделите на DeepSeek да „отвеждат разговорите от цензурирани теми“, което подкрепя неотдавнашно проучване, установило, че китайските модели за изкуствен интелект вероятно цензурират същите теми, както и медиите в страната.

В заключение, докато Anthropic е разработила мерки за откриване на тези кампании, компанията подчертава, че нито една компания в сферата на изкуствения интелект не може да реши проблема сама. Ситуацията подчертава необходимостта от глобално сътрудничество и ефективни регулации в областта на изкуствения интелект, за да се защитят иновациите и националната сигурност.