САЩ обвиняват китайски компании в кражба на AI технологии

Американската технологична компания Anthropic отправи сериозни обвинения към китайски фирми, твърдейки, че те са откраднали технологии на стойност милиарди долари в сферата на изкуствения интелект (AI). Според информация на Anthropic, компании като DeepSeek, Moonshot AI и MiniMax са извършили атаки за извличане на модели, използвайки над 24 000 фалшиви акаунта, за да генерират повече от 16 милиона разговора с AI чатбота на компанията, Claude. Целта е била да се съберат данни за обучението на собствени конкурентни модели.

Състезанието между САЩ и Китай за развитие на AI технологии придобива все по-голяма значимост. През този месец, освен Anthropic, и OpenAI, и Google изразиха опасения относно подобни практики на китайски компании, което поражда страхове, че Китай може да ускори достъпа си до технологии, които изискват години на скъпоценни изследвания.

Какво представляват атаките за извличане на модели?

Атаките за извличане на модели, известни също като „дестилация“, представляват техника, при която потребител с достъп до мощен AI модел го използва, за да обучи по-евтин и бърз конкурент. Методът включва задаване на хиляди въпроси на по-големия модел, събиране на неговите отговори и използването на тези отговори, за да се обучи нов модел. Anthropic твърди, че този подход позволява на злоумишленици да развият по-малък AI много по-бързо и „на малка част от цената“, отколкото ако извършваха оригиналната работа сами.

Дестилацията може да бъде „легитимна“ практика, когато водещи AI лаборатории я използват за създаване на по-малки и по-евтини версии на своите модели за клиентите. Според Google, по-малките модели отговарят на запитвания много по-бързо и изискват по-малко изчислителна мощност и енергия в сравнение с по-големите модели.

Рискове за националната сигурност

Разработените чрез дестилация модели обаче представляват значителни рискове за националната сигурност, тъй като им липсват необходимите защитни мерки. Anthropic заяви, че дестилираните модели няма да имат защитите, които да предотвратят използването на AI в биологични оръжия или за провеждане на кибератаки. Google добави, че обикновените потребители на AI не са изложени на риск от атаки за дестилация, тъй като те не застрашават конфиденциалността, наличността или целостта на AI услугите.

През февруари OpenAI информира американските законодатели, че е уловила DeepSeek в опит да копира тайно най-мощните си AI модели. Компанията предупреди, че китайската фирма разработва нови методи, за да прикрие действията си.

Какви уроци получават моделите на хакерите? Според Anthropic, китайските AI компании са рендерирали трафик през прокси адреси, за да управляват обширна „хидра мрежа“ от фалшиви акаунти. Тази мрежа е разпространявала дейността си в различни платформи, за да получи достъп до Anthropic, която е забранена в Китай. След като компаниите успели да се внедрят, те генерирали обемисти запитвания, за да събират висококачествени отговори за обучение на моделите или да генерират десетки хиляди задачи за обучение с подсилване.

С нарастващата опасност от злоупотреби с AI технологии, Anthropic разработва мерки за откриване на тези кампании, но подчертава, че нито една AI компания не може да реши проблема сама.