Използването на ИИ от терористични групи: нова заплаха

Терористични и екстремистки групи, включително Ислямска държава, все повече използват изкуствен интелект (ИИ) за създаване на фалшиво съдържание и набиране на нови членове. Откакто програми като ChatGPT станаха широко достъпни, тези организации експериментират с генеративен ИИ, за да генерират реалистични изображения и видеа, които служат за разпространение на пропаганда.

Съобщения от експерти по национална сигурност и разузнавателни агенции предупреждават, че ИИ може да се превърне в мощен инструмент за терористичните организации, позволявайки им да създават дълбоки фалшиви образи и да усъвършенстват кибератаките си. През миналия месец потребител на уебсайт на група, свързана с Ислямска държава, призоваваше поддръжниците да интегрират ИИ в операциите си, подчертавайки лекотата на употреба на тези технологии.

Експерименти с нови технологии

Според Джон Лалберте, бивш изследовател на уязвимости в Националната агенция за сигурност, ИИ прави значително по-лесно за екстремистите да разпространяват своята пропаганда. „С ИИ дори малка група без много средства може да окаже влияние,“ добави той. Тези технологии позволяват на терористичните групи да произвеждат фалшиви изображения и видеа, които могат да объркат или уплашат противниците, както и да привлекат нови последователи.

През последните години терористични организации в Близкия изток използваха фалшиви изображения, за да привлекат нови членове. По време на конфликта между Израел и ХАМАС, те разпространяваха манипулирани снимки на бебета в разрушени сгради, които предизвикаха възмущение и поляризация. Въпреки че Ислямска държава преди години загуби територии, сега тя е децентрализирана мрежа от екстремистки групи, които продължават да използват социалните медии като ефективен инструмент за набиране на нови последователи.

Рискове и предизвикателства

Според Маркус Фаулър, бивш агент на ЦРУ, терористичните групи изостават от страните като Китай, Русия и Иран, които използват ИИ по-добре. Въпреки това, рисковете, свързани с използването на ИИ от екстремистите, не бива да се игнорират. Хакери вече използват синтетичен звук и видео за фишинг кампании, опитвайки се да се представят за влиятелни личности и да получат достъп до чувствителни мрежи.

Съществува и опасност Ислямска държава да се опита да използва ИИ за производство на биологични или химически оръжия, за да компенсира липсата на технически експерти. Тази заплаха бе включена в актуализирания доклад на Министерството на вътрешната сигурност на САЩ, публикуван по-рано тази година.

Законодателите в САЩ предлагат различни мерки, подчертавайки спешната нужда от действия. Марка Уорнър, сенатор от Вирджиния, заяви, че е необходимо да се улесни споделянето на информация между разработчиците на ИИ и органите на правоприлагането относно злоупотребите с технологии от екстремисти и хакери.

„От края на 2022 г., с публичното пускане на ChatGPT, стана очевидно, че същата fascination и експериментиране с генеративния ИИ, която обществото проявява, ще се отрази и на редица зловредни актьори,“ добави Уорнър.

Предизвикателствата, свързани с контрола на използването на ИИ от терористични групи, подчертават необходимостта от адаптиране на политиките и капацитета на страните, за да се справят с новите заплахи.