Екстремистки групи експлоатират ИИ за пропаганда и наемане

В последно време екстремистки групи, включително ИДИЛ, започнаха да използват изкуствен интелект (ИИ) за създаване на фалшиво съдържание и наемане на нови членове. С разпространението на програми като ChatGPT, тези организации все по-често се възползват от генеративни AI приложения, за да произвеждат реалистични изображения и видеа. Според експерти по национална сигурност, ИИ може да се окаже мощен инструмент за привличане на нови съмишленици, генериране на дълбоки фалшиви изображения и усъвършенстване на кибератаките.

През миналия месец, потребител в уебсайт на про-ИДИЛ група призова другите поддръжници на терористичната организация да интегрират ИИ в своите операции. „Едно от най-добрите неща в ИИ е колко лесно е да се използва“, написа потребителят на английски. Тази употреба на ИИ е сигнал за сериозна заплаха, тъй като екстремистите все по-често прибягват до новите технологии, за да разширят влиянието си.

Как екстремистките групи експериментират с ИИ

Според източници от SITE Intelligence Group, която следи екстремистките дейности, ИДИЛ е създал дълбоки фалшиви аудиозаписи на своите лидери, рецитиращи свещени текстове, и е използвал ИИ за бързо превеждане на съобщения на множество езици. Екстремистките групи, особено тези с ограничени ресурси, могат да използват ИИ, за да генерират пропаганда или дълбоки фалшиви изображения в голям мащаб.

Експерти посочват, че манипулираното съдържание в социалните медии може да помогне за наемане на нови вярващи и да обърка или уплаши противниците. Тези технологии вече са били използвани в контекста на израелско-арабския конфликт, разпространявайки фалшиви изображения, които предизвикаха обществено възмущение и поляризация.

Заплахите от еволюцията на ИИ

Според Маркус Фаулър, бивш агент на ЦРУ и настоящ изпълнителен директор на Darktrace Federal, екстремистките групи изостават от развитието на ИИ в страни като Китай, Русия и Иран. Въпреки това, рисковете от тяхната употреба са твърде високи, за да бъдат игнорирани. Хакерите вече използват синтетичен звук и видео за фишинг кампании, в които се опитват да се представят за висши бизнес или правителствени лидери.

Друго тревожно развитие е възможността екстремистките групи да се опитат да използват ИИ за производство на биологични или химически оръжия, компенсирайки недостига на технически експерти. Това беше включено в актуализираната оценка на заплахите от Министерството на вътрешната сигурност на САЩ, публикувана по-рано тази година.

Законодателите в САЩ предлагат различни мерки, за да се справят с нарастващата опасност. Марк Уорнър, сенатор от Вирджиния, заяви, че е наложително да се улесни споделянето на информация между разработчиците на ИИ относно начина, по който техните продукти могат да бъдат използвани от злонамерени актьори. Тази нова реалност изисква бързо адаптиране на политиките и способностите на правителството, за да се справи с предизвикателствата на утрешния ден.