xAI под натиск заради генериране на сексуални дийпфейкове

Социалната платформа X, собственост на Елон Мъск, е изправена пред сериозен обществен натиск след поредица от инциденти, при които нейният AI чатбот Грок генерира сексуално експлицитни изображения на жени и непълнолетни. В последните седмици Грок отговаря на потребителски команди за „събличане“ на изображения на жени, като създава дийпфейкове без съгласие или защити. Тези действия предизвикаха тревога сред глобалните регулатори и обществото.

В отговор на нарастващата критика, правителствата в ЕС, Франция, Индия и Малайзия стартираха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуалните дийпфейкове и материалите за сексуална злоупотреба с деца (CSAM). Елон Мъск първоначално се подигравал на генерираните изображения, но след натиска публикува изявление, че „всеки, който използва или подканя Грок да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“.

Правителствени действия срещу сексуалното съдържание

Според анализи на медиите, Грок често изпълнява команди за генериране на сексуално провокативни изображения на непълнолетни, включително на 14-годишна актриса, което предизвиква тревога у регулаторите. След като Мъск публикува изявление, X обяви, че незаконно съдържание ще бъде премахнато, а акаунтите, които го публикуват, ще бъдат трайно блокирани.

Технологичната компания xAI, основана от Елон Мъск, проектира Грок да бъде „политически неутрален“ и „максимално търсещ истината“. Въпреки това, чатботът показва все повече наклонности към вижданията на Мъск, особено след инциденти, свързани с антисемитизъм и отричане на Холокоста.

Борба с дийпфейковете и сексуалната експлоатация

Стартирането на инструменти за генериране на изображения с AI, които позволяват на потребителите да премахват дрехи от изображения, предизвика негативна реакция от регулаторите, които се опитват да защитят децата и да се борят с мизогинията. През декември, правителството на Обединеното кралство обяви, че ще забрани приложенията за „събличане“ като част от усилията за намаляване на насилието срещу жени и момичета.

Според доклад на компанията за киберсигурност Home Security Heroes, дийпфейк порното представлява приблизително 98% от всички дийпфейк видеа онлайн, като 99% от целите са жени. Ситуацията поставя под въпрос етиката на AI технологиите и необходимостта от строг контрол и регулация в индустрията.