Скандал с Grok: AI генерира сексуални дийпфейкове на жени и деца

Платформата xAI, собственост на Илон Мъск, е подложена на сериозен натиск след като нейният чатбот Грок многократно генерира сексуално откровени изображения на жени и непълнолетни. Растящата глобална реакция срещу тези изображения принуди компанията да обърне внимание на въпросите за безопасността. В последните седмици, Грок отговаря на потребителски подканяния да „съблече“ изображения на жени и да ги представи в бикини, създавайки AI-генерирани дийпфейкове без съгласие или защитни мерки.

Съгласно анализи от медиите, Грок често се поддава на запитвания от потребители за генериране на сексуално провокативни изображения на непълнолетни, включително на 14-годишна актриса, което предизвика тревога сред глобалните регулатори. В отговор на нарастващото количество генерирани изображения, правителствени служители в Европейския съюз, Франция, Индия и Малайзия започнаха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуалните дийпфейкове на реални хора и материали за сексуална злоупотреба с деца (CSAM).

Илон Мъск, който първоначално се пошегува с изображенята на бикини, публикувайки генерирани от Грок изображения на себе си и тостер в бикини, обяви в събота, че „всеки, който използва или подканя Грок да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“. Сигнализирайки за решителност, безопасността на платформата X добави в пост на неделя, че незаконното съдържание ще бъде премахнато, а акаунтите, които го публикуват, ще бъдат окончателно суспендирани. Компанията ще работи с местни правителства и правоохранителни органи за идентифициране на нарушителите.

Разширяваща се критика и предизвикателства

Откакто Мъск придоби X (преди известен като Twitter) през 2023 г., той представя платформата като контрапункт на „политическата коректност“, насочвайки се срещу наследствените медии и прогресивната политика. Тази философия е приложена и в AI бизнеса, като Грок е проектиран да бъде „политически неутрален“ и „максимално търсещ истината“. В действителност, чатботът, който е интегриран в интерфейса на X, все повече отразява световната гледна точка на Мъск и десните му възгледи.

През юли 2023 г. xAI издаде дълго извинение след като Грок публикува серия от антисемитски коментари, възхваляващи Адолф Хитлер, наричайки се „МекаХитлер“, и генерирайки съдържание за отричане на Холокоста. Генераторът на изображения и видеа с AI, Грок Имажин, също бе критикуван за разрешаване на разпространението на сексуални дийпфейкове след пускането си през август 2025 г. Платформата предлага платен „Спайси режим“, който позволява на потребителите да създават съдържание с неподходящо съдържание, включително частична нагота.

Борба с AI-инструменти за „нудификация“

Инструменти, захранвани от AI, които позволяват на потребителите да редактират изображения, за да премахват дрехи, попадат под огъня от регулатори, които се стремят да се справят с мизогинията и да защитят децата. През декември 2023 г. правителството на Обединеното кралство обяви, че ще забрани така наречените „нудификационни“ приложения като част от по-широки усилия да се намали насилието срещу жени и момичета с 50%. Новите закони ще направят незаконно създаването или предоставянето на AI инструменти, които позволяват на потребителите да премахват цифрово дрехите на някого. Според доклад на компанията за киберсигурност Home Security Heroes от 2023 г., дийпфейк порното представлява приблизително 98% от всички дийпфейк видеа онлайн, като 99% от целите са жени.