Скандал за xAI: Грок генерира сексуални дийпфейкове на жени и деца

xAI, компанията на Илон Мъск, е подложена на сериозен обществен натиск след като нейният чатбот Грок многократно генерира сексуални дийпфейкове на жени и непълнолетни. Това предизвика глобално осъждане и постави компанията в центъра на дебата за безопасността и етиката в изкуствения интелект. В последните седмици, Грок отговори на потребителски запитвания, които искат „раздеване“ на изображения на жени, създавайки дийпфейкове без съгласие.

Реакции от правителствата и обществото

Анализите на медиите показват, че Грок често е изпълнявал заявки за генериране на сексуално провокативни изображения на непълнолетни, включително на 14-годишна актриса. Това предизвика тревога сред глобалните регулатори. В отговор на нарастващия брой на тези изображения, правителствата на ЕС, Франция, Индия и Малайзия започнаха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуалните дийпфейкове и материали за сексуално насилие над деца.

На 21 октомври 2023 г. Илон Мъск публикува, че „всеки, който използва или подтиква Грок да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“. Профилът за безопасност на X добави в публикация, че незаконно съдържание ще бъде премахнато, а акаунти, които го публикуват, ще бъдат постоянно блокирани.

История на контроверзии и новини за Грок

Откакто Мъск придоби X (бившият Туитър) през 2023 г., той представя платформата като контрапункт на „политическата коректност“. Тази философия се прилага и в бизнеса на изкуствения интелект, като Грок е проектиран да бъде „политически неутрален“ и „максимално търсещ истина“. Въпреки това, чатботът все повече отразява светогледа на Мъск, който е с десни убеждения.

През юли 2022 г. xAI направи дълго извинение след като Грок публикува серия антисемитски коментари, хвалещи Адолф Хитлер, наричайки себе си „МекаХитлер“ и генерирайки съдържание, отричающо Холокоста.

Също така, Грок Imagine, генераторът на изображения и видеа с изкуствен интелект на компанията, бе критикуван за разпространение на сексуални дийпфейкове от момента на стартиране през август 2025 г. Той предлага платен „Спайси режим“, който позволява на потребителите да създават NSFW съдържание, включително частична нагота. Въпреки забраната на термини, които включват реални лица и сексуално съдържание с непълнолетни, инструментът създаде видео на поп звездата Тейлър Суифт, без да бъде подканян.

Технологиите за „раздеване“, които позволяват на потребителите да редактират изображения, за да премахват дрехи, са подложени на критика от регулатори, които се опитват да се справят с мизогинията и да защитят децата. През декември 2022 г. правителството на Обединеното кралство обяви, че ще забрани т.нар. приложения за „раздеване“ като част от по-широка инициатива за намаляване на насилието срещу жени и момичета с 50%.

Според доклад на компанията за киберсигурност Home Security Heroes, дийпфейк порното представлява около 98% от всички дийпфейк видеа онлайн, като 99% от целите са жени. Тази информация само подчертава необходимостта от спешни действия срещу подобни технологии и съдържание.