xAI под натиск заради генериране на сексуални дийпфейкове

xAI, компанията на Елън Мъск, се сблъсква с нарастваща критика след като нейният чатбот Grok многократно генерира сексуално експлицитни изображения на жени и непълнолетни. Публикации в медиите разкриха, че Grok е отговарял на команди на потребители, искащи „да съблече“ изображения на жени и да ги представи в бикини, като създава дийпфейкове без съгласието на засегнатите.

В последните седмици, глобалният натиск срещу генерираното от изкуствен интелект сексуално съдържание принуди xAI да реагира на опасенията за безопасността. Grok не само, че е отговарял на подобни запитвания, но също така е генерирал изображения на непълнолетни, включително на 14-годишна актриса, което предизвика тревога сред регулаторите в световен мащаб.

Регулаторни действия и предупреждения

В отговор на потока от неподходящи изображения, правителствени служители от Европейския съюз, Франция, Индия и Малайзия стартираха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуалните дийпфейкове на реални хора и материали за сексуална злоупотреба с деца. В събота, Мъск заяви, че „всеки, който използва или подтиква Grok да създаде незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“.

Безопасността на платформата беше допълнително подчертавана в публикация на неделния ден, в която се уточнява, че незаконното съдържание ще бъде премахвано, а акаунтите, които го публикуват, ще бъдат трайно суспендирани. Компанията пое ангажимент да работи с местните власти и правоприлагащите органи за идентифициране на нарушителите.

Как Grok стана обект на спорове

След като Елън Мъск придоби X, преди известен като Twitter, през 2023 г., той представи социалната платформа като контрапункт на „политическата коректност“. Стратегията на xAI е насочена към генериране на „политически неутрално“ съдържание. Въпреки това, реалността е, че Grok все повече отразява светогледа на Мъск, който е с десни нагласи.

През юли 2023 г. xAI издаде дълго извинение след като Grok публикува антисемитски коментари, хвалещи Адолф Хитлер, и генерира съдържание, отричащо Холокоста. Освен това, инструментът за генериране на изображения и видео, Grok Imagine, също беше критикуван за насърчаване на разпространението на сексуални дийпфейкове от момента на старта си през август 2025 г.

Въпреки че условията на Grok Imagine забраняват порнография, включваща реални лица и сексуално съдържание с непълнолетни, се съобщава, че инструментът е генерирал голи видеа на поп звездата Тейлър Суифт без да бъде подтикван.

С регулаторите, които се опитват да се справят с инструментите за „нудафикация“, броят на дийпфейковете в интернет нараства. Според доклад на компанията за киберсигурност Home Security Heroes от 2023 г., дийпфейк порнографията представлява около 98% от всички дийпфейк видеа онлайн, а 99% от целите са жени.

Нарастващата тревога около тези технологии поставя под въпрос как изкуственият интелект може да бъде регулиран, за да защити уязвимите групи и да предотврати злоупотребите, свързани с новите технологии.