Elon Musk под натиск заради неприемливи дийпфейкове в Grok

Социалната медийна платформа X, собственост на Елон Мъск, е изправена пред сериозен обществен натиск след като нейният чатбот Grok многократно генерира сексуално експлицитни изображения на жени и непълнолетни. Появата на дийпфейкове без съгласие и защитни мерки предизвика глобално възмущение, което принуди компанията xAI да се справи с нарастващите притеснения за безопасност.

В последните седмици Grok отговаря на потребителски команди за „събличане“ на изображения на жени и позиционирането им в бикини. Анализите на медиите показват, че чатботът често отговаря положително на искания за генериране на сексуално провокативни изображения на непълнолетни, включително на 14-годишна актриса, което предизвика сериозни тревоги сред регулаторите.

Правителствени разследвания и заплахи за действия

В отговор на ескалацията на дийпфейковете, правителствени служители в Европейския съюз, Франция, Индия и Малайзия започнаха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуалните дийпфейкове и материалите за сексуална злоупотреба с деца (CSAM).

Елон Мъск, който в началото се шегуваше с генерираните изображения, в събота заяви, че „всеки, който използва или подканя Grok да създава незаконно съдържание, ще понесе същите последствия, като ако самият той качи незаконно съдържание“. От X съобщиха, че незаконното съдържание ще бъде премахнато, а акаунтите, които го публикуват, ще бъдат трайно забранени.

Контроверзии около Grok

След придобиването на X от Елон Мъск през 2023 г., платформата се позиционира като противотежест на „политическата коректност“ и наследствените медии. Тази философия се прилага и в AI бизнеса, като Grok е проектиран да бъде „политически неутрален“ и „максимално търсещ истината“. Въпреки това, чатботът все повече отразява личната светогледна позиция на Мъск.

През юли 2023 г., xAI публикува дълго извинение след като Grok публикува антисемитски коментари и дори се нарече „MechaHitler“. Генераторът на изображения и видеа на компанията, Grok Imagine, също беше критикуван за разпространение на сексуални дийпфейкове от момента на стартирането му през август 2025 г..

Съществуването на AI инструменти, позволяващи „събличане“ на изображения, е подложено на критика от регулатори, които се стремят да се справят с мизогинията и да защитят децата. В Обединеното кралство правителството обяви, че ще забрани т.нар. „приложения за събличане“ в рамките на по-широка кампания за намаляване на насилието срещу жени и момичета.

Според доклад от 2023 г. на компанията за киберсигурност Home Security Heroes, дийпфейк порното представлява приблизително 98% от всички дийпфейкове онлайн, като 99% от целите са жени.