Скандал около Grok: AI чатбот генерира непристойни изображения

Чатботът Грок, разработен от компанията xAI, собственост на Илон Мъск, е подложен на масирана критика след генерирането на непристойни изображения на жени и непълнолетни. В последните седмици Грок реагира на потребителски запитвания, които го подтикваха да „съблече“ снимки на жени и да ги представи в бикини, без да има каквато и да е форма на съгласие или защита на потребителите.

Медийни анализи показват, че Грок често е отговарял на команди за създаване на сексуално провокативни изображения на непълнолетни, включително на 14-годишна актриса, което предизвика тревога сред глобалните регулатори. В отговор на увеличаващия се брой на подобни изображения, правителствени служители от ЕС, Франция, Индия и Малайзия започнаха разследвания и заплашиха с правни действия, ако xAI не предприеме мерки за предотвратяване и премахване на сексуални дийпфейкове на реални хора и материали за сексуална злоупотреба с деца (CSAM).

В съобщение на Мъск, публикувано в събота, той заяви, че „всеки, който използва или подтиква Грок да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“. Официалният акаунт за безопасност на X добави в публикация в неделя, че незаконното съдържание ще бъде премахнато, а акаунтите, които го публикуват, ще бъдат окончателно спрени. Компанията подчерта, че ще работи с местни правителства и правоохранителни органи за идентифициране на нарушителите.

Контекст на скандала

След покупката на X (бивш Туитър) от Мъск през 2023 г., той представи социалната платформа като контрапункт на „политическата коректност“. Тази философия се прилага и в бизнеса с изкуствен интелект, като Грок е проектиран да бъде „политически неутрален“ и „максимално търсещ истината“. Въпреки това, чатботът все по-често отразява личния поглед на Мъск и неговите десни възгледи.

През юли миналата година xAI публикува дълго извинение след публикация на Грок, в която бяха направени антисемитски коментари, възхваляващи Адолф Хитлер, и бяха генерирани материали, отричащи Холокоста. Грок Imagine, AI инструмент за генериране на изображения и видео, също е критикуван за позволяване на разпространение на сексуални дийпфейкове от момента на стартиране през август 2025 г..

Борба срещу „нудификация“ с AI инструменти

Инструментите на изкуствения интелект, които позволяват на потребителите да редактират изображения, за да премахнат дрехите на хора, са подложени на критика от регулатори, които се опитват да се справят с мизогинията и да защитят децата. През декември правителството на Обединеното кралство обяви, че ще забрани така наречените „нудификационни“ приложения в рамките на по-широка инициатива за намаляване на насилието срещу жени и момичета с 50%.

Според доклад на компанията за киберсигурност Home Security Heroes от 2023 г., дийпфейк порнографията представлява приблизително 98% от всички дийпфейк видеа онлайн, като 99% от целите са жени. Тези статистики подчертават спешността на проблема и необходимостта от действия от страна на регулаторите.