Илон Мъск ограничава Grok AI за предотвратяване на неприемливи изображения

Илон Мъск обяви, че платформата му X ще блокира функцията на AI инструмента Grok, позволяваща създаването на сексуализирани изображения в региони, където това е незаконно. Решението дойде само часове след изказването на Мъск, че не е запознат с наличието на “голи непълнолетни изображения” генерирани от Grok.

В сряда, по време на глобален отзвук относно сексуализираните изображения на жени и деца, Мъск обяви, че ще бъдат предприети мерки за предотвратяване на редактирането на снимки на реални хора в провокативно облекло. Резултатът е следствие от нарастващите притеснения на правителствата, включително забрани и предупреждения от страна на редица държави. В Калифорния например бе обявено разследване относно разпространението на неразрешено сексуално изразително съдържание, произведено с помощта на Grok.

По-рано медийните запитвания за проблема бяха посрещнати с коментара, че “наследствените медии лъжат”. Въпреки това, компанията на Мъск, xAI, вече е заявила, че ще блокира съдържание, нарушаващо местните закони. “Въвели сме технологични мерки, за да предотвратим Grok акаунта от редактиране на изображения на реални хора в провокативно облекло като бански костюми и бельо,” гласи изявлението на компанията.

Според новите правила, ограниченията важат за всички потребители, включително платени абонати, които имат достъп до допълнителни функции. xAI също така е наложила ограничения за създаване или редактиране на изображения само за платени абонати, за да се гарантира, че лицата, които опитват да злоупотребят с акаунта на Grok, ще бъдат привлечени под отговорност.

Режимът “пикантен” на Grok позволи на потребителите да създават експлицитно съдържание, което предизвика глобален отзвук. Държави като Малайзия и Индонезия предприеха правни действия и блокираха достъпа до Grok. Обединеното кралство и Европейският съюз разследват потенциални нарушения на законите за онлайн безопасност, а Франция и Индия също издадоха предупреждения за по-строги контролни механизми. Бразилия призова за разследване на злоупотребите с Grok.

Обявлението на Калифорния подчертава, че функциите за редактиране на Grok “улесняват масовото производство на дийпфейк неразрешени интимни изображения, които се използват за тормоз на жени и момичета в интернет, включително през социалната платформа X.” Генералният прокурор на Калифорния, Роб Бонта, заяви: “Потокът от доклади, описващи неразрешеното, сексуално експлицитно съдържание, произведено от xAI и публикувано онлайн в последните седмици, е шокиращ.” Той добави, че “имаме нулева толерантност към създаването и разпространението на неразрешени интимни изображения или на материали за сексуална злоупотреба с деца.”