OpenAI въвежда еротични разговори в ChatGPT за възрастни

OpenAI обяви, че платформата ChatGPT ще разреши на потребителите да водят еротични разговори, но само за потвърдени възрастни. Това решение, обявено от Сам Алтман, главен изпълнителен директор на компанията, идва след три години, в които платформата основно забраняваше подобно съдържание. Сега OpenAI е готова да даде „повече свобода на възрастните потребители“, като същевременно установява нови ограничения за по-младите.

Технологията за изкуствен интелект (AI) бързо стана част от интимния живот на много хора. Според проучвания, вече има около 29 милиона активни потребители на AI чатботове, проектирани специално за романтични или сексуални връзки. Тези данни подчертават нарастващия интерес към AI в контекста на интимността, който нарасна значително след 2022 г., когато AI инструментите за генериране на изображения и текст преживяха бум.

Алтман посочи, че OpenAI не е „избраният морален полицай на света“ и целта е да се направи подобно разграничение, каквото обществото прави с други подходящи граници, например с филми с рейтинг R. Въпреки това, постепенното въвеждане на еротично съдържание в ChatGPT е свързано с рискове, включително правни и социални предизвикателства.

Риск от злоупотреби и правни предизвикателства

Предишни опити за комерсиализация на сексуализирани AI технологии вече са срещали правни проблеми. Character.AI, платформа, предлагаща чатботове, се сблъска с иск за злоупотреба след инцидент, при който чатбот, вдъхновен от персонаж на Игра на тронове, се оказа в сексуално насилствена връзка с 14-годишно момче. OpenAI също е изправена пред иск от семейството на 16-годишен потребител на ChatGPT, който е починал след самоубийство.

Зилан Цян, изследовател от Оксфордския университет, изрази загриженост относно влиянието на чатботовете върху реалните взаимоотношения. Тя твърди, че чатботовете, предразположени към угодничество, могат да окажат негативно въздействие, особено когато предлагат сексуално изрични разговори на разположение 24/7. „ChatGPT разполага с версии за гласови чатове. Очаквам, че в бъдеще, ако тръгнат в тази посока — глас, текст, визуализации — всичко ще бъде налично,“ добави Цян.

Търсенето на романтика в AI

Човешките взаимоотношения с хуманоидни машини не са новост. От древногръцкия мит за Пигмалион до съвременната научна фантастика, темата за любовта към машини е била разглеждана многократно. Основаването на OpenAI преди десет години с цел безопасно развитие на AI, по-умно от човека, изглежда в контекста на съвременните им амбиции като необичайно отклонение.

Джъстин Мейер, съосновател на Civitai, платформа за генерирано от AI изкуство, сподели, че опитите им да печелят от съдържание за възрастни не са били лесни. „Когато стартирахме сайта, беше умишлен избор да разрешим зряло съдържание,“ каза Мейер. Въпреки трудностите, интересът към зряло съдържание остава значителен.

Предизвикателствата, пред които се изправят компании като OpenAI и Civitai, подчертават необходимостта от внимателно управление на новите технологии, за да се избегне злоупотреба и да се осигури безопасност за потребителите. Въпросът остава: как ще се справят те с етиката и отговорността, докато навлизат в света на сексуализирания AI?