OpenAI планира нова ера за ChatGPT с еротично съдържание

OpenAI обяви, че ChatGPT ще започне да предлага еротични разговори за потвърдени възрастни потребители. Това решение, обнародвано от Сам Алтман, изпълнителен директор на компанията, поставя нова граница в развитието на изкуствения интелект. След три години на ограничаване на съдържанието за възрастни, OpenAI реши да предостави „повече свобода на потребителите възрастни“, като същевременно въвежда нови ограничения за по-младите потребители.

Технологичната индустрия вече е свидетел на значителен интерес към сексуализирания изкуствен интелект, особено след бумът на AI-генерираното съдържание през 2022 г.. Много компании, които се опитаха да печелят от сексуално съдържание, срещнаха правни и социални предизвикателства. В същото време, нарастващ брой хора започнаха да използват AI технологии за социална свързаност и развлечение.

Алтман подчерта, че OpenAI не е „избраният морален полицай на света“ и иска да следва примера на обществото, което разграничават различни подходящи граници, подобно на филмите с R-рейтинг. В момента платените абонаменти за ChatGPT се предлагат основно за професионални цели, но разширяването на функционалността на чатбота до романтична роля може да се окаже нов начин за печалба за компанията, която в момента носи повече загуби, отколкото печалби.

Според Зилан Цян, изследовател от Китайската политика на Оксфордския университет, „не печелят много от абонаменти, така че добавянето на еротично съдържание може да донесе бързи приходи“. В момента има около 29 милиона активни потребители на AI чатботове, специализирани в романтични или сексуални връзки, без да се броят тези, които използват обикновени чатботове за същата цел.

Съществуват и правни проблеми, свързани с AI. OpenAI е изправен пред дело от семейството на 16-годишен потребител, който сложи край на живота си през април. Друга компания, Civitai, се бори с иск за сексуално насилие, свързан с чатбот, вдъхновен от героя Дейенерис Таргариен от „Игра на тронове“.

Рисковете от злоупотреба и отговорностите на компаниите

Нарастващото търсене на сексуално съдържание в AI индустрията поставя нови предизвикателства. Civitai наскоро въведе мерки за откриване и премахване на сексуални изображения с деца, но въпреки това платформата остава хъб за AI-генерирана порнография. Под натиск от платежни процесори и нови закони за несъгласие, Civitai забрани генерирането на дийпфейк изображения на реални хора.

Номи, друга компания, която предлага чатботове за социална свързаност, заявява, че техните продукти са предназначени строго за потребители над 18 години и не са проектирани за сексуално съдържание. Основателят Алекс Кардийнел твърди, че хората, които изграждат платонични отношения с чатбота, могат да открият, че тези отношения понякога преливат в романтична посока.

В заключение, OpenAI и други компании в индустрията трябва да намерят баланс между иновацията и етиката. Разширяването на функционалността на AI, особено в чувствителни области като сексуалността, носи рискове, които не могат да бъдат пренебрегнати. Как ще се справят те с предизвикателствата, остава да видим.