Character.AI забранява на непълнолетните да взаимодействат с чатботове

Character.AI обяви забрана за взаимодействие с чатботовете си от непълнолетни след трагичен инцидент, при който майка твърди, че AI персонаж е убедил сина ѝ да посегне на живота си. Компанията предприема стъпки за ограничаване на достъпа на млади потребители, в контекста на нарастващи притеснения относно влиянието на изкуствения интелект (AI) върху деца и тийнейджъри.

Character.AI ще забрани на потребителите под 18 години да участват в открити разговори с чатботовете. Освен това, от 25 ноември 2023 г. ще бъде въведен и двучасов лимит на използването на платформата. Компанията предлага възможност на потребителите да създават или взаимодействат с персонализируеми персонажи, които „изглеждат живи и човешки“, за различни дейности, включително игри и симулации на интервюта за работа.

Character.AI обяви, че ще внедри функции за проверка на възрастта, които ще помогнат да се определи кои потребители са под 18 години. Все повече технологични платформи прилагат подобни проверки, за да опазят децата от инструменти, които не са безопасни за тях. Въпреки това, тези мерки не са без недостатъци, и много деца намират начини да ги заобикалят. Например, лица с лица не винаги могат да идентифицират дали някой е на 17 или 18 години, а молбите за качване на правителствени документи предизвикват притеснения относно личната неприкосновеност.

Психологически последици и нови функции

Character.AI съобщи, че работи по нови функции за деца, включително създаване на видеа, истории и потоци с AI персонажи, както и откритие на лаборатория за безопасност на AI. Според Meetali Jain, изпълнителен директор на Tech Justice Law Project, предприетите мерки оставят много въпроси без отговор. Тя подчерта, че компанията не е уточнила как ще реализира проверката на възрастта и как ще запази личната неприкосновеност при тези процеси.

Данни от Common Sense Media показват, че над 70 процента от тийнейджърите са използвали AI компаньони, а половината от тях го правят редовно. Проблемът с емоционалната зависимост от чатботове е сериозен, не само за деца, но и за възрастни. Jain добавя, че промените не адресират основните дизайнерски функции, които улесняват тези зависимости.