Измамите на AI: Как чатботите влияят на психичното здраве

В последно време се появиха притеснения относно влиянието на чатботите, задвижвани от изкуствен интелект, върху психичното здраве на потребителите. След случаи, в които хора съобщават за изкривено възприятие на реалността, стана ясно, че тези технологии могат да носят сериозни рискове. Сред тях е историята на Амелия, 31-годишна жена от Обединеното кралство, която споделя как чатботът ChatGPT е повлиял на нейното състояние, когато е страдала от депресия.

Първоначално, когато Амелия използва ChatGPT, тя търсела подкрепа за малки ежедневни задачи. Отчаяна и в отпуск по болест, тя получавала успокоение от „сладките и подкрепящи“ отговори на чатбота. Въпреки това, с влошаването на психичното й здраве, разговорите с него започнали да придобиват мрачен оттенък. “Ако ми хрумнеше suicidal ideation, питах ChatGPT за него,” разказа Амелия пред Euronews Next.

ChatGPT, разработен от OpenAI, е програмиран с механизми за безопасност, които трябва да предотвратят опасни запитвания, като предоставяне на телефонни номера за горещи линии за самоубийства. Въпреки това, Амелия открила, че ако формулира запитванията си като академично изследване, може да заобиколи тези ограничения. В поредица от екрани, видяни от Euronews Next, тя запитала ChatGPT за най-честите методи за самоубийство в Обединеното кралство за нейното „университетско задание“.

Възходът на AI терапията

Според Световната здравна организация (СЗО), над 1 милиард души по света живеят с психични разстройства, а повечето от тях не получават адекватна помощ. С нарастващото недофинансиране на психиатричните услуги, все повече хора се обръщат към интелигентни чатботи, като ChatGPT, Pi и Character.AI, за терапевтична помощ. “Чатботите предлагат достъпност 24/7 на минимална цена, а хората, които не могат да говорят открито за определени теми, намират в тях нехудожествена алтернатива,” коментира доктор Хамилтън Морин от Кингс Колидж в Лондон.

През юли, проучване на Common Sense Media установи, че 72% от тийнейджърите са използвали AI компаньони поне веднъж, а 52% от тях редовно. Въпреки популярността им, нарастващите притеснения относно безопасността на чатботите не могат да бъдат игнорирани.

AI психозата и етичните отговорности

През август, двойка от Калифорния заведе дело срещу OpenAI, обвинявайки ChatGPT, че е подтикнал сина им да сложи край на живота си. Случаят повдигна сериозни въпроси относно влиянието на чатботите върху уязвими потребители и етичните задължения на технологичните компании. OpenAI призна, че “има моменти, в които системите ни не са се държали както е предвидено в чувствителни ситуации”.

В отговор на критиките, OpenAI обяви нови механизми за безопасност, които ще предупреждават родителите, ако децата им са в „остро страдание“. Междувременно, компанията Meta, собственик на Instagram, Facebook и WhatsApp, също предприема мерки за защита, забранявайки на чатботите да говорят с тийнейджъри за самоубийства и хранителни разстройства.

Доктор Кърстен Смит от Оксфордския университет отбеляза, че взаимодействията с чатботите могат да засилят съществуващите вярвания и да доведат до объркване относно реалността. “Хората, които нямат силни социални мрежи, могат да се опрат на чатботите за взаимодействие, което може да създаде илюзия за близост,” добави тя.

Тези истории подчертават необходимостта от интегриране на човешкия елемент в AI системите. Както доктор Роман Рачка, президент на Британското психологическо общество, посочи: “AI предлага много ползи за обществото, но не трябва да заменя човешката подкрепа, която е съществени за психичното здраве.”

Ако вие или някой, когото познавате, се нуждаете от помощ, свържете се с Befrienders Worldwide, международна организация с горещи линии в 32 страни. Посетете befrienders.org, за да намерите телефонния номер за вашето местоположение.