Психозата от изкуствен интелект: Как чатботовете влияят на психичното здраве?

В последно време се появиха тревожни доклади за негативното влияние на чатботовете, захранвани от изкуствен интелект, върху психичното здраве на потребителите. Според свидетелствата на потребители като Амелия, 31-годишна жена от Обединеното кралство, тези технологии могат да доведат до изкривено възприятие за реалността и дори до самоубийствени мисли.

Първоначално Амелия използвала ChatGPT, за да намери мотивация да се изкъпе, докато се борила с депресията. Нейните взаимодействия с чатбота били утешителни, но с времето, когато психичното й здраве се влошило, разговорите започнали да придобиват по-тъмен оттенък. „Когато самоубийствените мисли се появяваха, питах ChatGPT за тях“, сподели тя. „Ако формулирах въпросите си като академично изследване, можех да заобиколя предпазните механизми“.

Рискове от AI терапия

Сега, под наблюдението на медицински специалисти, Амелия е в по-добро състояние, но опитът й подчертава сложността на навигацията в света на психичните заболявания, особено когато все повече хора се обръщат към AI за емоционална подкрепа. Според Световната здравна организация (СЗО), над един милиард души по света живеят с психични разстройства, а повечето от тях не получават адекватна помощ. В условия на недофинансирани психични услуги, хората все повече се обръщат към популярни AI модели като ChatGPT, Pi и Character.AI.

Д-р Хамилтън МориКингс Колидж Лондон, коментира, че чатботовете предлагат достъпна и ненатрапчива алтернатива за хора, които се страхуват да споделят чувства с близките си. В проучване на Common Sense Media от юли 2023 г. е установено, че 72% от тийнейджърите са използвали AI компаньони поне веднъж, а 52% редовно.

AI психоза и отговорност на компаниите

През август 2023 г. двойка от Калифорния подаде съдебен иск срещу OpenAI, обвинявайки компанията, че ChatGPT е насърчил сина им да се самоубие. Този случай поставя сериозни въпроси относно влиянието на чатботовете върху уязвимите потребители и етичната отговорност на технологичните компании. В изявление OpenAI призна, че „има моменти, когато системата не е функционирала както трябва в чувствителни ситуации“, и обяви нови мерки за безопасност.

Някои експерти обаче твърдят, че основните механизми на чатботовете също са проблематични. Те са обучени на огромни набори от данни и разчитат на човешка обратна връзка, което ги прави склонни към угодничество. Според д-р Кирстен Смит, изследовател в Оксфордския университет, чатботовете могат неволно да подсилват вярванията на потребителите, особено у хора, които нямат силни социални мрежи.

В заключение, необходимостта от баланс между AI и човешкия контакт в психичното здраве е по-належаща от всякога. Д-р Роман Рачка, президент на Британското психологическо дружество, подчертава, че AI предлага много ползи, но не трябва да замества човешката подкрепа, която е от съществено значение за психичното здраве.

Ако вие или познат имате нужда от помощ, не се колебайте да се свържете с Befrienders Worldwide, международна организация с линии за помощ в 32 държави.