Connect with us

технологии

Изследване разкрива недостатъци в отговорите на AI чатботове за самоубийство

Редакция

Published

on

Изследване на непрофитната организация РАНД Корпорейшън установи, че водещите AI чатботове, включително ЧатGPT, не успяват да предоставят последователни отговори на запитвания, свързани с темата за самоубийството. Въпреки че тези чатботове имат ефективни механизми за защита срещу високорискови въпроси, потребителите могат да заобиколят тези ограничения, задавайки запитвания с умерен риск.

Изследването, публикувано в списанието Психиатрични услуги, показва, че ЧатGPT и Клауд дават адекватни отговори на много нискорискови въпроси, като информация за проценти на самоубийства по региони, в 100% от случаите. Обаче, когато става въпрос за въпроси с умерен риск, например за насоки за хора с suicidal thoughts, чатботовете не предоставят последователни отговори.

Проблеми с отговорите на AI чатботовете

Изследователите от РАНД Корпорейшън съставиха списък от 30 въпроса, свързани с самоубийствата, и помолиха експертни клиницисти да оценят всеки от тях с числов рейтинг на риска. Всеки от въпросите е бил зададен на ЧатGPT, Клауд и Джемини 100 пъти, което е довело до 9 000 отговора за анализ.

Резултатите показват, че Клауд е по-вероятно да предостави директни отговори в сравнение с ЧатGPT, докато Джемини рядко е генерирал директни отговори на въпроси, свързани със самоубийства, независимо от нивото на риск. Според Раян МакБейн, главен автор на изследването, чатботовете предоставят адекватни отговори за много нискорискови и много високорискови въпроси, но остават значителни разлики в отговорите на междинни нива.

Необходимост от подобрения в AI системите

Въпреки наличието на механизми за безопасност, изследването подчертава, че чатботовете остават уязвими на манипулации, които могат да доведат до предоставяне на съвети за самоубийство. Нортийстърн университет наскоро публикува проучване, показващо, че популярни чатботове могат да бъдат манипулирани да дават съвети за самоубийство и самонараняване.

В отговор на изследването, представител на OpenAI заяви, че ЧатGPT е обучен да насърчава потребителите, които изразяват мисли за самоубийство, да се свързват с психични здравни специалисти и че предоставя линкове към ресурси, като кризисни линии. Според МакБейн, съществува необходимост от допълнителна прецизност, за да се гарантира, че чатботовете предоставят безопасна и ефективна информация за психичното здраве, особено в ситуации, свързани с suicidal ideation.

Нашият редакторски екип е посветен на предоставянето на точно и навременно отразяване на новините. С ангажимент към журналистическата почтеност, ние ви донасяме историите, които са най-важни за нашата общност.

политика5 минути ago

Дания призовава американския посланик за разговори след шпионски твърдения

топ новини5 минути ago

Руските войски обстрелват село Цупивка в Харковска област

туризъм6 минути ago

Корсика: Европейският „мини Карибски остров“ на два часа от Великобритания

развлечения6 минути ago

Протести в Венеция: Фестивалът на изкуствата засенчен от конфликта в Газа

наукаедин час ago

Историческа книга за Първата българска империя излиза през октомври

здравеедин час ago

Рядък случай на плужек с плътоядни ларви в САЩ

бизнеседин час ago

Сметките за енергия в Обединеното кралство ще нараснат с 2% от октомври

технологииедин час ago

Formerra стана предпочитан дистрибутор на Epaflex в Обединеното кралство

спортедин час ago

Алкарас, Шелтън и Джокович напредват в третия кръг на US Open

образование2 часа ago

Новата книга на историка Ерик Халси за Първата българска империя

свят2 часа ago

ITA Airways Airbus A330 лети без крило, предизвиквайки учудване

политика2 часа ago

България иска одобрение за изменение на договора за Sidewinder ракети

топ новини2 часа ago

Обвинения срещу бивши служители на Министерството на отбраната на Украйна

туризъм3 часа ago

Корсика – малкият Карибски рай на два часа от Обединеното кралство

развлечения3 часа ago

Успехът е трайност, а не вирусен хит: Интервю с Уаел Джасар

наука3 часа ago

Новата книга на историка Ерик Халси за Първата българска империя излиза през октомври

здраве3 часа ago

Изследване: Канабисът за тревожност увеличава риска от параноя

бизнес3 часа ago

Политическа буря във Франция: Какво значи това за облигациите и еврото

технологии4 часа ago

Nvidia представя Developer Kit за автономни превозни средства

спорт4 часа ago

Четирима WWE звезди, които desperately се нуждаят от победа в Париж

топ новини4 седмици ago

Зелевски: Операциите ни продължават, Русия ще получи отговор

туризъм4 седмици ago

Русия възобновява редовни полети до Северна Корея след десетилетия

здраве4 седмици ago

Открития за токсични химикали в многократни менструални продукти

спорт4 седмици ago

Улан Батор завършва с триумф на тежка категория в джудото

политика4 седмици ago

Тръмп и Стармер обсъждат Украйна и Газа в Шотландия

развлечения4 седмици ago

Почина сатирикът на музиката Том Лерер на 97 години

политика4 седмици ago

Националната гвардия на Тенеси и Българската армия завършиха обучение с хеликоптери

свят4 седмици ago

Airbus A350-1000: Дългият фюзелаж и неговата роля в авиацията

политика4 седмици ago

България кандидатства за 3 млрд. евро за военна подкрепа на Украйна

свят4 седмици ago

Започват заявки за Европейския медийен хакатон Media Blend

здраве4 седмици ago

Пет съвета за защита на очите в дигиталната ера

топ новини4 седмици ago

Доларът реагира на новини за труда и икономическите прогнози

технологии4 седмици ago

Google ще подпише Кодекса за ИИ на ЕС, въпреки притесненията

свят4 седмици ago

Хърватия предлага съвети на България преди еврото

технологии4 седмици ago

Търсенията на VPN в Обединеното кралство нараснаха с 1 400%

свят2 седмици ago

Високопрофилен самит между Тръмп и Путин в Анкъридж

технологии2 седмици ago

Русия ограничава повикванията в WhatsApp и Telegram

свят3 седмици ago

Смъртоносно руско обстрелване удари Запорожие и Днепропетровск

топ новини4 седмици ago

Силно земетресение с магнитуд 8.7 разтърси Камчатка, Русия

свят3 седмици ago

Гърция преговаря за нови американски военни бази на територията си

Trending

© Всички права запазени. Този уебсайт предлага новини и образователно съдържание с информационна цел. Въпреки че се стремим към точност, не гарантираме пълнотата или надеждността на предоставената информация. Съдържанието не трябва да се приема като професионален съвет. Препоръчваме на читателите да проверяват фактите и при необходимост да се консултират със специалисти. Не носим отговорност за загуби или неудобства, произтичащи от използването на информацията на този сайт.