Институтът Future of Life иска забрана на изследванията с ASI

Future of Life Institute е отправил призив за незабавна забрана на всички изследвания, свързани с изкуствената свръхинтелигентност (ASI), докато експертите не постигнат категоричен научен консенсус относно безопасността и контролируемостта на тези технологии. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които представляват AI системите, способни да надминат човешкия интелект във всички аспекти.

Организацията признава, че напредналите AI технологии имат потенциал да подобрят здравето и благосъстоянието, но подчертава, че ASI може да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Призив за научен консенсус

В писмото се заявява: „Призоваваме за забрана на разработването на свръхинтелигентност, която да не бъде отменена, преди да има широк научен консенсус, че ще бъде реализирана безопасно и контролируемо, и силна обществена подкрепа.“ Този спешен апел е подписан от 865 видни личности от различни области, включително носители на Нобелова награда, артисти, политици и бизнес лидери, както и членове на британското кралско семейство.

Сред подписалите са Принц Хари, Дюк Съсекс, съпругата му Меган Маркъл, носителят на Нобелова награда и пионер в AI Джефри Хинтън, съоснователят на Apple Стив Уозняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джоузеф Гордън-Левит.

История на института

Future of Life Institute е основан през 2014 г. и се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, когато призова за временно спиране на обучението на авангардни AI системи, като GPT-4. Призивът за забрана на ASI изразява нарастващата загриженост относно бъдещето на изкуствения интелект и неговото въздействие върху човечеството.