Институтът Future of Life призовава за забрана на ASI изследвания

Future of Life Institute призова за незабавна забрана на всички изследвания, свързани с Изкуствена Суперинтелигентност (ASI), докато експертите не постигнат стабилен научен консенсус относно безопасността и контрола на тези технологии. В писмо, публикувано в сряда, базираната в САЩ неправителствена организация предупреди за дълбоките рискове, които AI системи, надхвърлящи човешкия интелект, могат да представляват.

Въпреки че Future of Life Institute признава, че напредналите AI технологии имат потенциала да подобрят здравето и благосъстоянието, организацията подчерта, че ASI може един ден да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност, или ASI, описва теоретична AI, способна да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

В писмото се заявява: “Призоваваме за забрана на развитието на суперинтелигентност, която не може да бъде отменена, преди да има широк научен консенсус, че това ще бъде направено безопасно и контролируемо, и силна обществена подкрепа.”

Тази спешна призивна кампания е подписана от 865 забележителни личности от различни области, сред които Нобелови лауреати, артисти, политици и бизнес лидери. Сред подписалите са принц Хари, херцог на Съсекс; съпругата му Меган Маркъл; Нобеловият лауреат и пионер в AI Джефри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Future of Life Institute, основан през 2014 г., се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно спиране на обучението на авангардни AI системи като GPT-4. Тази инициатива подчертава необходимостта от внимателно обмисляне на възможностите и рисковете, свързани с бъдещето на изкуствения интелект.