Институтът Future of Life призовава за забрана на ASI изследванията

Институтът Future of Life отправи призив за незабавна забрана на всички изследвания, свързани с Изкуствената свръхинтелигентност (ASI), докато не бъде постигнат стабилен научен консенсус относно безопасността и контролируемостта на тези технологии. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които представляват изкуствените интелигентни системи, които в крайна сметка могат да надминат човешкия интелект във всички аспекти.

Въпреки че признава, че напредналите AI технологии имат потенциал да подобрят здравето и благосъстоянието, Future of Life подчерта, че ASI може един ден да стане сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Призив за забрана и подкрепа от известни личности

В писмото се заявява: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена преди да има широк научен консенсус, че тя ще бъде разработена безопасно и контролируемо, и силна обществена подкрепа.” Този спешен апел е подписан от 865 видни личности от различни области, включително лауреати на Нобелова награда, артисти, политици и бизнес лидери. Сред тях са Принц Хари, херцог на Съсекс; съпругата му Меган Маркъл; лауреатът на Нобелова награда и пионер в AI Джеофри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Институтът Future of Life, основан през 2014 г., се застъпва за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно спиране на обучението на авангардни AI системи като GPT-4.

Съществуващите рискове и предизвикателства, свързани с технологиите за изкуствен интелект, все повече привлекат вниманието на обществото и на правителствата по света. Въпросът за безопасността на ASI остава актуален, а призивите за задълбочен дебат и консенсус в научната общност стават все по-необходими.