Институтът Future of Life призовава за забрана на ASI изследванията

Future of Life Institute призова за незабавна забрана на всички изследвания, свързани с изкуствената суперинтелигентност (ASI), докато експертите не постигнат категорично научно съгласие относно безопасността и контролирането на тези технологии. В писмо, публикувано на 25 октомври 2023 г., американската неправителствена организация предупреди за дълбоките рискове, които AI системите могат да създадат, ако в бъдеще надминат човешката интелигентност във всички аспекти.

Въпреки че признава, че напредналите AI технологии имат потенциала да подобрят здравето и благосъстоянието, Future of Life Institute подчерта, че ASI може да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност описва теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Призив за спиране на развитието на суперинтелигентността

В писмото се заявява: “Призоваваме за забрана на развитието на суперинтелигентност, която да не бъде отменена, преди да има широко научно съгласие, че ще бъде реализирана безопасно и контролируемо, и силна обществена подкрепа.” Този спешен призив е подписан от 865 видни личности от различни области, включително носители на Нобелова награда, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцогът на Съсекс; съпругата му Меган Маркъл; носителят на Нобелова награда и пионер в AI Джеофри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Внимание към безопасността на AI технологиите

Future of Life Institute, основан през 2014 г., се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно спиране на обучението на авангардни AI системи като GPT-4. Според техните изчисления, опасностите, свързани с развитието на ASI, изискват внимателно разглеждане и обществено обсъждане, преди да продължат подобни изследвания.

В заключение, призивът на Future of Life Institute подчертава необходимостта от отговорен подход към разработването на нови технологии, които могат да променят коренно нашето общество. Със значителния брой влиятелни участници, подписали писмото, настоятелността на искането е неоспорима и поставя важен акцент върху необходимостта от научна и обществена отговорност в ерата на AI.