Институтът Future of Life иска забрана на изследванията с ASI

Future of Life Institute призова за незабавна забрана на всички изследвания, свързани с Изкуствена Суперинтелигентност (ASI), докато експертите не постигнат категоричен научен консенсус относно нейната безопасност и контролируемост. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които предизвикват AI системи, способни да надминат човешкия интелект във всички аспекти.

Въпреки че признава потенциала на напредналите AI технологии да подобрят здравето и благосъстоянието, Future of Life Institute акцентира, че ASI един ден може да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност обхваща теоретичен AI, способен да надмине хората във всички когнитивни задачи, включително творчество, решаване на проблеми и вземане на решения.

Призив за забрана и подкрепа от известни личности

В писмото се посочва: „Призоваваме за забрана на развитието на суперинтелигентност, която да не бъде отменена, преди да има широк научен консенсус, че това ще бъде направено безопасно и контролируемо, и силна обществена подкрепа.“ Този спешен призив е подписан от 865 известни личности от различни области, включително носители на Нобелова награда, артисти, политици и бизнес лидери, както и членове на британското кралско семейство. Сред тях са Принц Хари, херцог на Съсекс; съпругата му Меган Маркъл; носителят на Нобелова награда и пионер в AI Джефри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

История и мисия на института

Future of Life Institute е основан през 2014 г. и се ангажира с безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно спиране на обучението на авангардни AI системи, подобни на GPT-4.

Тези предупреждения подчертават необходимостта от внимателен подход към развитието на изкуствения интелект и рисковете, които той може да донесе за бъдещето на човечеството. С призива за забрана на ASI, Future of Life Institute отправя силно послание за отговорност и внимателност в ерата на новите технологии.