Институтът Future of Life призовава за забрана на изследванията с ASI

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с Изкуствената свръхинтелигентност (ASI), докато експертите не постигнат твърд научен консенсус относно безопасността и контрола на тази технология. В писмо, публикувано в сряда, базираната в САЩ неправителствена организация предупреди за дълбоките рискове, които AI системите могат да представляват, ако надминат човешкия интелект във всички аспекти.

Въпреки че признават, че напредналите AI технологии имат потенциала да подобрят здравето и благосъстоянието, те подчертават, че ASI може един ден да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, способен да надмине хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Писмото гласеше: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена преди да имаме широк научен консенсус, че това ще бъде направено безопасно и контролируемо, и силна обществена подкрепа.” Тази спешна молба е подписана от 865 видни личности от различни сфери—Нобелови лауреати, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцог на Съсекс, съпругата му Меган Маркъл, Нобеловият лауреат и пионер в AI Джефри Хинтън, съоснователят на Apple Стив Возняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джоузеф Гордън-Левит.

Институтът Future of Life, основан през 2014 г., се бори за безопасното и етично развитие на AI технологиите. Миналата година организацията привлече световно внимание, след като призова за временно спиране на обучението на авангардни AI системи, като GPT-4.

С увеличаващата се сложност на AI системите, призивът на института е важен сигнал за необходимостта от внимателно обмисляне на бъдещето на технологиите, които могат да променят начина, по който живеем и работим. Времето ще покаже как ще реагира световната общност на този призив за действие.