Институтът Future of Life настоява за забрана на ASI изследвания

Future of Life Institute призова за незабавна забрана на всички изследвания, свързани с изкуствената суперинтелигентност (ASI), докато експерти не постигнат твърд научен консенсус относно нейната безопасност и контролируемост. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които могат да произтекат от AI системи, способни да надминат човешкия интелект във всички аспекти.

Въпреки че се признава, че напредналите технологии на изкуствения интелект имат потенциала да подобрят здравето и благосъстоянието, Future of Life Institute подчерта, че ASI може един ден да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност се описва като теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Писмото гласи: “Призоваваме за забрана на разработването на суперинтелигентност, която да не бъде отменена, преди да постигнем широк научен консенсус, че това ще бъде направено безопасно и контролируемо, и след като имаме силна обществена подкрепа.” Тази спешна молба беше подписана от 865 значими фигури от различни области, включително Нобелови лауреати, артисти, политици и бизнес лидери, дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцог на Съсекс, съпругата му Меган Маркъл, Нобеловият лауреат и пионер в AI Джефри Хинтън, съоснователят на Apple Стив Возняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джоузеф Гордън-Левит.

Future of Life Institute е основан през 2014 г. и се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно спиране на обучението на авангардни AI системи, като GPT-4. Важно е да се подчертае, че призивите на института идват в контекста на нарастващите опасения относно потенциалните рискове от AI, които могат да имат значителни последствия за бъдещето на човечеството.