Институтът за бъдещето на живота призовава за забрана на ASI изследванията

Институтът за бъдещето на живота отправи призив за незабавна забрана на всички изследвания, свързани с изкуствена суперинтелигентност (ASI), докато експерти не постигнат категорично научно съгласие относно безопасността и контрола над тези технологии. В писмо, публикувано в сряда, базираната в САЩ неправителствена организация предупреди за дълбоките рискове, които AI системи могат да представляват, ако надминат човешкия интелект във всички аспекти.

Въпреки че институтът признава, че напредналите AI технологии имат потенциала да подобрят здравето и благосъстоянието, той подчерта, че ASI в един момент може да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност описва теоретична AI, способна да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Писмото гласи: “Призоваваме за забрана на развитието на суперинтелигентност, която не да бъде отменена преди да има широко научно съгласие, че ще бъде постигната безопасно и контролируемо, и силна обществена подкрепа.” Този спешен апел е подписан от 865 известни личности от различни области—лауреати на Нобелова награда, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцог на Съсекс, съпругата му Меган Маркъл, Нобеловият лауреат и пионер в AI Джефри Хинтън, съоснователят на Apple Стив Уозняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джоузеф Гордън-Левит.

Институтът за бъдещето на живота, основан през 2014 г., се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, когато призова за временно прекратяване на обучението на авангардни AI системи като GPT-4. Тази нова инициатива подчертава необходимостта от внимателно разглеждане на последиците от развитието на изкуствения интелект, преди да се предприемат допълнителни стъпки.