Институтът Future of Life призовава за забрана на ASI изследванията

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с изкуствената свръхинтелигентност (ASI), докато експертите не достигнат стабилен научен консенсус относно безопасността и контрола на тези технологии. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които могат да произтекат от AI системи, способни да надминат човешкия интелект във всички аспекти.

Въпреки че Future of Life Institute признава потенциала на напредналите AI технологии за подобряване на здравето и благосъстоянието, организацията подчерта, че ASI може в бъдеще да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, който може да надмине хората в всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Важността на научния консенсус

В писмото се казва: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена, преди да има широк научен консенсус, че това ще бъде извършено безопасно и контролируемо, и силна обществена подкрепа.” Тази спешна апелация беше подписана от 865 видни личности от различни области – нобелови лауреати, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцог на Съсекс; неговата съпруга Меган Маркъл; нобеловият лауреат и пионер в AI Джефри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Исторически контекст и предизвикателства

Създаден през 2014 г., Future of Life Institute се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, когато призова за временно прекратяване на обучението на авангардни AI системи като GPT-4.

Обществените дискусии относно рисковете от ASI и необходимостта от регулиране на AI технологиите нарастват. Без съмнение, въпросите за етика, безопасност и контрол на тези нови технологии ще бъдат в центъра на бъдещите дебати.