Институтът за бъдещето на живота призовава за спиране на ASI изследванията

Институтът за бъдещето на живота призовава за незабранено прекратяване на всички изследвания, свързани с изкуствената суперинтелигентност (ASI), докато експертите не постигнат категоричен научен консенсус относно нейната безопасност и контролируемост. В писмо, публикувано в сряда, неправителствената организация, базирана в САЩ, подчертава дълбоките рискове, които представляват AI системите, способни да надминат човешкия интелект във всички аспекти.

Организацията признава, че напредналите технологии в сферата на изкуствения интелект имат потенциал да подобрят здравето и благосъстоянието, но акцентира, че ASI може да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност, или ASI, описва теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

В писмото се заявява: “Призоваваме за забрана на развитието на суперинтелигентност, която да не бъде вдигната преди да съществува широко научно съгласие, че ще бъде извършено безопасно и контролируемо, и силна обществена подкрепа.” Тази спешна молба е подписана от 865 значими личности от различни области — носители на Нобелова награда, артисти, политици, бизнес лидери и дори членове на британското кралско семейство. Сред тях са Принц Хари, херцог на Съсекс, съпругата му Меган Маркъл, носителят на Нобелова награда и пионер в AI Джеофри Хинтън, съоснователят на Apple Стив Возняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джоузеф Гордън-Левит.

Институтът за бъдещето на живота, създаден през 2014 г., се бори за безопасното и етично развитие на технологии в сферата на изкуствения интелект. Организацията привлече световно внимание миналата година, когато призова за временно прекратяване на обучението на авангардни AI системи, като GPT-4. Този призив подчертава важността на общественото обсъждане и безопасността в контекста на бързо развиващите се технологии.