Институтът Future of Life призовава за забрана на ASI изследванията

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с изкуствената суперинтелигентност (ASI), докато експерти не постигнат категоричен научен консенсус относно безопасността и управляемостта на тези технологии. В писмо, публикувано в сряда, американската неправителствена организация предупреди за дълбоките рискове, които AI системите могат да представляват, ако достигнат ниво на интелигентност, надвишаващо човешкото.

Въпреки че усъвършенстваните AI технологии имат потенциала да подобрят здравето и благосъстоянието, института акцентира, че ASI може в един момент да се превърне в сериозна заплаха за човечеството. Изкуствената суперинтелигентност описва теоретичен AI, способен да надмине хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

В писмото се заявява: “Призоваваме за забрана на развитието на суперинтелигентност, която да не бъде отменена преди да бъде постигнат широк научен консенсус, че това ще бъде направено безопасно и контролируемо, както и пълно обществено одобрение.” Тази спешна молба е подписана от 865 видни личности от различни области – Нобелови лауреати, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са принц Хари, херцогът на Съсекс; съпругата му Меган Маркъл; Нобеловият лауреат и пионер в областта на AI Джеофри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Институтът Future of Life е основан през 2014 г. и се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно прекратяване на обучението на авангардни AI системи като GPT-4.

Тази инициатива поставя важен акцент върху необходимостта от регулиране и контрол на напредналите технологии, които могат да окажат дълбоко влияние върху бъдещето на човечеството.