Институтът Future of Life иска забрана на изследванията с ASI

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с изкуствената свръхинтелигентност (ASI), докато експерти не достигнат категоричен научен консенсус относно безопасността и контролируемостта на тези технологии. В писмо, публикувано в сряда, базираната в САЩ неправителствена организация подчертава сериозните рискове, които представляват AI системи, способни да надминат човешкия интелект във всяко отношение.

Въпреки че се признава, че напредналите AI технологии могат да подобрят здравето и благосъстоянието, организацията акцентира, че ASI може в бъдеще да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, способен да превъзхожда хората в всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Призив за забрана и подписали

В писмото се заявява: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена преди да има широк научен консенсус, че това ще бъде осъществено безопасно и контролируемо, и силна обществена подкрепа.” Този спешен апел е подписан от 865 значими личности от различни области – лауреати на Нобелова награда, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите се открояват Принц Хари, херцогът на Съсекс; съпругата му Меган Маркъл; лауреатът на Нобелова награда и пионер в AI Джефри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

История на института и предишни действия

Основан през 2014 г., Future of Life Institute се бори за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, след като призова за временно прекратяване на обучението на авангардни AI системи като GPT-4. Тези действия подчертават нарастващата загриженост относно потенциалните рискове, свързани с развитието на изкуствения интелект.

Призивът на Future of Life Institute отразява нарастващите притеснения в обществото относно бъдещето на изкуствения интелект и необходимостта от ясни етични рамки за неговото развитие. Опасенията, че ASI може да се превърне в неконтролируема сила, подчертават нуждата от отговорен подход в изследванията и разработването на нови технологии.