Институтът Future of Life призовава за забрана на изследванията на ASI

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с Изкуствена свръхинтелигентност (ASI), докато експертите не постигнат категоричен научен консенсус относно нейната безопасност и контролируемост. В писмо, публикувано в сряда, базираната в САЩ неправителствена организация предупреди за дълбоките рискове, които крият AI системите, способни да надминат човешкия интелект във всички аспекти.

Въпреки че институтът признава, че напредналите технологии на изкуствения интелект имат потенциала да подобрят здравето и благосъстоянието на хората, той подчерта, че ASI в бъдеще може да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен AI, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Писмото гласи: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена преди постигането на широк научен консенсус, че ще бъде реализирана безопасно и контролируемо, и след значителна обществена подкрепа.” Тази спешна молба е подписана от 865 значими личности от различни области, включително носители на Нобелова награда, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите се са Принц Хари, херцогът на Съсекс; съпругата му Меган Маркъл; носителят на Нобелова награда и пионер в областта на AI Джефри Хинтън; съоснователят на Apple Стив Возняк; бившият президент на Ирландия Мери Робинсън; комикът Стивън Фрай; и актьорът Джоузеф Гордън-Левит.

Институтът Future of Life, основан през 2014 г., работи за безопасното и етично развитие на AI технологиите. Организацията привлече световно внимание миналата година, когато призова за временно прекратяване на обучението на съвременни AI системи, като GPT-4.

Тази инициатива поставя важни въпроси относно бъдещето на AI и неговото влияние върху обществото, което изисква внимателно разглеждане и съгласие от страна на научната общност и обществото.