Институтът Future of Life призовава за забрана на ASI изследванията

Институтът Future of Life призова за незабавна забрана на всички изследвания, свързани с Изкуствена свръхинтелигентност (ASI), докато експертите не достигнат категоричен научен консенсус относно безопасността и управляемостта на тези технологии. В писмо, публикувано в сряда, тази базирана в САЩ неправителствена организация изрази предупреждение за дълбоките рискове, които системите за изкуствен интелект могат да представляват, ако в крайна сметка надминат човешкия интелект във всички аспекти.

Въпреки че признават, че авангардните технологии на изкуствения интелект имат потенциал да подобрят здравето и благосъстоянието на хората, представителите на Института подчертават, че ASI може един ден да се превърне в сериозна заплаха за човечеството. Изкуствената свръхинтелигентност описва теоретичен ИИ, способен да превъзхожда хората във всички когнитивни задачи, включително креативност, решаване на проблеми и вземане на решения.

Писмото заявява: “Призоваваме за забрана на развитието на свръхинтелигентност, която да не бъде отменена, преди да има широко научно съгласие, че ще бъде реализирана безопасно и контролируемо, и силна обществена подкрепа.” Тази спешна молба е подписана от 865 видни фигури от различни области – Нобелови лауреати, артисти, политици, бизнес лидери и дори членове на британското кралско семейство.

Сред подписалите са Принц Хари, херцогът на Съсекс, неговата съпруга Меган Маркъл, Нобеловият лауреат и пионер в областта на ИИ Джефри Хинтън, съоснователят на Apple Стив Возняк, бившият президент на Ирландия Мери Робинсън, комикът Стивън Фрай и актьорът Джозеф Гордън-Левит.

Институтът Future of Life, основан през 2014 г., подкрепя безопасното и етично развитие на технологиите за изкуствен интелект. Организацията привлече вниманието на световната общественост миналата година, когато призова за временно спиране на обучението на авангардни ИИ системи като GPT-4.

Непредсказуемите последици от развитието на ASI поставят под въпрос бъдещето на човечеството и необходимостта от задълбочена дискусия и проучване на етичните аспекти на изкуствения интелект. Настоящият призив на Института подчертава спешността на темата и нуждата от отговорно отношение към технологичния напредък.