Изкуствен интелект предизвика паника: фалшиви новини за преврат във Франция

На 14 декември 2023 г. президентът на Франция, Еманюел Макрон, беше шокирано информиран за предполагаем преврат, след като получи съобщение от един от своите африкански колеги. В съобщението се включваше линк към видео в Facebook, което бързо набра над 12 милиона гледания. Видеото показваше хеликоптер, военни и събиращи се тълпи, а жена, изглеждаща като водеща на новини, заявява, че във Франция е извършен преврат, ръководен от неидентифициран полковник.

Въпреки ужаса, причинен от видеото, разкритията показаха, че то е генерирано от изкуствен интелект. След като научи за него, Макрон се обърна към официалния портал на Франция за сигнализиране на онлайн незаконно съдържание, Pharos, с молба за премахване на фалшивото видео. Въпреки усилията му, платформата Meta, собственик на Facebook, отхвърли искането, твърдейки, че видеото не нарушава правилата за ползване.

Реакцията на Макрон и произходът на фалшивото видео

Макрон коментира, че смята, че има повече влияние за оказване на натиск, отколкото обикновените граждани. „Тези хора ни подиграват. Те не се интересуват от публичните дебати и демокрацията“, добави той. Видеото, което предизвика толкова голямо внимание, първоначално бе публикувано от Facebook акаунт с името „Ислам“. Въпреки името си, акаунтът не публикува религиозно съдържание, а управляващият го тийнейджър, базиран в Burkina Faso, печели пари, като предлага курсове за монетизиране на изкуствения интелект.

След като видеото предизвика политическа и обществена полемика, тийнейджърът го премахна повече от седмица след публикуването. Euronews и екипът им за проверка на фактите, The Cube, опитаха да се свържат с него, но не получиха отговор на многобройните си опити.

Технологията зад фалшивите новини

В някои от видеата, генерирани от изкуствен интелект, се виждат водещи с микрофони, носещи логото на Radio France Internationale (RFI). Някои видеа носят водния знак „Sora“, което предполага, че много от съдържанието е произведено с помощта на тази технология. Sora 2, разработена от OpenAI – същата компания, създала Chat GPT, позволява на потребителите да генерират хиперреалистични видеа с дължина 10 секунди на базата на текстови указания.

Технологията предизвика значителна полемика, тъй като от началото на октомври 2023 г. нарасна броят на сложни и трудни за разпознаване AI видеа в социалните мрежи. Ситуацията подчертава необходимостта от по-добра регулация на онлайн съдържанието и поставя под въпрос бъдещето на информацията в ерата на изкуствения интелект.