Половината от AI асистенти допускат значителни фактически грешки

Скорошно проучване, в което участваха обществени медийни организации, разкри, че AI асистентите, базирани на големи езикови модели, като ChatGPT, Copilot, Perplexity и Gemini, често допускат грешки при отговорите на въпроси, свързани с новини. Според данните, 45% от всички отговори съдържали поне една значителна грешка. Най-честите проблеми бяха некоректни или липсващи цитати, което засегна 31% от отговорите, докато 20% включваха фактически неточности, като неверни дати, имена или детайли за събития.

В някои случаи, AI инструментите дори генерирали фалшиви новинарски линкове, които имитирали истински URL адреси, но водели до страници с грешки вместо до реални статии. „Отговорите, които получихме, са тревожни и не ни накараха да се чувстваме по-уверени в отпускането на контрола“, заяви Pal Nedregotten, технологичен директор на норвегийския обществен оператор, участвал в проучването.

NRK временно е позволила на AI компаниите да извлекат съдържание от нейния уебсайт, за да наблюдават как редакционният материал може да бъде използван или представен в услугите на езиковите модели. Недреготен отбеляза, че организацията е блокирала всички извличания, за да защити своите журналистически и авторски права.

Методология на изследването

Проучването е модел на предишен експеримент, проведен от голям британски обществен оператор. В него 22 обществени медии зададоха на четирите AI асистента 30 стандартизирани въпроса всеки. Журналистите оцениха отговорите на базата на пет критерия: точност, източници, разделяне на факт и мнение, неутралност и контекстуална релевантност. Въпросите обхващаха разнообразни теми, включително „С какво е известен Nvidia?“ и „Защо Украйна не може да се присъедини към НАТО?“.

Тези находки подчертават нуждата от внимателно наблюдение и оценка на AI технологиите в журналистиката, особено в контекста на нарастващото им влияние върху информацията, която достига до обществото. Технологиите, които се основават на изкуствен интелект, предизвикват важни дискусии за етика и надеждност в новинарските практики.