OpenAI обяснява защо AI модели „халюцинират“ и как да се предотврати

OpenAI обяви, че е намерила решение на проблема с „халюцинациите“ при големите езикови модели (LLMs). Според ново изследване, компанията е установила, че алгоритмите награждават чатботовете за предположения, вместо да признават, когато не знаят отговора. Тези „халюцинации“ възникват, когато LLMs категоризират нови наблюдения в две категории, без да могат да признаят несигурността си.

Изследователите сравняват тази ситуация с ученици, които предполагат отговори на тестове с множество избори. Подаването на отговор, дори и да е грешен, носи повече точки в сравнение с оставянето на отговорите празни. LLMs работят с точкова система, при която за верен отговор получават една точка, а за празен отговор или признание, че не знаят, не получават нищо.

Нови открития за „халюцинациите“

Докладът на OpenAI идва само няколко седмици след пускането на GPT-5, модел, който компанията твърди, че е „устойчив на халюцинации“ с 46% по-малко неверни отговори в сравнение с предшественика си GPT-4. Въпреки това, проучване на американската компания NewsGuard показва, че моделите на ChatGPT в общи линии разпространяват неверни данни в 40% от отговорите си.

Изследователите от OpenAI подчертават, че AI моделите никога няма да бъдат 100% точни, тъй като „някои реални въпроси по същество са неизговорими“. Например, алгоритмите могат да класифицират изображения като „котка или куче“, но ако изображенията са етикетирани след рождения ден на животното, чатботът няма да може да ги категоризира точно. Такъв тип задачи винаги ще произвеждат грешки, независимо от напредъка на алгоритъма.

Как да ограничим „халюцинациите“

За да се намалят „халюцинациите“, потребителите могат да инструктират LLM да отговаря с „не знам“, когато не знае отговора. Освен това, OpenAI предлага модификация на съществуващата точкова система, която да отразява типовете отговори, които моделите предлагат.

Тази информация е важна за всички, които разчитат на AI технологии в различни сфери, от образованието до бизнеса, като подчертава необходимостта от по-голяма прозрачност и точност в отговорите на AI.