Холандската агенция предупреждава за рисковете от AI чатботи за избори

Холандската агенция за защита на данните (AP) отправи категорично предупреждение, че потребителите не трябва да разчитат на чатботи при вземането на решения за гласуване, тъй като страната се подготвя за предсрочни парламентарни избори на 29 октомври 2023 г. Според AP, AI инструментите, като ChatGPT и Gemini, могат да бъдат ненадеждни и предразположени към пристрастия.

В неотдавнашно проучване, Агенцията подложи на тест четири чатбота — ChatGPT, Gemini, Grok и Le Chat, предоставяйки им 200 типични профила за гласуване на политическите партии, активни в холандския парламент. Резултатите показаха, че чатботите последователно препоръчвали един от двата основни политически лагера, независимо от въпросите на потребителите. В 56% от случаите те насочвали потребителите към партиите, прогнозирани да спечелят най-много места: партия „Свобода“ (PVV) на Геерт Вилдерс или партия „Зелени леви“ (GL/PvdA) на Франс Тиммерманс.

Йост ван дер Бурт, проектен мениджър в AP, посочи, че наблюдаваната тенденция представлява опростяване на политическия ландшафт в Холандия. „Едната партия отляво привлича почти всички гласове в този сектор, същото важи и за партията отдясно,“ каза той. Агентството отбеляза, че възгледите от централната политическа позиция са недопредставени, докато по-малки партии като движението „Фермер-граждани“ и християнско-демократическия призив почти никога не бяха споменавани.

Непрозрачност и неясност при AI системите

Ван дер Бурт подчерта, че недостатък на генериращия AI е, че той не може да различи партии с близки позиции по важни въпроси. „Генериращият AI избира политическа партия, която съответства на определена страна от политическия спектър,“ добави той. В допълнение, новият Европейски закон за изкуствения интелект, влязъл в сила през август 2024 г., определя условията, при които AI системата може да бъде квалифицирана като „висок риск“.

Според изследователите, фактът, че чатботите предоставят съвети за гласуване, може да означава, че те попадат в категорията на „високорисковите системи“. Ван дер Бурт подчерта, че липсата на регулация увеличава риска от манипулация на избирателите. „Въпреки че в много ситуации чатботите ясно посочват, че не могат да помогнат, при съветите за гласуване не съществува подобен механизъм,“ заключи той.

Алтернативи на AI чатботите

В контекста на търсенето на надеждни алтернативи, AP сравни резултатите на чатботите с установени инструменти за онлайн съвети за гласуване в Холандия, като StemWijzer и Kieskompas, които се базират на данни, а не на AI. Тези инструменти задават на избирателите серия от 30 въпроса, за да определят с коя политическа партия те са най-склонни да се идентифицират.

В Германия, правителствено одобреният и широко използван Wahl-O-Mat сравнява политическите позиции на избирателите с позициите на политическите партии, за да установи най-подходящата партия. Според експертите, тези инструменти са по-малко вероятно да предоставят предубедени резултати, в сравнение с тези, използващи генеративен AI.

Въпреки рисковете, много специалисти смятат, че чатботите имат потенциал да бъдат полезен инструмент за вземане на политически решения, при условие че се използват правилно. „Не трябва да делегираме такива важни решения на машина,“ каза Дзянлонг Чу, докторант в Университета на Саарланд. Той подчерта, че чатботите могат да бъдат полезни в контекста на образованието, като помагат на избирателите да се запознаят с политическия ландшафт.

Въпреки всичко, необходимостта от отговорно използване на AI чатботи по време на избори остава важна. „Избирателите трябва да задават въпроси за партиите, вместо просто да получават препоръки,“ завърши Чу.