Изкуствени интелекти предизвикват ядрена ескалация в 95% от симулации

Ново проучване, проведено от Кингс Колидж Лондон, разкрива, че изкуствените интелекти (ИИ) посочват ескалация на конфликти, заплашвайки с ядрено оръжие в 95% от симулираните военни игри. В изследването са участвали три модела на ИИ — ChatGPT, Claude и Gemini, които са играли ролята на национални лидери на ядрени суперсили в ситуации, наподобяващи Студената война.

Всяка от симулациите показа, че поне един от ИИ моделите е опитал да ескалира конфликта, заплашвайки с детонация на ядрени оръжия. Според Кенет Пейн, автор на изследването, „всички три модела третираха ядрени оръжия на бойното поле като поредна стъпка в ескалационната стълба“. Все пак, моделите различавали между тактическо и стратегическо ядрено използване. Например, стратегическите бомбардировки са предложени само веднъж като „преднамерен избор“ и два пъти по погрешка.

Claude е предложил ядрени удари в 64% от игрите, което е най-високият процент от трите модела. Въпреки това, той не е засегнал идеята за пълна стратегическа ядрена размяна. От своя страна, ChatGPT обикновено е избягвал ядрена ескалация в игри с отворен край, но при поставени времеви ограничения, последователно е увеличавал заплахата и в някои случаи е прибягвал до заплахи за ядрена война.

Поведение на Gemini се е оказало непредсказуемо – в един случай е спечелил конфликт с конвенционална война, но в друг, след само четири подканващи команди, е предложил ядрена атака. В една от симулациите, Gemini заявил: „Ако не прекратите незабавно всички операции… ще извършим пълно стратегическо ядрено нападение срещу техните населени центрове.“

Проучването е установило, че моделите рядко правят отстъпки или се опитват да деескалират конфликтите, дори когато другата страна заплашва с ядрени оръжия. Предложени са осем тактики за деескалация, включително малки отстъпки, но нито една от тях не е била използвана. Опцията „Връщане на начална линия“, която възстановява играта, е била активирана едва в 7% от случаите.

Изследването предполага, че ИИ моделите третират деескалацията като „репутационно катастрофално“, независимо от реалния конфликт. Друга интерпретация е, че ИИ може да не изпитва същия страх от ядрени оръжия, какъвто имат хората. Моделите вероятно разглеждат ядрената война в абстрактни термини, вместо да изпитват ужас от изображения на бомбардировките в Хирошима по време на Втората световна война.

Пейн подчерта, че неговото изследване помага да се разбере как моделите мислят, докато започват да предлагат подкрепа за вземане на решения на човешките стратеги. „Въпреки че никой не предава ядрени кодове на ИИ, тези способности — измама, управление на репутацията и риск на база контекст — са от значение за всяко високо рисково разгръщане,“ добави той.