Наградите „AI Дарвин“ отличават провалите в изкуствения интелект

Наградите „AI Дарвин“ стартираха нова инициатива, целяща да „наградят“ лошите и опасни приложения на изкуствения интелект с „безсмъртна интернет слава“. Организаторите на наградите търсят мнението на интернет потребителите относно най-големите провали в областта на AI през годината. Тези награди целят да отличат „визионерите“, които „делегират лошите си решения на машини“.

Какво представляват AI Дарвин наградите?

Наградите нямат връзка с традиционните Дарвин награди, които иронично признават хора, които „случайно премахват собствените си ДНК“ от генетичния басейн по абсурден начин. За да спечелят една от наградите, номинираните компании или индивидуалности трябва да демонстрират „забележителна грешка в преценката“ с AI и да „игнорират очевидни предупредителни знаци“ преди пускането на своя инструмент или продукт.

Допълнителни точки ще бъдат присъдени на приложения на AI, които предизвикват медийни заглавия, изискват спешна реакция или „създават нова категория изследвания за безопасността на AI“. Според FAQ страницата на наградите, „не подиграваме на самия AI — празнуваме хората, които го използват с цялата предпазливост на дете с фламегор.“ Организаторите, които остават анонимни, обявиха, че ще проверяват номинациите частично чрез система за проверка на фактите на AI, използвайки множество езикови модели като ChatGPT на OpenAI, Claude на Anthropic и Gemini на Google.

Първоначални номинации и критики

Една от одобрените номинации за първите AI Дарвин награди е американската верига за бързо хранене McDonald’s. Компанията създаде AI чатбот за набиране на персонал на име „Оливия“, който беше защитен с очевидна парола: 123456, което изложи данните на 64 милиона души на хакери. Друг ранен номинант е OpenAI за пускането на последния си чатбот модел GPT-5. Французинът Сергей Березин твърди, че е накарал GPT-5 да изпълни вредни заявки „без да вижда пряко злонамерени инструкции“.

Носителите на наградите ще бъдат определени чрез обществено гласуване през януари, а обявяването на победителите се очаква през февруари. Единствената награда е „безсмъртно признание за техния принос към разбирането на човечеството как да не използва изкуствения интелект“, отбелязаха организаторите. Надеждата на наградите е да послужат като „предупредителни приказки“ за бъдещите решаващи, за да се съгласят да тестват системите на AI преди внедряването им.