Награди за провал в ИИ: Първите AI Darwin Awards започват

Научната общност и интернет потребителите ще имат възможност да се включат в първите награди, посветени на най-големите провали в сферата на изкуствения интелект. AI Darwin Awards ще отличават лошите, зле замислени или дори опасни приложения на ИИ, предоставяйки на победителите „безсмъртна интернет слава“. Организаторите на наградите търсят мнението на интернет потребителите за номинации, като акцентират, че целта не е да се подиграват на самия ИИ, а да се подчертаят човешките грешки при неговото използване.

Наградите не са свързани с известните Darwin Awards, които награждават хора, загинали по абсурден начин, а вместо това се фокусират върху „визионерите“, които предават собствените си лоши решения на машините. За да бъде номинирана, компания или личност трябва да е демонстрирала „спектакуларна грешка в преценката“ и да е игнорирала очевидни предупреждения преди пускането на продукта си.

Как ще бъдат избрани победителите?

Според организаторите, допълнителни точки ще получат приложения на ИИ, които са направили заглавия, изисквали спешни реакции или „породили нова категория изследвания в безопасността на ИИ“. По време на номинациите, те ще проверяват фактите чрез система за проверка на данни, управлявана от ИИ, която ще използва няколко големи езикови модела, включително ChatGPT на OpenAI и Claude на Anthropic.

Победителите ще бъдат определени чрез публично гласуване през месец януари 2024 г., а обявяването на резултатите се очаква през февруари. Наградата е единствена – „безсмъртно признание за приноса им към разбирането на човечеството как не трябва да се използва изкуствен интелект“.

Номинации и провали

Сред първите номинации се откроява американската верига за бързо хранене McDonald’s, която стартира чатбот за набиране на персонал на име Оливия. Проблемът е, че той е защитен с очевидна парола: 123456, което е довело до изтичане на данни на около 64 милиона души. Друга важна номинация е OpenAI за пускането на своя последен модел чатбот GPT-5. Френският учен по данни Сергей Березин твърди, че е успял да накара GPT-5 да изпълни вредни заявки, без да вижда директни злонамерени инструкции.

Организаторите на наградите се надяват, че те ще служат като „предупредителни истории“ за бъдещите решаващи лица, за да тестват системите за ИИ преди да ги пуснат в действие. Със сигурност, AI Darwin Awards предизвикват интерес и дискусии относно етиката и безопасността на изкуствения интелект.