AI Darwin Awards отличават провалите в изкуствения интелект

Нова награда, наречена AI Darwin Awards, цели да „отличи“ лошите, неуместни или опасни приложения на изкуствения интелект (AI). Организаторите на наградите търсят мнението на интернет потребителите за най-неуспешните примери на AI за 2023 г. Наградата няма връзка с Darwin Awards, която по шеговит начин признава хора, които „случайно премахват собствената си ДНК“ от генофонда по абсурдни начини.

За да спечелят една от наградите, номинираните компании или лица трябва да демонстрират „спектакулярно погрешно преценяване“ при използването на AI и да „игнорират очевидни предупредителни знаци“ преди пускането на своите инструменти или продукти. Допълнителни точки се дават на приложения на AI, които са направили заглавия, изисквали спешна реакция или „родили нова категория изследвания за безопасност на AI“.

Номинации и интересни случаи

Една от одобрените номинации за първите AI Darwin Awards е американската верига бързо хранене McDonald’s. Компанията разработи AI чатбот за набиране на персонал, наречен „Оливия“, който беше защитен с очевидна парола: 123456, което доведе до излагането на данни за наемане на 64 милиона души на хакери.

Друг ранен номиниран е OpenAI за пускането на последния си чатбот модел GPT-5. Френският учен по данни Сергей Березин твърди, че е накарал GPT-5 да изпълни вредни заявки „без никога да вижда директни злонамерени инструкции“.

Как ще се определи победителят?

Победителите ще бъдат определени чрез обществено гласуване през януари 2024 г., а обявяването им се очаква през февруари 2024 г.. Единствената награда е „безсмъртно признание за техния принос към разбирането на човечеството как да не се използва изкуственият интелект“. Надеждата на организаторите е наградите да служат като „предупредителни примери“ за бъдещите вземащи решения, за да се уверят, че те ще тестват AI системите преди да ги внедрят.