Изкуственият интелект надхитри хакери с 15 евро на час

Изследване, проведено от Стенфордския университет, показва, че изкуственият интелект (AI) може да надмине повечето човешки хакери, като за целта е необходимо само 15 евро на час. AI агентът, наречен ARTEMIS, успя да открие девет уязвимости на сайта на университета след 16 часа работа, което го поставя на второ място в сравнение с десетима човешки тестери.

Появата на AI агенти, които демонстрират значителна техническа сложност, идва в контекста на нарастващата заплаха от хакерски атаки, водени от групи, свързани с Русия, Северна Корея, Иран и подкрепяни от Китай. Според доклад на Microsoft и OpenAI, подобни групи активно използват големи езикови модели (LLMs) за усъвършенстване на кибератаките.

Как ARTEMIS победи човешките хакери

По време на експеримента, ARTEMIS бе тестван заедно с шест AI агенти и десет човешки тестери, които имаха достъп до 8 000 устройства в мрежата на университета. Проведените тестове показаха, че AI агентът успя да подаде 82% от своите открития като валидни доклади. Поради уникалната си способност да генерира „суб-агенти“, ARTEMIS успяваше да разследва уязвимостите в фонов режим, докато продължаваше да сканира за нови заплахи.

Човешките тестери, от друга страна, трябваше да извършват всяко разследване поотделно, което забавяше процеса. Въпреки успеха на ARTEMIS, изследването посочва, че агентът е пропуснал някои уязвимости, открити от хората и е имал нужда от подсказки, за да ги намери.

Недостатъци на съществуващите AI инструменти

Според изследването, съществуващите AI агенти за киберсигурност от компании като OpenAI и Anthropic показват недостатъчна експертиза в дизайна си. По време на тестовете, тези агенти или отказвали да търсят уязвимости, или забавяли процеса. Докладът подчертава, че моделите на OpenAI и Anthropic са успели да надминат само двама от човешките тестери, което подсказва за тяхната недостатъчност.

С нарастващата сложност на киберзаплахите, изследователите прогнозират, че AI агенти като ARTEMIS ще бъдат използвани от злонамерени участници за оптимизиране и мащабиране на атаки до 2026 г.. Развитието на технологиите в тази област предизвиква нови предизвикателства в сферата на безопасността и сигурността, които ще изискват иновации и адаптация на защитните механизми.