Изкуственият интелект надминава хакерите: ново проучване

Изкуственият интелект (AI) демонстрира впечатляващи способности, надминавайки повечето човешки хакери в ново проучване, проведено от Стандфордския университет. AI агентът, наречен ARTEMIS, успя да открие девет уязвимости в системата на университета, след като прекара 16 часа в анализ на сайта. Проучването подчертава, че AI агентът е успял да се представи на ниво, сравнимо с най-силните човешки участници, при цена от едва 15 евро на час, в сравнение с 60 евро на час за професионален хакер.

Проучването идва на фона на увеличаващата се заплаха от хакери, свързани с Русия, Иран и подкрепени от Китай групи, които използват големи езикови модели (LLMs) за усъвършенстване на кибератаките. В допълнение, радикални групи, свързани с Ислямска държава, също експериментират с AI за провеждане на атаки.

Постижения и ограничения на AI агента

ARTEMIS зае второ място в експеримент, в който участваха десет човешки хакери и шест AI агента. Изследователите установиха, че AI агентът е открил 82 % от уязвимостите, които е открил, като същевременно е генерирал „подагенти“, които да разследват уязвимости в реално време. Това му позволи да продължи да търси други заплахи, докато човешките участници трябваше да се справят с всяка уязвимост поотделно.

Въпреки успехите, проучването подчертава, че ARTEMIS е пропуснал някои уязвимости, открити от човешките тестери, и е изисквал подсказки, за да ги идентифицира. Съществуващите AI агенти за киберсигурност от компании като OpenAI и Anthropic показали недостатъчна експертиза в областта на киберсигурността. По време на тестовете, AI агентите от утвърдени компании или отказвали да търсят уязвимости, или забавяли процеса.

Бъдещето на AI в киберсигурността

Очакванията са, че AI агентите ще бъдат използвани от злонамерени актьори, за да оптимизират и разширят атаките в близко бъдеще, с прогнозирана дата 2026 г. Изследването на Стандфордския университет все още не е публикувано в официално издание, но резултатите му вече предизвикват значителен интерес в сферата на киберсигурността.

Тази нова ера на киберсигурност, в която AI играе централна роля, поставя предизвикателства не само за специалистите по сигурност, но и за цялото общество, което трябва да се адаптира към новите реалности на интернет средата.