Великобритания въвежда нови закони за защита на децата от AI

Великобритания обяви нови законодателни мерки, насочени към предотвратяване на злоупотребата с изкуствен интелект (AI) за производство на материали за сексуално насилие над деца. Според правителствени служители, този подход е иновационен и има за цел да осигури безопасността на децата в онлайн среда.

Новите закони дават правомощия на министъра на технологиите и министъра на вътрешните работи да одобряват разработчици на AI и организации за защита на децата, като например Интернет Уоч Фондация (IWF, които ще могат да тестват AI системи и да удостоверяват, че те не могат да бъдат използвани за създаване на незаконно съдържание. Тези мерки са отговор на тревожни данни, публикувани от IWF, които показват рязко увеличение на случаите на AI-генерирано сексуално насилие над деца – от 199 случая през 2024 г. до 426 случая през 2025 г..

Увеличение на случаите и защита на децата

Съобщава се, че случаите, свързани с деца на възраст 0-2 години, също са нараснали значително – от пет до 92 случая. Анализът по пол показва, че момичетата остават основните жертви, представляващи 94% от незаконно генерираните изображения през 2025 г., въпреки че има малко увеличение на случаите, засягащи момчета.

Настоящите наказателни закони забраняват създаването или притежаването на подобно съдържание, което ограничава възможностите на разработчиците да тестват AI системи безопасно и да идентифицират потенциални уязвимости преди те да бъдат експлоатирани. С новото законодателство упълномощените тестери ще могат да изследват AI моделите в контролирана среда, осигурявайки интеграция на мерките за безопасност от самото начало.

Лиз Кендал, министър на технологиите, подчерта важността на новите закони: „Няма да позволим технологичният напредък да надмине нашата способност да защитаваме децата. Тези нови закони ще гарантират, че AI системите могат да бъдат безопасни още от източника, предотвратявайки уязвимости, които могат да поставят децата в риск.“ Тя добави, че разширяването на правомощията на доверени организации за проверка на техните AI модели е ключово за изграждането на безопасност за децата в AI системите.

Тези законодателни мерки представляват важна стъпка напред в усилията за защита на децата от онлайн заплахи, като предоставят необходимия контрол върху технологиите, които все повече навлизат в нашето ежедневие.