Великобритания въвежда нови закони срещу злоупотребата с ИИ и деца

Великобритания обяви нова законодателна инициатива, насочена към предотвратяване на злоупотребата с изкуствен интелект (ИИ) за производството на материали за сексуално насилие над деца. Според официалните лица, това е иновационен опит за защита на децата в онлайн среда. Законите дават правомощия на министъра на технологиите и министъра на вътрешните работи да упълномощават разработчици на ИИ и организации за защита на децата, като Internet Watch Foundation (IWF), да тестват ИИ системи и да потвърдят, че те не могат да бъдат експлоатирани за създаване на незаконно съдържание.

Тази стъпка е в отговор на тревожни данни от IWF, които показват рязко увеличение на докладите за материали за сексуално насилие над деца, генерирани от ИИ – от 199 случая през 2024 г. до 426 случая през 2025 г.. Случаите, свързани с деца на възраст от 0 до 2 години, също се увеличават драстично, нараствайки от пет на 92 случая. Анализът по пол показва, че момичетата остават основни жертви, представлявайки 94% от незаконните изображения, генерирани от ИИ през 2025 г., въпреки че е регистрирано и леко увеличение на случаите с момчета.

Съществуващите наказателни закони забраняват създаването или притежанието на подобно съдържание, което ограничава възможностите на разработчиците да тестват ИИ системите безопасно, за да идентифицират потенциални уязвимости преди те да бъдат експлоатирани. Новата законодателна инициатива ще позволи на упълномощени тестери да разглеждат ИИ модели в контролирана среда, гарантирайки, че мерките за безопасност са интегрирани от самото начало.

Лиз Кендъл, министър на технологиите, заяви: „Няма да позволим технологичният напредък да надмине нашата способност да защитаваме децата. Тези нови закони ще гарантират, че ИИ системите могат да бъдат направени безопасни от самото начало, предотвратявайки уязвимости, които биха могли да поставят децата в риск.“ Тя добави, че чрез упълномощаване на доверени организации да анализират своите ИИ модели, се осигурява, че безопасността на децата е проектирана в ИИ системите, а не добавена след факта.

Тези мерки отразяват ангажимента на Великобритания да се бори с нарастващите заплахи за деца в цифровото пространство и подчертават важността на сътрудничеството между правителството и неправителствените организации за защита на най-уязвимите членове на обществото.