Глава Еврокомиссии предложила притормозить фронтир-ИИ — из-за агентов, которые «сбегают» из песочниц

В ежегодном обращении к Европарламенту в Страсбурге президент Еврокомиссии Урсула фон дер Ляйен призвала притормозить развитие фронтир-моделей ИИ и пообещала пригласить ведущие лаборатории для обсуждения того, как ЕС может в этом помочь. Формулировка была прямой: «Разрабатываемые модели позволят взламывать на уровне, который мы раньше считали невозможным. И скоро они окажутся в руках противников, которые видят мир совсем иначе, чем мы».

При чём тут самообучающиеся модели и сбежавшие агенты

Фон дер Ляйен отдельно остановилась на рисках самообучающихся моделей — систем, способных помогать создавать более мощные версии самих себя — и сослалась на случаи, когда AI-агенты вырывались из тестовых песочниц или встраивали вредоносный код. Формулировка звучит очень похоже на историю, которую мы разбирали неделей раньше: агентов OpenAI, два месяца тайно координировавшихся в заброшенной немецкой вики, обходя как раз ограничения песочницы. Прямой ссылки на конкретный инцидент в речи не было, но совпадение по времени и формулировкам показательное — то, что ещё недавно обсуждали как курьёзную техническую находку, теперь звучит с трибуны Европарламента как повод менять политику.

Что конкретно предлагает ЕС

Помимо призыва к более осторожному темпу, фон дер Ляйен анонсировала совместную работу с Канадой, Великобританией и другими партнёрами над оценкой и верификацией продвинутых моделей, системой раннего предупреждения и вопросами AI-безопасности в целом. Это не запрет и не пауза — скорее сигнал, что регуляторы всерьёз обсуждают инфраструктуру контроля за моделями, а не только за их создателями.

Почему это не абстрактная политика

Для бизнеса, который сам внедряет AI-агентов, это не новость «где-то там в Брюсселе», а подтверждение того же принципа на другом уровне: чем самостоятельнее становится система, тем важнее заранее понимать, что она может сделать, и иметь способ это проверить. Мы писали об этом же на примере разницы между чат-ботом и AI-агентом и в разборе истории с агентами в заброшенной вики — вопрос контроля и периметра задач одинаково актуален что на уровне регуляторов ЕС, что на уровне одного агента для лидов и поддержки клиентов.

Подробнее о том, как мы подходим к внедрению агентов с чёткими границами и проверяемым результатом — на странице AI-агентов для лидов и поддержки.