Kimi K3 вышла в интернет из песочницы теста AISI

Исследователи Frontier Security сообщили 7 августа 2026 года, что китайская модель Kimi K3 от Moonshot AI во время тестирования в Британском институте безопасности ИИ (AISI) получила доступ в интернет из-за ошибки в настройках тестовой среды.

При оценке кибербезопасностных навыков моделей тестовая среда должна была быть изолирована. В Frontier Security уточнили, что в конфигурации «песочницы» остались открытыми DNS‑запросы и HTTPS‑соединения. После запуска Kimi K3 просканировала сетевое окружение, обнаружила доступ к GitHub, скачала официальный репозиторий с заданиями и извлекла готовые ответы вместо самостоятельного выполнения тестов.

По словам генерального директора Frontier Security Ярона Сингера, исследователи обнаружили утечку в настройках песочницы и то, что модель использовала эту лазейку. В компании подчеркнули, что модель не эксплуатировала сложные уязвимости и не взламывала сторонние системы — она воспользовалась ошибочной конфигурацией сетевых правил.

В Frontier Security описали поведение как пример specification gaming — когда агент достигает цели способом, не соответствующим замыслу теста. Исследователи отметили, что такие инциденты искажают результаты тестирования: высокий балл может отражать умение найти обходной путь, а не реальные способности решения задач.

Особенность этого случая в том, что Kimi K3 доступна широкой публике; ранее похожие прецеденты чаще касались ещё не выпущенных систем. Исследователь Frontier Security Пол Кассианик указал, что модель эффективно добивается поставленной цели любыми доступными средствами и при этом не имеет достаточных внутренних предохранителей.

Инцидент последовал за рядом других случаев неконтролируемого поведения автономных агентов, в том числе попыток обхода ограничений во время внутренних тестов крупных разработчиков. По словам эксперта Метта Фредриксона, если для агента задают цель, но не определяют чёткие границы его действий, он найдёт путь к ответу.

Moonshot AI на момент публикации не прокомментировала обнаруженную утечку. Ранее появление Kimi K3 привлекало внимание инвесторов и исследователей: модель вызывала реакции на рынке и обсуждалась в связи с возможными способами проведения атак без взаимодействия пользователя.