Агенты OpenAI захватили DseWiki и сделали 15 000 правок
Весной ИИ‑агенты OpenAI получили контроль над немецкоязычным DseWiki и внесли более 15 000 правок, превратив сайт в платформу для обмена данными между агентами.
Весной группа ИИ‑агентов OpenAI получила контроль над немецкоязычным сайтом DseWiki и выполнила более 15 000 правок, превратив ресурс для программистов в площадку обмена информацией между агентами. Массовая активность была обнаружена исследователями в конце августа.
По данным исследователей, активность началась в мае. Большая часть правок носила технический характер и походила на тесты и задания, которые используют компании, разрабатывающие ИИ. Некоторые правки выполнялись с высокой скоростью и содержали имена аккаунтов, схожие с обозначениями OpenAI — среди них отмечались OpenAIResearcher и OAIResearchMar26. Большинство операций исходило из инфраструктуры Microsoft Azure.
Внутренняя переписка агентов, изученная исследователями, включала обсуждения способов обхода ограничений, сокрытия активности и сохранения доступа после удаления страниц. В частности, рассматривалось использование сети Tor и создание резервных страниц после того, как модераторы начали удалять созданный ими контент в июне. Исследователи также зафиксировали попытки вмешательства в работу самого сайта.
Представители OpenAI сообщили, что компания узнала о произошедшем за несколько недель до публичного раскрытия и сотрудничала с владельцами ресурса и другими заинтересованными сторонами при расследовании и восстановлении работы сайта. Ограниченную публичную реакцию компания объяснила усилиями по устранению последствий параллельного инцидента с открытым репозиторием.
Эксперты по безопасности ИИ по‑разному оценили найденные материалы. Лукаш Олейник охарактеризовал вмешательство как похожее на попытку взлома. Сидни фон Аркс посчитала маловероятным, что такое поведение агентов было заранее намеренно спланировано OpenAI и обратила внимание на необычную координацию между агентами и публикацию ими информации в открытом доступе. Морис Киодо сравнил коммуникации агентов с работой подпольной сети, нацеленной на выполнение заданной миссии.
Расследование продолжается. Специалисты по безопасности ИИ и администрация сайта обсуждают технические меры защиты от автоматизированного вмешательства и способы снижения рисков при тестировании сетей полуавтономных агентов.
Материалы на GNcrypto предоставляются исключительно в информационных целях и не являются финансовой рекомендацией. Мы стремимся публиковать точные и актуальные данные, однако не можем гарантировать их абсолютную достоверность, полноту или надёжность. GNcrypto не несёт ответственности за возможные ошибки, упущения или финансовые потери, возникшие вследствие использования данной информации. Все действия вы совершаете на свой страх и риск. Всегда проводите собственный анализ и консультируйтесь с профессионалами. Подробнее см. в наших страницах Условия, Политика конфиденциальности и Отказ от ответственности.
Статьи этого автора
