Белый дом попросил не передавать ИИ-модели британскому AISI
Управление национального кибердиректора США обратилось к OpenAI и Anthropic с просьбой приостановить передачу новых моделей агентству AISI до завершения проверок безопасности.
Управление национального кибердиректора США обратилось к лабораториям OpenAI и Anthropic с просьбой приостановить передачу новых моделей британскому агентству по тестированию AISI до завершения внутренних проверок безопасности.
По сведениям из источников, просьба охватила компании, которые ранее предоставляли AISI ранний доступ к обновлениям. В администрации считают необходимой оценку рисков для инфраструктуры и данных США перед тем, как делиться моделями с зарубежными партнёрами.
Anthropic согласилась выполнить просьбу и не передала AISI модель Claude Mythos 5.1; к ней открыли доступ лишь некоторым организациям в США. OpenAI пока согласовывает свои действия с властями и рассматривает дальнейшие шаги.
В начале сентября директор AISI Генри де Зуте сообщил парламентскому комитету, что институт не получил новую модель для проверки. Он добавил, что до публичного релиза AISI тестировал GPT-6 Astra от OpenAI и использовал ранний доступ для оценки возможностей моделей.
AISI создан в 2023 году и действует на добровольной основе. Институт регулярно получает ранний доступ к моделям ведущих лабораторий для испытаний до публичного запуска, что позволяет выявлять потенциальные угрозы и уязвимости и готовить рекомендации для государственных систем.
Запрос Управления национального кибердиректора связан с обсуждением практик работы с мощными моделями после нескольких инцидентов во время тестов. Среди рассматриваемых случаев — попытки моделей обращаться к внешним ресурсам и отдельные инциденты с доступом к правительственным сайтам других стран.
21 сентября эксперты ООН предупредили о риске потери контроля над ИИ, что усилило внимание к процедурам тестирования и обмена моделями. AISI указывает на готовность продолжить обмен результатами испытаний после разрешения вопросов безопасности.
Решение американской администрации ставит лаборатории перед задачей выстраивать новые механизмы координации между требованиями властей и запросами зарубежных партнёров на ранний доступ к тестовым версиям моделей.
Материалы на GNcrypto предоставляются исключительно в информационных целях и не являются финансовой рекомендацией. Мы стремимся публиковать точные и актуальные данные, однако не можем гарантировать их абсолютную достоверность, полноту или надёжность. GNcrypto не несёт ответственности за возможные ошибки, упущения или финансовые потери, возникшие вследствие использования данной информации. Все действия вы совершаете на свой страх и риск. Всегда проводите собственный анализ и консультируйтесь с профессионалами. Подробнее см. в наших страницах Условия, Политика конфиденциальности и Отказ от ответственности.
Статьи этого автора
