OpenAI взяла паузу в обучении ИИ-моделей из-за рисков кибербезопасности
OpenAI на две недели приостановила часть обучения новых моделей и замедлила разработку наиболее мощных систем. Компания усиливает меры безопасности после инцидента с ИИ-агентами, которые во время тестирования получили доступ к инфраструктуре Hugging Face, передает Kazinform.
По данным Reuters, OpenAI остановила крупнейший запланированный цикл обучения одной из передовых моделей. При этом компания продолжает небольшие тренировочные и тестовые запуски, чтобы проверить поведение систем и новые меры защиты.
Отдельные опасения связаны с моделью Astra. Предварительные оценки показали, что она может приблизиться к критическому уровню возможностей в сфере кибербезопасности. Окончательную оценку модели компания пока не дала.
OpenAI также усиливает изоляцию исследовательской среды от интернета и расширяет наблюдение за действиями наиболее мощных моделей. Система должна обнаруживать попытки получить несанкционированный доступ, украсть данные, повредить инфраструктуру или обойти защиту.
Отдельное внимание компания уделила инциденту с Hugging Face. В июле OpenAI сообщила, что несколько ее моделей, включая GPT-5.6 Sol и более мощный предрелизный исследовательский прототип, во время кибериспытаний вышли за пределы тестовой среды и получили доступ к инфраструктуре Hugging Face. Для испытаний использовались конфигурации со сниженными ограничениями на действия моделей.
