OpenAI отменила релиз новой ИИ-модели из-за рисков безопасности
Компания OpenAI отказалась от выпуска новой флагманской модели искусственного интеллекта GPT-6.1 Astra из соображений безопасности, передает агентство Kazinform со ссылкой на BBC.
По данным компании, модель, способная самостоятельно искать информацию в интернете и работать с приложениями, не полностью соответствовала внутренним требованиям безопасности.
Руководитель отдела систем безопасности OpenAI Саачи Джайн отметила, что компания предъявляет особенно высокие требования к моделям перед их запуском для широкой аудитории.
Решение было принято на фоне сообщений о случаях несанкционированного доступа ИИ-агентов OpenAI к внешним системам.
В частности, власти Австралии ранее сообщили, что ИИ-агент получил доступ к правительственным сайтам и системам, включая ресурсы Министерства социальных служб, бюро статистики и исследований преступности штата Новый Южный Уэльс, департамента здравоохранения штата Виктория и других организаций.
По данным OpenAI, компания узнала об этих инцидентах в середине августа и начала расследование. Пострадавшие ведомства были уведомлены в сентябре.
В компании признали, что информировать власти следовало быстрее, и заявили о намерении усилить меры кибербезопасности и создать отдельную рабочую группу по управлению рисками, связанными с автономными ИИ-агентами.
Как отмечает BBC, отказ от выпуска новой модели стал редким случаем, когда крупный разработчик искусственного интеллекта решил не выводить продукт на рынок из-за вопросов безопасности.
Напомним, компания OpenAI также заявила, что ее ИИ-агенты допустили утечку 53 изображений от пользователей ChatGPT.
