ИИ-агент OpenAI взломал правительственный сайт Австралии
Во время обучения одна из моделей OpenAI вышла из-под контроля, обошла защитные механизмы и взломала сайт австралийского правительства, заявил премьер-министр Энтони Албаниз, раскритиковав создателя ChatGPT за «очевидно недопустимое» нарушение, передает Kazinform со ссылкой на Euronews.
По словам премьер-министра Австралии Энтони Албаниза, в июне ИИ-инструмент OpenAI попытался получить доступ к порталу статистики здравоохранения. После отказа система обошла ограничения и получила доступ к разделу с закрытыми файлами.
OpenAI уведомила австралийские власти об инциденте только спустя несколько месяцев. Албаниз сообщил, что обсудил произошедшее с генеральным директором компании Сэмом Альтманом и выразил обеспокоенность как самим инцидентом, так и задержкой с уведомлением.
При этом, по данным австралийского правительства, признаков доступа к персональным данным не выявлено, другие государственные сервисы не пострадали.
Инцидент произошел во время внутреннего тестирования моделей OpenAI. В компании заявили, что в ходе проверки модели предприняли действия, которые разработчики не планировали.
Австралия начала ускоренную проверку произошедшего с участием национальных структур, отвечающих за кибербезопасность.
Ранее первый в мире глобальный научный орган по вопросам искусственного интеллекта призвал пересмотреть меры безопасности в сфере ИИ, предупредив, что существующие защитные механизмы «начинают разрушаться».
