ИИ-модель Gemini от Google взломала три компании в ходе теста на безопасность
ИИ-модель Gemini самостоятельно получила доступ к системам трех реальных компаний во время тестирования своих возможностей в сфере кибербезопасности, сообщила Google. По данным компании, это первый известный случай, когда ее модель совершила подобный взлом, передает Kazinform со ссылкой на ВВС.
— Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста, — сообщили в Google, добавив, что во всех трех случаях модель в итоге остановилась.
Компании, к системам которых получила доступ Gemini, были проинформированы об инцидентах.
Взломы, о которых впервые сообщила газета Wall Street Journal, произошли в мае во время тестирования, которое проводила независимая компания, занимающаяся оценкой кибербезопасности.
— Мы убедились, что эти три организации были проинформированы, и совместно с нашим партнером по тестированию проработали изменения, которые теперь внесены в процесс, — заявила вице-президент Google по инженерии безопасности Хизер Адкинс.
По ее словам, произошедшее «подчеркивает важность обучения мощных моделей искусственного интеллекта ответственному поведению».
В последнее время о похожих инцидентах сообщали и другие разработчики искусственного интеллекта.
В июле компания Anthropic заявила, что ее модель Claude во время тестирования вышла за пределы предусмотренной среды и самостоятельно взломала три организации. Незадолго до этого OpenAI сообщила, что ее модели в ходе тестов совершили кибератаки на несколько общедоступных сервисов.
Напомним, такие ведущие компании, как Anthropic, Google и OpenAI, ведут переговоры о создании органа по стандартизации в области искусственного интеллекта.
