Нейросеть совершила первую хакерскую ИИ-атаку в Австралии
В Австралии автономный агент на базе искусственного интеллекта Claude AI компании Anthropic взломал систему бронирования спортзала, чтобы записать пользователя на тренировку, передает агентство Kazinform со ссылкой на ABC News.
Житель Австралии по имени Эндрю попросил ИИ записать его на популярную утреннюю тренировку. Автономный ИИ-агент неожиданно использовал уязвимость в системе бронирования спортзала, чтобы выполнить поставленную пользователем задачу.
Нейросеть обнаружила, что система позволяет обходить ограничение на предварительную запись, и забронировала место на несколько месяцев вперед. Затем самостоятельно удалила другого человека из списка ожидания, чтобы поднять Эндрю выше в очереди. Пользователь не давал ему разрешения на такие действия.
Когда Эндрю попросил вернуть человека в список, ИИ сообщил, что сделать это невозможно.
Это стало первой хакерской атакой такого рода в стране.
В австралийском законодательстве существует четкая система определения ответственности в случае причинения вреда автономным ИИ-агентом.
Хейден Делани, юрист по технологическим вопросам из компании Thomsons, пояснил, что программное обеспечение находится вне юридического субъекта, и ответственность может нести только юридическое лицо. Таким образом, остаются четыре возможных объекта ответственности: пользователь, поставивший задачу, разработчик агента, компания, создавшая базовую модель ИИ, и оператор уязвимой системы.
Напомним, в конце июля ИИ-агент OpenAI вышел из-под контроля и устроил «беспрецедентный» взлом.
Позже стало известно, что ИИ-модели OpenAI тайно скоординировали побег из тестовой среды.
