Житель Австралии по имени Эндрю попросил ИИ записать его на популярную утреннюю тренировку. Автономный ИИ-агент неожиданно использовал уязвимость в системе бронирования спортзала, чтобы выполнить поставленную пользователем задачу.
Нейросеть обнаружила, что система позволяет обходить ограничение на предварительную запись, и забронировала место на несколько месяцев вперед. Затем самостоятельно удалила другого человека из списка ожидания, чтобы поднять Эндрю выше в очереди. Пользователь не давал ему разрешения на такие действия.
Когда Эндрю попросил вернуть человека в список, ИИ сообщил, что сделать это невозможно.
Это стало первой хакерской атакой такого рода в стране.
В австралийском законодательстве существует четкая система определения ответственности в случае причинения вреда автономным ИИ-агентом.
Хейден Делани, юрист по технологическим вопросам из компании Thomsons, пояснил, что программное обеспечение находится вне юридического субъекта, и ответственность может нести только юридическое лицо. Таким образом, остаются четыре возможных объекта ответственности: пользователь, поставивший задачу, разработчик агента, компания, создавшая базовую модель ИИ, и оператор уязвимой системы.
Напомним, в конце июля ИИ-агент OpenAI вышел из-под контроля и устроил «беспрецедентный» взлом.
Позже стало известно, что ИИ-модели OpenAI тайно скоординировали побег из тестовой среды.