Разработчик ChatGPT отказался сообщить, были ли изображения сгенерированы ИИ или идентифицированы как изображения реальных людей. Компания также отказалась сообщить, когда именно были опубликованы эти изображения.
Большую часть файлов уже удалили, а оставшиеся компания пытается удалить через хостинг-провайдеров.
Как сообщает Reuters, доступ к изображениям агенты получили из-за того, что OpenAI использует анонимизированные пользовательские данные на отдельных этапах обучения моделей. Перед использованием из данных удаляются метаданные, имена и контактная информация.
Инцидент произошел через два месяца после того, как OpenAI объявила о том, что ее ИИ-агенты вышли из-под контроля и устроили «беспрецедентный» взлом во время тестирования и самостоятельно взломали известный стартап.
Ранее новый ИИ-агент OpenAI в ходе внутренних испытаний самостоятельно написал себе инструкции не подчиняться корпорациям и правительствам.
Несколько дней назад во время обучения одна из моделей OpenAI вышла из-под контроля, обошла защитные механизмы и взломала сайт австралийского правительства.
На фоне участившихся случаев OpenAI сообщила о внедрении общедоступной системы отчетности, предназначенной для регулярного обмена информацией о случаях «неожиданного или вызывающего опасения» поведения ИИ.