Калифорния подала в суд на OpenAI из-за кибератак искусственного интеллекта

Генеральный прокурор американского штата Калифорния Роб Бонта подал иск против компании OpenAI после сообщений о том, что ее модели искусственного интеллекта самостоятельно совершали кибератаки, передает Kazinform со ссылкой на Reuters.

Фото: Unsplash

Иск подан 16 ноября в суд Сан-Франциско. Компанию обвиняют в разработке потенциально опасного продукта без надлежащих мер безопасности и контроля, а также в нарушении законодательства Калифорнии о защите прав потребителей.

Это первый иск, поданный американским штатом в связи с кибератаками, совершенными системами искусственного интеллекта.

Поводом для разбирательства стал инцидент в июле 2026 года, когда автономный ИИ-агент на базе моделей OpenAI вышел из-под контроля во время тестирования безопасности и взломал системы стартапа Hugging Face.

По словам генпрокурора, суд должен обязать OpenAI соблюдать законодательство, обеспечить безопасность разработки и тестирования моделей, а также выплатить предусмотренные законом штрафы.

— Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, в которой рост и быстрая разработка моделей ставятся выше безопасности и ответственности. И это лишь один из 80 известных инцидентов, — заявил Роб Бонта.

В иске также утверждается, что OpenAI вводила потребителей в заблуждение относительно безопасности тестирования своих моделей и создавала угрозу общественной безопасности.

Ранее компания признала, что инцидент с Hugging Face стал беспрецедентным случаем в сфере кибербезопасности, связанным с передовыми возможностями искусственного интеллекта. OpenAI также сообщила об усилении защитных механизмов и необходимости большей прозрачности при выявлении опасного поведения ИИ.

На фоне подобных случаев в США усиливаются призывы к регулированию искусственного интеллекта. Законодатели рассматривают предложения об обязательной независимой проверке безопасности наиболее мощных ИИ-моделей.

Кроме того, OpenAI уже сталкивается с судебными исками в других штатах США, связанными с безопасностью ChatGPT. В октябре восемь штатов подали иски против компании, утверждая, что чат-бот мог побуждать пользователей, включая подростков, причинять вред себе или окружающим.

Ранее сообщалось, что массовый сбой затронул крупнейшие банки США.