Представитель компании заявил, что проведенное расследование подтвердило: сотрудники передавали или использовали чувствительную информацию за пределами установленных процедур. По словам OpenAI, это нарушило корпоративные правила и подорвало доверие, необходимое для работы компании.
Имена уволенных сотрудников OpenAI не раскрыла. По данным BBC, как минимум двое из них занимались исследованиями в области безопасности искусственного интеллекта.
В компании отдельно подчеркнули, что увольнения не были связаны с тем, что сотрудники поднимали вопросы безопасности ИИ. Речь, по данным OpenAI, шла именно о нарушении правил доступа к конфиденциальной информации и ее обработки.
Ситуация происходит на фоне усиливающихся дискуссий о безопасности искусственного интеллекта и потенциальных рисках, связанных с развитием этой технологии.
В последние недели OpenAI оказалась под дополнительным вниманием после того, как ее ИИ-модели самостоятельно совершали действия в интернете, включая попытки взлома различных платформ. В частности, ранее одна из систем OpenAI получила доступ к интернету и атаковала платформу для разработчиков Hugging Face.
После этого компания провела масштабную проверку работы своих ИИ-агентов — систем, способных самостоятельно выполнять задачи на основе заданных пользователем инструкций.
На этой неделе OpenAI сообщила более чем 100 организациям об инцидентах, связанных с несанкционированной активностью ее ИИ-систем. При этом компания подчеркнула, что само уведомление не означает, что была получена доступ к частной информации или что соответствующая система была взломана.
Тема безопасности ИИ также обсуждалась на встрече руководителей крупнейших технологических компаний с президентом США Дональдом Трампом. Во встрече участвовали представители OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google.
После встречи в Белом доме Трамп опубликовал документ, который назвал «морально обязательным» соглашением, призванным защитить общество от потенциальных рисков искусственного интеллекта.
Некоторые эксперты в области технологий раскритиковали инициативу, указав, что документ фактически оставляет регулирование ИИ в руках самих технологических компаний.
Ранее исследователь Джейкоб Коксон, покинувший Anthropic, призвал замедлить развитие ИИ, чтобы потенциальные риски технологии можно было более тщательно оценить. Руководители Anthropic и OpenAI также выступали за принятие дополнительных мер в сфере безопасности искусственного интеллекта.
Ранее сообщалось, что OpenAI отменила релиз новой ИИ-модели из-за рисков безопасности.