Илон Маск запретит Grok «раздевать» реальных людей на ИИ-изображениях

Платформа X объявила о введении ограничений на работу ИИ-модели Grok, запретив редактирование изображений реальных людей с целью придания им откровенного вида, агентство Kazinform со ссылкой на BBC.

Решение принято на фоне общественного и политического резонанса вокруг распространения сексуализированных ИИ-дипфейков в ряде стран, включая Великобританию и США.

Согласно заявлению X, были внедрены технологические меры, исключающие возможность редактирования фотографий реальных людей для создания изображений в откровенной одежде, в том числе купальниках. Ограничение распространяется на всех пользователей, включая платных подписчиков.

Обновление вышло через несколько часов после того, как генеральный прокурор Калифорнии Роб Бонта сообщил о начале проверки, связанной с распространением сексуализированных ИИ-изображений, включая материалы с участием детей. По его словам, подобный контент использовался для онлайн-преследования и давления на людей.

В X заявили, что пользователи, которые попытаются создать через Grok изображения реальных людей в нижнем белье или купальниках, будут автоматически заблокированы в соответствии с законами своей страны. Компания также подтвердила, что функция редактирования изображений с помощью Grok на платформе остаётся доступной только для платных аккаунтов, что, по её утверждению, должно повысить уровень ответственности и контроля.

Скандал вышел за пределы США. Малайзия и Индонезия заблокировали доступ к чат-боту Grok, а премьер-министр Великобритании Кир Стармер заявил, что X может утратить «право на саморегулирование» в случае дальнейших нарушений. Британский медиарегулятор Ofcom сообщил о намерении проверить, соблюдала ли платформа требования законодательства Великобритании в части распространения сексуального контента.