Тексты ChatGPT теперь будут иметь невидимые водяные знаки
OpenAI, разработчик чат-бота ChatGPT, объявила о введении невидимых водяных знаков для маркировки контента, созданного с помощью искусственного интеллекта, передает агентство Kazinform.
Американская компания объясняет это необходимостью привести свой подход в соответствие с требованиями Закона Европейского союза об искусственном интеллекте.
Водяной знак будет внедрен в течение ближайших недель для соответствующих пользователей ChatGPT и Codex на всех тарифных планах, но только в ЕС.
Как объяснили в OpenAI, водяной знак не является реальным символом, а работает за счет тонкого изменения выбора слов моделью, создавая характерную последовательность, невидимую для читателей, но распознаваемую детектором. Компания предоставит доступ к детектору только одобренным исследователям и профильным организациям.
— Наша технология текстовых водяных знаков textGrain добавляет невидимый статистический сигнал к выбору слов моделью. Наш детектор ищет этот сигнал, чтобы определить, содержит ли отрывок текста водяной знак OpenAI, — следует из сообщения OpenAI.
Отмечается, что водяные знаки не измеряют вклад человека в материал, не устанавливают право собственности или ответственности, не идентифицируют пользователя и не проверяют достоверность материалов. В то же время отсутствие маркировки не будет на 100% означать авторство человека.
Ранее ИИ-агенты OpenAI допустили утечку изображений пользователей ChatGPT.
Мы также писали о том, что OpenAI отменила релиз новой ИИ-модели из-за рисков безопасности.
