Как сообщило Министерство науки страны, правительство утвердило комплексные руководящие принципы по использованию ИИ на национальном уровне. Закон направлен на повышение ответственности компаний и разработчиков ИИ за борьбу с дипфейками и дезинформацией, которые могут создаваться с помощью ИИ-моделей. Он предоставляет правительству полномочия проводить расследования и налагать штрафы за нарушения.
В документе вводится понятие «искусственный интеллект высокого риска». К нему относятся ИИ-модели, используемые для создания контента, способного существенно влиять на повседневную жизнь или безопасность людей, включая сферы трудоустройства, кредитной оценки и медицинских консультаций.
Организации, применяющие такие высокорискованные ИИ-модели, обязаны уведомлять пользователей о том, что их услуги основаны на ИИ, а также нести ответственность за их безопасность. Контент, созданный с помощью ИИ, должен содержать водяные знаки, указывающие на его искусственное происхождение.
— Маркировка контента, созданного ИИ, является минимальной мерой предосторожности для предотвращения негативных последствий злоупотребления технологиями, таких как создание дипфейков, — отметил представитель министерства.
Глобальные компании, предоставляющие ИИ-услуги в Южной Корее и соответствующие хотя бы одному из следующих критериев: годовой мировой доход от 1 трлн вон (около $681 млн), внутренние продажи от 10 млрд вон или не менее 1 млн ежедневных пользователей в стране, обязаны назначить местного представителя. В настоящее время этим требованиям соответствуют OpenAI и Google.
За нарушение закона предусмотрены штрафы до 30 млн вон. При этом правительство планирует ввести годичный переходный период, чтобы дать частному сектору время адаптироваться к новым требованиям. Кроме того, закон включает меры по поддержке развития индустрии искусственного интеллекта. Министр науки обязан раз в три года представлять обновленный государственный план в сфере ИИ.
Напомним, в Казахстане вступил в силу новый Закон «Об искусственном интеллекте».