Правила использования ИИ в школах разработали в Казахстане

Министерство просвещения разработало Этический стандарт применения информационных систем, в том числе искусственного интеллекта в организациях среднего, технического и профессионального образования РК, передает корреспондент агентства Kazinform.

Стандарт закрепляет требования прозрачности и подотчетности, недопущения дискриминации, минимизации данных и защиты персональных данных, а также атрибуции использования ИИ, направляя цифровую практику на поддержку учебных достижений и благополучия обучающихся.

В документе отмечается, что многие этические вопросы применения ИИ не имеют единственно правильного решения. В сфере образования обязательны: анализ рисков, принцип предосторожности и пропорциональности, приоритет интересов ребенка, справедливость, прозрачность и подотчетность, участие заинтересованных сторон, право на пересмотр решений.

Требования к выполнению письменных и устных работ:

• Черновой этап выполняется автономно без ИИ. Разрешается последующая редакторская поддержка ИИ с обязательной рефлексией о внесенных изменениях.
• В заданиях с допуском ИИ педагог устанавливает минимальный автономный вклад обучающегося и критерии его подтверждения.
• Любой текст, созданный или существенно отредактированный с применением ИИ, подлежит маркировке с указанием инструмента, версии при наличии, режима использования и характера правок.
• При сомнениях в авторстве обязательны устная защита, сравнительный анализ работ и дополнительные задания без ИИ.
• В проектных и исследовательских работах допускается «редакторский» режим ИИ (язык, структура, форматирование, визуализация). «Авторский» режим, при котором ИИ генерирует основные идеи, аргументацию или результаты при целях задания на собственное рассуждение, запрещается.

Кроме того, Стандартом устанавливаются уровни допуска ИИ в учебном процессе: запрещено, ограниченно разрешено, разрешено. Уровень допуска фиксируется в задании и в матрице допусков по предмету.

Ключевые формы оценивания в школах предусматривают задания без использования ИИ. Любое использование ИИ подлежит маркировке и рефлексии.

В итоговых и иных высокозначимых оцениваниях применение ИИ запрещается, за исключением технологий доступности для обучающихся с особыми образовательными потребностями.

В текущей учебной практике допускается применение ИИ преимущественно в редакторских и организационных функциях. Содержательные функции разрешаются по решению педагога при соблюдении минимального автономного вклада обучающегося.

Проектом также предусмотрены правила академической добросовестности:

• Запрещается представлять сгенерированный ИИ контент как собственную работу.
• Факт использования генеративных средств подлежит раскрытию;
• Выводы детекторов ИИ носят вероятностный характер и используются только как вспомогательная информация; они не подменяют проверку преподавателем и не являются самостоятельным доказательством.

В школах определяются и закрепляются ответственные роли за этичное применение информсистем, ИИ и защиту данных. Ведется учет используемых информсистем, оснований обработки, категорий и сроков хранения данных.

Нарушения фиксируются, расследуются и устраняются в установленном порядке; результаты и принятые меры документируются.

Вместе с тем, уточняются и запрещенные практики:

• скрытый сбор аудио, видео, изображений экрана, кейстроков и сетевой активности обучающихся и работников;
• массовая либо постоянная биометрическая идентификация/трекинг (распознавание лиц, походки, голоса) в учебной среде;
• сбор, хранение или использование биометрии несовершеннолетних для учета посещаемости, оценивания или дисциплины;
• трансграничная передача персональных данных при отсутствии правового основания и договорных гарантий защиты;
• использование учебных данных для рекламы, коммерческого профилирования или продажи;
• эмоциональное распознавание и вывод психологических характеристик по лицу, голосу, тексту или физиологии;
• прокторинг с применением эмо‑ИИ, анализа мимики/голоса, а также постоянного доступа к микрофону/камере вне периода экзамена;
• сканирование помещения и окружающих лиц сверх минимально необходимого объема и без предоставления альтернативного формата сдачи;
• создание и распространение дипфейков о реальных лицах без их согласия и без явной маркировки синтетического происхождения;
• генерация контента, нарушающего права ребёнка, включая сексуализированные изображения/описания несовершеннолетних, травлю и иные формы насилия;
• использование манипулятивных интерфейсов (dark patterns), побуждающих к раскрытию избыточных данных или формирующих зависимое поведение;
• использование техник, формирующих зависимость или навязчивое использование (бесконечная лента, игрофикация с негативными последствиями при прекращении);
• персонализированная реклама и коммерческие предложения, встроенные в образовательный контент;
• алгоритмы, эксплуатирующие детскую импульсивность и незрелость принятия решений;
• применение ИИ для психодиагностики и скрининга без лицензированных методик и участия квалифицированного специалиста;
• подмена профессиональной психологической или медицинской помощи чат‑сервисами ИИ без предупреждения пользователя и без маршрутизации к специалисту;
• оценка эффективности педагогов и иного персонала на основе эмо‑ИИ или социального скоринга;
• внедрение информационных систем и (или) систем;
• ИИ, не прошедших проверку на уязвимости и предвзятость для целевых языков обучения.