О том, какие ИИ-программы и системы могут быть использованы в школах, рассказала депутат Мажилиса Екатерина Смышляева.
По словам депутата, сегодня обсуждаются переговоры с международными компаниями, включая разработчиков ChatGPT и других корпораций. Кроме того, на базе уже существующих моделей искусственного интеллекта создаются новые специализированные системы в сфере образования.
Вместе с тем, Смышляева отметила, что в недавно принятом законе «Об искусственном интеллекте» заложено создание реестра ИИ-продуктов, который государственные органы смогут публиковать на открытых источниках в качестве рекомендованного списка.
— Это что-то вроде добровольной аккредитации. То есть госорган может публиковать рекомендуемый список систем на своих открытых источниках. Здесь могут быть разные модели, пока нет ограничений. Мы пока не вводили лицензирование, но чтобы попасть в такой доверенный список рекомендаций отраслевого министерства, ты должен пройти аудит, — рассказала депутат.
В первую очередь, аудит будет проводиться в части информационной безопасности.
— Если это иностранная какая-то модель и если она использует персональные данные учащихся, то должна локализовать их на территории нашей страны. То есть, это уже первое требование, — пояснила Смышляева.
Далее система должна пройти аудит функциональности, а также аудит качества работы искусственного интеллекта.
— Это специфический вид аудита, который предполагает, что система будет тестироваться, допустим, на промпт-хакинг. Это когда вопросами взламывают систему и заставляют ее говорить не то, что нужно. То есть, допустим, тестируют на предмет галлюцинаций и так далее, — сказала она.
При этом депутат считает, что в первую очередь в школы будут интегрировать локальные модели, обученные на отечественных данных и имеющие высокий уровень безопасности.
По ее словам, локальные решения — это не всегда крупные универсальные модели уровня ChatGPT, они могут быть узкоспециализированными и относительно небольшими, ориентированными на конкретные образовательные задачи.
Напомним, ранее Глава государства подписал Указ «О мерах по внедрению искусственного интеллекта в систему среднего образования Республики Казахстан».
В соответствии с Указом до 1 июля 2026 года Правительством будет утвержден Комплексный план мероприятий, направленный на широкое внедрение искусственного интеллекта в систему среднего образования на 2026–2029 годы, который включает создание механизма персонализированного обучения, цифровой инфраструктуры, подготовки педагогических кадров и защиты персональных данных учащихся.