Могут ли алгоритмы стать полноценными управленцами
О том, как искусственный интеллект меняет подход к управлению, и может ли он заменить человека в принятии решений, в новом выпуске подкаста BIZDIÑ ORTA обсудили депутат Мажилиса Парламента РК Екатерина Смышляева и заместитель председателя правления Ассоциации по развитию ИИ в Казахстане Анар Тулеубаева, передает корреспондент Kazinform.
Цифровой оптимизм, талантливая молодежь и лояльные правила
Взрыв цифровых технологий вместе с бурным ростом объемов данных сделал возможным обучение алгоритмов на совершенно новом уровне — того, что мы наблюдаем сегодня. При этом сами алгоритмы тоже эволюционировали. Стали быстрее, умнее и более адаптивными.
— Те вычислительные мощности, которыми мы сегодня располагаем, а также новое поколение чипов и процессоров, способны обрабатывать огромное количество данных. Эта эволюция привела к нынешнему уровню развития технологий в мире. Что касается Казахстана, у нас хорошие позиции: мы подошли к этому революционному времени относительно подготовленными. Благодаря активной цифровизации в последние годы у нас накопился значительный цифровой след, — подчеркнула депутат Мажилиса Парламента РК Екатерина Смышляева.
Существует международный индекс готовности к внедрению искусственного интеллекта, который включает множество различных индикаторов.
— Суть заключается в следующем: если в стране не проведен качественный реинжиниринг определенного числа бизнес-процессов, не внедрены цифровые технологии в основные процессы управления, не завершена хотя бы на отдельных участках цифровая трансформация отраслей и, самое главное, не накоплены цифровые данные, то внедрение искусственного интеллекта будет крайне затруднительным и ограниченным по масштабу, — поясняет мажилисмен.
Согласно этому индексу, в 2023 году Казахстан занял 48-е место в глобальном Индексе готовности к искусственному интеллекту.
— Особенно качественно эта работа велась именно в системе государственного управления. Все это время мы, прежде всего, аккумулировали данные и, самое главное, собирали их на базе Smart Data Ukimet — это наш уникальный и, на мой взгляд, очень продвинутый проект. Мы формировали именно административные данные, то есть те, которые используются в системе госуправления, — считает Екатерина Смышляева.
По словам спикера, Казахстан подошел к этому этапу достаточно подготовленным. Этому способствовали цифровой оптимизм общества, талантливая математически ориентированная молодежь и технологическая среда, которая на протяжении последних лет развивалась для поддержки IT и цифровых технологий. Все это позволило стране принять новую технологию на хорошем уровне готовности.
— Теперь именно в системе государственного управления эти инструменты могут успешно запускаться и эффективно работать. Еще год назад нам не хватало инфраструктуры: наблюдалось отставание по числу центров обработки данных (ЦОД), вычислительным мощностям и возможностям энергосистемы. Сегодня эти проблемы активно решаются — разворачиваются новые вычислительные мощности, строятся ЦОДы, а по развитию энергосистемы уже утвержден перспективный план. В целом, можно сказать, что сегодня наша юрисдикция стала благоприятной для внедрения искусственного интеллекта, — отметила депутат.
По ее словам, важным завершающим этапом становится именно регулирование: если цифровизация касается технологий, то регуляторная модель определяет, как эти технологии будут применяться и контролироваться.
— И в целом мы никогда не тормозили цифровое развитие с точки зрения регулирования. Какие-то меры принимались в интересах национальной безопасности и принимаются до сих пор. Но в основном у нас сегодня сформировано достаточно лояльное регуляторное поле. И это тоже играет большую роль в развитии технологий искусственного интеллекта. Теперь важно переходить к следующему этапу — масштабному внедрению, — выразила точку зрения собеседница.
Может ли ИИ действовать автономно
Мир вступил в эпоху глобальной технологической гонки, где искусственный интеллект играет ключевую роль. Все страны активно участвуют в этом процессе, поэтому законодатели подходят к вопросам регулирования с большой осторожностью, добавила Екатерина Смышляева.
Закон «Об искусственном интеллекте» стал первым в Казахстане и пока самым гибким для рынка: его положения носят либо обязательный, либо рекомендательный характер. Отметим, это базовый документ, который устанавливает единую правовую основу для использования технологий и систем искусственного интеллекта в Казахстане. Он состоит из семи глав и 28 статей.
— Обязательства касаются исключительно прав человека. Например, недопущения дискриминации, неправомерного использования персональных данных, защиты конфиденциальной информации. То есть применяется дифференцированное регулирование. Нас интересует только та часть, которая касается технологий высокой степени риска, — пояснила депутат.
Напомним, депутаты Мажилиса РК согласились с поправками Сената в закон «Об искусственном интеллекте». Ранее Сенат внес 16 поправок в три закона и направил их на доработку в нижнюю палату парламента.
Сегодня ИИ постепенно адаптируется в обществе и на рынке. По мнению Екатерины Смышляевой, этот процесс начался давно, еще с фантастических фильмов детства — «Терминатора», с произведений братьев Стругацких и других фантастов.
— Так или иначе, везде были намеки на искусственный интеллект. Мы росли в этом контексте, и сегодня его восприняли как нечто естественное. Все произошло именно так, как и ожидалось, — сказала она.
Нельзя не упомянуть то, как искусственный интеллект постепенно становится «участником управления». Так, например, в Казахстане уже действует цифровой независимый член совета директоров АО «Самрук-Казына» с правом голоса SKAI (Samruk-Kazyna Artificial Intelligence).
— Надо сказать, «Самрук-Казына» добился своего. Даже те, кто раньше не знал о совете директоров, о его функциях и членах, теперь все узнали. Все зашли на сайт. Мне кажется, посещаемость там зашкаливает, — полагает Смышляева.
По словам заместителя председателя правления Ассоциации по развитию ИИ в Казахстане Анар Тулеубаевой, в случае с помощником на базе искусственного интеллекта в «Самрук-Казына» необходимо обучить совет директоров, чтобы они могли правильно оценивать рекомендации системы, прежде чем доверять ей полностью. В любом случае важно всегда подходить к системам ИИ критически.
— Мы не знаем, на каких данных обучается система, какой предиктивный анализ она дает, насколько ее прогнозы точны. По ее словам, речь идет о технологиях deep tech. Сегодня в Казахстане в развитии ИИ стремятся к тому, чтобы было больше проектов именно в сфере deep tech — это не только помощники на базе ИИ, но и системы, которые глубоко анализируют данные. В такие системы загружаются первичные данные, и качество этих данных крайне важно, — пояснила специалист.
Данные, поступающие в систему, не всегда бывают качественными, и из-за этого возможны ошибки.
— Мы не можем заранее сказать, когда система даст неправильный результат. Именно поэтому решение всегда принимает человек, — подчеркнула Тулеубаева.
Еще один интересный пример — в Албании ИИ получил министерский пост. Цифровой ассистент «Диэлла» (в переводе с албанского — «солнце») сначала появился на государственном портале e-Albania, а через несколько месяцев премьер-министр Эди Рама назначил ее первым в мире виртуальным министром по вопросам искусственного интеллекта.
По ее словам, в обществе существует определенный кризис доверия, особенно к системе госуправления. Он часто связан не с реальными фактами, а с информационной политикой: недоверие к госзакупкам, непрозрачные решения, ошибки в управлении. Поэтому возникает ощущение, что «человек не нужен — ИИ все сделает правильно».
— И я хочу сказать, в Албании «министр» — это просто алгоритм, который проверяет прозрачность тендеров, анализирует поставщиков и их KPI. По сути, функционал их «министра по госзакупкам» уже давно работает в Казахстане. У нас есть портал госзакупок, полностью оцифрованный с 2016 года, и внутри него уже внедрены алгоритмы, — привела аналогию спикер.
Иными словами, за каждым алгоритмом всегда стоит человек, который оставляет подпись. В Совете директоров АО «Самрук-Казына» тоже есть реальные люди, которые голосуют и принимают окончательные решения.
— Мировые тенденции показывают, что в ближайшее время самостоятельных управленцев у нас в лице искусственного интеллекта не предвидится. По моему мнению, это больше про имидж и маркетинг, чем про реальную юридическую практику. Юридически же подобные вещи пока невозможны. Консультативное голосование ИИ — это одно, а полноценная субъектность — совсем другое, — подытожила депутат.
Напомним, ранее в подкасте BIZDIÑ ORTA обсуждалось о законе «Об искусственном интеллекте» и Цифровом кодексе. О том, что принесут эти законодательные инициативы — читать в материале.
