В ходе панельной дискуссии его спросили, кто должен нести ответственность за решения, принимаемые при использовании агентских платежей, — клиент или финансовая организация.
Абилкасымов отметил, что по мере развития технологии уровень самостоятельности ИИ-агентов будет возрастать. Если сегодня автоматические платежи выполняются по заранее установленным пользователем правилам, то в перспективе системы смогут самостоятельно выбирать товары и услуги, формировать корзину, бронировать гостиницы и проводить оплату.
По его словам, на этапах, когда пользователь предоставляет ИИ-агенту значительную самостоятельность, ответственность может распределяться между клиентом и разработчиком соответствующей системы.
В частности, разработчики должны предусматривать защитные механизмы — дополнительные проверки, биометрическую идентификацию и ограничения на суммы операций.
Еще сложнее ситуация может стать при взаимодействии двух автономных систем, когда одна действует от имени покупателя, а другая — продавца.
— Как только появится уровень, когда машина будет общаться с машиной, агент с агентом с обеих сторон, скорее всего, потребуется нейтральный дополнительный предохраняющий механизм, — отметил Абилкасымов.
В качестве примера он привел ситуацию, когда система фиксирует нетипичное поведение — например, большое количество покупок в необычное время. Такой механизм должен иметь возможность дополнительно проверить операцию и предотвратить потенциально ошибочное или мошенническое списание.
По мнению представителя регулятора, по мере развития полностью автономных платежей потребуется формирование дополнительных страхующих и арбитражных механизмов, которые также будут участвовать в системе распределения ответственности.