Даже самую сложную нейросеть можно взломать

Российские банки постепенно выходят за рамки классических услуг и начинают предлагать весь спектр финансовых сервисов от страхования до инвестирования. Регулирование таких необанков и финтех-компаний, работающих на стыке сразу нескольких сфер — один из вызовов, стоящих перед Банком России в ближайшем будущем. Как оценивать деятельность таких компаний, какие риски несет в себе развитие технологий, как их предупреждать, а также какие задачи предстоит решить отечественному финтеху в наступающем году, в интервью агентству “Прайм” рассказал зампред ЦБ РФ Василий Поздышев.

– На форуме Finopolis в Сочи глава ЦБ РФ Эльвира Набиуллина говорила, что регулятор изучит зарубежный опыт по предоставлению временных лицензий финтех-компаниям. Означает ли это, что ЦБ может взять на себя обязанность их регулирования?
— В Банке России обсуждается регулирование инновационных бизнес-моделей, связанных с применением финансовых технологий. Пока у нас нет единого выработанного мнения, каким образом его проводить, поэтому сейчас я в большей степени могу изложить свою точку зрения, а не позицию Банка России.
Один из возможных вариантов — выдача временного индивидуального разрешения финтех-компаниям и временное индивидуальное регулирование их деятельности. Сейчас у Банка России таких полномочий нет. Да, у нас есть регулятивная “песочница”, где участники финрынка тестируют новые технологии и бизнес-модели. При этом существуют варианты песочницы, когда новые бизнес модели реализуются в реальном сегменте и на реальных клиентах. Например, новая компания (“нео-банк”) приходит к регулятору, рассказывает о своей бизнес-модели, получает временное разрешение на работу при ограничении в сроках и по объемам бизнеса.
За это время регулятор определяет, каким должно быть регулирование таких игроков. Если бизнес становится востребованным, то появляются другие игроки, которые хотят повторить эту модель, и к этому моменту уже практически готово новое регулирование. Я считаю, что подобный подход вполне возможен и на российском финансовом рынке. Мы заинтересованы в развитии финансовых технологий и в цифровой трансформации финансового рынка, а такие временные разрешения позволят снизить барьеры для входа на рынок новых компаний.
Другое возможное решение – это выдача комбинированной лицензии на базе существующих требований для разных игроков: банков, НКО, страховых компаний, платежных систем. Такого права у Банка России сегодня также пока нет.
Еще есть третий путь, который не учитывает особенностей конкретных бизнес-моделей — это некая упрощенная, стандартная лицензия “участника финансового рынка” с минимальным набором требований. Он не учитывает рисков конкретной бизнес-модели, но точно возможен в случае большого количества “разношерстных” финтехов на рынке либо в качестве временной лицензии.
– Может ли это потребовать внесения изменений в законодательство?
— Если мы говорим об изменениях полномочий Центрального Банка, это, безусловно, требует изменений в законодательстве.
Сейчас у Банка России есть возможность выдавать лицензии только прописанным в законодательстве субъектам, например, банкам, небанковским кредитным организациям, страховым компаниям и так далее. Допуск на рынок производится в разной форме: более жесткой – выдача лицензии (банкам, например), более мягкой – включение в реестр (МФО, кредитные потребительские кооперативы). Но самое важное здесь – это не сама лицензия, а возможность регулятора предъявлять специфические требования к деятельности всех этих организаций (отчетность, нормативы) и право применять меры за нарушение этих требований.
Сложность в случае регулирования финтеха состоит в том, что заранее такие организации классифицировать очень трудно. У регулятора может возникнуть право установить новые требования, либо их комбинированный набор после полного анализа бизнес-модели организации и понимания, какие риски в ее деятельности присутствуют.
Это непростой вопрос. Полагаю, что это перспектива двух-трех лет как минимум.
– На какой срок финтех-компаниям могли бы предоставляться временные лицензии? Будут ли они продлеваться автоматически?
— Думаю, что двух лет вполне достаточно для того, чтобы разобраться в бизнес-модели, понять, какие у компании могут быть риски. Вопрос автоматического продления при этом не стоит, поскольку по завершении режима “песочницы” компания должна переходить в стандартный режим обычного регулирования.
– Задача регулирования сейчас усложняется тем, что многие крупнейшие банки становятся экосистемами.
— Это совсем другая проблематика. Экосистема предлагает клиентам широкий набор как финансовых, так и нефинансовых услуг: кредиты, вклады, инвестиции, страховки, туристические, медицинские услуги и так далее. Соответственно, нужно иметь возможность предъявлять к такой экосистеме разные профильные требования. Решение, которое здесь напрашивается, — это переход от требований в рамках выданной лицензии к требованиям по виду деятельности.
Понимание государством того, как регулировать экосистемы, займет определенное время. Думаю, выработка эффективно работающей концепции потребует нескольких лет.
– На форуме в Сочи вы говорили, что ЦБ РФ будет проводить киберучения и оценивать защиту банков от киберугроз. Насколько часто такие мероприятия будут проводиться? Какие меры будут применяться к банкам, если регулятор выявит какие-либо нарушения?
— Оценка соответствия требованиям кибербезопасности проводится и сейчас. В этом году мы проверили уже около 120 банков, проверку еще 20 должны завершить до конца года. Пока мы не “зашиваем” требования по кибербезопасности в стресс-тестирование. Но это произойдет в 2020 году, мы готовим изменения в нормативную базу, связанную с регулированием киберриска, который, как вы знаете, относится к операционным рискам.
Ожидается, что к середине следующего года Банк России начнет проводить киберучения, то есть включать в стресс-тестирование банков элементы кибербезопасности. После этого мы будем предъявлять к банкам требования по изменению их систем безопасности – таким образом, с середины следующего года инструментарий воздействия на банки в части киберриска будет расширен. При этом надо сказать, что для нас в меньшей степени важна возможность наказания. Гораздо важнее – понимание того, насколько банки устойчивы к киберрискам, и возможность потребовать исправить ситуацию.
– Почему для проверки были выбраны именно эти 140 кредитных организаций? Вы обнаружили какие-то признаки возможного нарушения систем безопасности?
— Да. Система любого надзора, в том числе за кибербезопасностью, является риск-ориентированной. Естественно, банки были выбраны не в алфавитном порядке и не в порядке номеров выданных лицензий. Мы проводим риск-ориентацию, в первую очередь, в эти проверки попадают те банки, в которых были замечены признаки наличия проблем в информационных системах.
– Как будут выглядеть киберучения на практике?
— Стресс-тестирование, проверка банковских систем на устойчивость к определенным видам вмешательства извне.
По нашему плану, каждый банк будет проходить такое стресс-тестирование один раз в два года.
– Один из элементов стратегии RegTech и SupTech — применение в банках искусственного интеллекта и роботизация. Планирует ли ЦБ разработать единые стандарты в этой области?
— Мы будем предоставлять банкам полную свободу во всем, что касается маркетинга, взаимодействия с клиентами и других сфер деятельности, не связанных с риском. Пусть нейросети выискивают лучших клиентов, определяют оптимальные услуги для них – регулятор финансового рынка вряд ли будет пытаться здесь каким-то образом влиять.
Что касается того, каким образом банк с помощью нейросетей управляет тем или иным видом риска — финансовым, операционным, риском мошенничества – здесь мы будем предъявлять требования. Если искусственный интеллект оценивает кредитные риски, мы будем такую модель валидировать.
Каких-то единых требований к искусственному интеллекту, конечно, предъявлять нельзя, потому что это совершенно разные алгоритмы, самообучающиеся по разным принципам и на разных выборках данных. Но требования, которые мы будем предъявлять в обязательном порядке, связаны с качеством этих данных. От того, насколько корректна обучающая выборка, зависит правильная работа искусственного интеллекта. Уже сейчас мы можем оценивать качество и предиктивную мощность этих моделей. При этом многие используют термин “искусственный интеллект”, не имея четкого представления, что это такое.
– Вы сказали, что многие не до конца осознают, что необходимо понимать под “искусственным интеллектом”. Что вы имеете в виду?
— Искусственный интеллект — это не то, что большинство людей отождествляет с системой Skynet из “Терминатора”, которая взбунтовалась против человечества и сама стала принимать решения. Для человека, владеющего математическим аппаратом, искусственный интеллект — это всего лишь набор линейных преобразований, алгоритм, ничего мистического там нет. Это модели, которые решают узко поставленные задачи, причем все более эффективно. Наша задача – обеспечить их качественную работу.
– Если избавить искусственный интеллект от поведенческих предрассудков, означает ли это, что он сможет сделать кредитование более справедливым?
— Это очень сложная задача. Нужно понимать, что любая рейтинговая система зиждется на двух постулатах, которые неочевидны. Постулат первый: поведение объекта в прошлом полностью предопределяет его поведение в будущем. То есть, если клиент раньше аккуратно обслуживал кредит, значит, есть высокая вероятность того, что он и в будущем будет хорошо платить. Не факт, согласитесь.
Второй постулат заключается в следующем: если внешние характеристики двух объектов соответствуют, то высока вероятность, что их внутренние характеристики также будут похожими. Это тоже не так: у вас могут быть два абсолютно одинаковых графина, в одном — вода, а в другом — цианистый калий. Я искренне считаю, что эти два постулата нужно изменить для того, чтобы предиктивность моделей была лучше.
– Как вы считаете, какие риски помимо утечки данных несет в себе развитие новых технологий?
— Это очень важный и непростой вопрос, и он очень редко обсуждается. Кроме вышеназванных, могу назвать как минимум следующие риски, связанные с использованием искусственного интеллекта. Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово “STOP”, то некоторые нейросети переведут эту картинку из категории “лица” в категорию “дорожные знаки”.
Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции.
Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может “вытащить” из обучающей выборки.
Я вынужден говорить об этом, так как регулятор обязан думать о рисках. Бенефиты для общества от использования новых технологий абсолютно понятны. Но в этом мире никогда не бывает бенефитов без рисков, и эта “ложка дегтя” может оказаться вовсе не ложкой и вовсе не дегтя.
– Один из проектов в рамках RegTech и SupTech — платформа KYC (“Знай своего клиента”), которую планирует запустить ЦБ. Начал ли уже данный проект работать в тестовом режиме?
— Пока платформа находится на стадии концептуального описания. Кроме идентификации в нашей платформе предполагается оценка рисков вовлеченности клиентов в противоправные операции, в первую очередь связанные с нарушением антиотмывочного закона 115-ФЗ.
Это очень непростой проект, в настоящее время мы обсуждаем его конфигурацию, в том числе вместе с банками. Сама по себе технологическая составляющая здесь является меньшей проблемой, потому что Центральный Банк обладает большими базами данных как по физическим, так и по юридическим лицам.
В большей степени здесь надо решать проблемы юридического характера: будет ли данный скоринг чем-то однозначно определяющим или всего лишь неким риск-фактором для банка. Принципиально важно здесь для нас — не повторить ситуацию с рассылкой банкам списков клиентов, у которых есть признаки вовлеченности в противозаконные операции, после чего банки просто стали закрывать счета этих клиентов. В большом количестве случаев это всего лишь признаки, а не 100%-ая вовлеченность в сомнительные операции. Мы считаем, что основная часть работы по выявлению того, вовлечен ли клиент в такие операции, должна оставаться на банках.
– Есть ли у ЦБ понимание того, когда такая система может заработать в промышленном режиме? И планируется ли в будущем распространить действие проекта на другие финансовые организации?
— В моем понимании, система заработает не раньше, чем через два года. Проект можно реализовать быстрее, но тогда это может отразиться на качестве.
Требования ПОД/ФТ распространяются на все финансовые организации, а не только на банки. Поэтому было бы целесообразно распространить действие KYC-платформы и на других участников рынка.
– Еще одно мероприятие в рамках дорожной карты – выявление групп связанных заемщиков. Не могли бы вы рассказать подробнее, что сейчас делается в этом направлении?
— Этот проект уже находится на этапе внутреннего пользования. Служба анализа рисков Банка России с использованием разработанных нами алгоритмов и обучающей выборки делает заключение о связанности лиц (физических и юридических) на основе набора критериев юридического, экономического и фактического характера. При этом система имеет возможность делать выводы о связанности любых юридических и физических лиц, которые не обязательно являются заемщиками. В следующем году мы переводим эту работу в более продвинутый режим с использованием обновленного программного обеспечения и большего количества баз данных.
– Будете ли вы делиться этими данными с банками?
— С банками мы уже делимся этой информацией, но лишь в тот момент, когда обсуждаем с конкретным банком отдельных заемщиков и их связанность с другими заемщиками либо с самим банком или его акционерами. В заключении Службы анализа рисков эту информацию мы указываем. Пока не предполагается, что эти данные будут в открытом доступе, или что любой банк сможет проконсультироваться по поводу любого лица.
– В опубликованном недавно консультативном докладе говорилось о развитии конкуренции. Какие шаги, на ваш взгляд, нужны в банковском секторе?
— Во-первых, это пропорциональность регулирования: принципиально важно, что регулирование не может быть для всех одинаково. Эпоха one size fits all закончена, регулирование для крупных игроков должно быть более жестким, для небольших – требований должно быть меньше.
Второй большой блок касается платформенных технологических решений, которые создаются ЦБ или при участии ЦБ для общего пользования с возможностью равного доступа для всех, это выравнивает конкурентное поле.