Париж — Обсуждение «устойчивости» по вполне понятным причинам сосредоточено, как правило, на экологических и социальных обязательствах компаний. Но финансовый сектор должен учитывать еще и два других, менее очевидных аспекта устойчивости. Важное значение для устранения системного риска финансовому сектору имеет регуляторная устойчивость. Кроме того, все большее влияние на бизнес-модели и стратегии оказывают новые границы технологической устойчивости.
Данные, робототехника и искусственный интеллект сегодня у всех на устах. Но несмотря на то, что эти новые технологии обладают огромным потенциалом, финансовые институты также должны понимать связанные с ними риски, социальные и этические последствия.
Что касается данных, цифры поражают: 90% всех данных в мире были созданы за последние два года, и мы генерируем примерно 2,5 квинтиллиона байт каждый день. В этом контексте важно, чтобы финансовые институты, являющиеся как основными производителями, так и пользователями данных, решали вопросы по созданию и защите данных.
Нормативные акты в этой области становятся все более жесткими, что подтверждает Общий регламент Европейского союза по защите данных (GDPR). К счастью, банки и страховые компании продолжают пользоваться репутацией, заслуживающей доверия. Их задача состоит в том, чтобы уважать и поддерживать это доверие, несмотря на растущий соблазн монетизировать свои «активы» данных путем их продажи или использования в маркетинговых целях.
Тем временем робототехника трансформирует все отрасли и рынок труда. По некоторым оценкам, в течение следующего десятилетия от одной четверти до половины всей рабочей силы финансового сектора могут быть заменены роботами и ИИ. Правда, исследование немецких рабочих производственных отраслей не дало доказательств того, что роботы сокращают общую занятость: хотя каждый робот ликвидирует два производственных рабочих места, он создает дополнительные рабочие места в сфере обслуживания, которые полностью компенсируют эту потерю. Но роботы влияют на структуру совокупной занятости.
Мы, вероятно, переживаем еще один эпизод «созидательного разрушения» Шумпетера. Робототехника и ИИ изменят типы предлагаемых рабочих мест, их местоположение и навыки, необходимые для их заполнения. Этот разрушительный эффект нужно тщательно регулировать. Поэтому банки и другие финансовые институты должны сосредоточиться на том, чтобы предвидеть влияние этих технологий на своих сотрудников, и вкладывать средства в обучение и профориентацию, чтобы помочь им в переходный период.
Технологии ИИ из-за их сложности и этических последствий, вероятно, наиболее трудны для финансового сектора. Несмотря на то, что со времени мирового финансового кризиса финансовые институты подвергаются критике, в действительности они давно учитывают этические аспекты. Но с ИИ мы переходим на другой уровень, где фирмы должны предвидеть потенциальные этические риски и определять механизмы для обеспечения контроля и подотчетности.
Следует выделить две основные проблемы. Первая — это смещение алгоритма (или смещение ИИ), которое возникает, когда алгоритм систематически выдает искаженные результаты из-за ошибочных допущений в процессе машинного обучения. Например, в 2014 году Amazon разработала инструмент для идентификации инженеров-программистов, которых она, возможно, захочет принять на работу, но алгоритм включал в себя предвзятые идеи инженеров-мужчин, которые его создали. В результате система вскоре начала дискриминацию в отношении женщин, что привело к тому, что в 2017 году компания от этой системы отказалась. Совсем недавно Apple и Goldman Sachs выпустили кредитную карту, которую некоторые обвиняют в сексизме. Для супружеской пары, которая подает совместную налоговую декларацию и проживает в штатах с режимом общности, алгоритм «черного ящика» Apple предоставил мужу кредитный лимит в 20 раз выше, чем его жене.
Влияние сознательных или неосознанных преференций создателей алгоритмов может оставаться незамеченным до тех пор, пока эти алгоритмы не начнут использовать, и их встроенные искажения потенциально усилятся. К счастью, алгоритмы можно пересматривать и отслеживать, чтобы избежать несправедливых результатов. Например, сотрудник банка может неосознанно учитывать пол заявителя при принятии решения о выдаче кредита. Ведь при помощи алгоритма вы можете просто исключить гендерную переменную и другие тесно взаимосвязанные факторы при вычислении результатов оценки. Вот почему так важно применять правильные меры предосторожности при разработке модели.
Другая большая этическая проблема связана с прозрачностью и «объяснимостью» моделей, управляемых ИИ. Поскольку эти модели будут все чаще использовать для принятия решений о найме на работу, кредитовании и, возможно, даже юридических решений, важно знать их важнейшие элементы и относительную значимость каждой из них в процессе принятия решений. Нам необходимо открыть черный ящик, чтобы понять процессы, процедуры и иногда неявные предположения, которые он содержит. Регулирование также будет все больше подталкивать нас в этом направлении: например, GDPR вводит право для отдельных лиц получать «важную информацию об используемой привлеченной логике» при автоматизированном принятии решений, которое имеет «юридические или аналогичные последствия».
Относительно технологической устойчивости сегодня у нас еще больше вопросов, чем ответов. Вероятно, на данный момент это хорошо, потому что мы входим на неизведанную территорию с должным вниманием и осторожностью. В конце концов, разработка более комплексного подхода к климату и окружающей среде заняла много лет, и нам, вероятно, предстоит еще долгий путь. Теперь мы должны начать аналогичный путь к технологической устойчивости и задаться вопросом, насколько хорошо мы подготовлены к тому, чтобы обсуждать практические, социальные и этические последствия новых и мощных цифровых инструментов.
Поскольку эти вопросы затрагивают как антропологию и философию, так и экономику и политику, мы должны отвечать на них посредством открытых и всеобъемлющих дискуссий, междисциплинарных рамок и хорошо скоординированных коллективных действий. Эти совместные усилия должны объединить государственный и частный сектор, а также потребителей, сотрудников и инвесторов.
Хотя технологический прогресс сопряжен с рисками, он в конечном итоге улучшает жизнь каждого. При ответственном управлении этими достижениями мы можем гарантировать, что человечество и цифровая технология объединятся для создания более устойчивого будущего.
Бертран Бадре занимал должность управляющего директора и главного финансового директора группы Всемирного банка. Является генеральным директором и основателем BlueOrange Capital, инвестиционного фонда, который направлен на финансирование целей устойчивого развития с финансовой отдачей на уровне рынка. Автор книги «Финансы спасут мир?»
Филипп Хейм — заместитель генерального директора компании «Дженерал».