Блог

Aug 29, 2023

Деньги, рынки и машинное обучение: раскрываем риски состязательного ИИ

Невозможно игнорировать решающую роль, которую искусственный интеллект (ИИ) и его разновидность — машинное обучение — играют сегодня на фондовом рынке. Хотя ИИ относится к машинам, которые могут выполнять задачи,

Невозможно игнорировать решающую роль, которую искусственный интеллект (ИИ) и его разновидность — машинное обучение — играют сегодня на фондовом рынке.

В то время как ИИ относится к машинам, которые могут выполнять задачи, которые обычно требуют человеческого интеллекта, машинное обучение (МО) предполагает изучение шаблонов на основе данных, что расширяет возможности машин делать прогнозы и решения.

Одним из основных способов использования машинного обучения на фондовом рынке является алгоритмическая торговля. Модели машинного обучения распознают закономерности в огромных объемах финансовых данных, а затем совершают сделки на основе этих закономерностей — тысячи и тысячи сделок за небольшие доли секунды. Эти алгоритмические торговые модели постоянно учатся, корректируя свои прогнозы и действия в процессе, который происходит непрерывно, что иногда может привести к таким явлениям, как внезапные сбои, когда определенные модели запускают петлю обратной связи, отправляя определенные сегменты рынка во внезапное свободное падение.

Алгоритмическая торговля, несмотря на ее периодические недостатки, стала незаменимой для нашей финансовой системы. У этого есть огромный потенциал; это еще один способ сказать, что некоторым людям это приносит очень много денег. По данным компании Exadel, предоставляющей технологические услуги, банки смогут сэкономить 1 триллион долларов к 2030 году благодаря алгоритмической торговле.

Однако такая зависимость от моделей машинного обучения в финансах не лишена рисков — даже рисков, выходящих за рамки внезапных сбоев.

Одной из значительных и недооцененных угроз для этих систем являются так называемые состязательные атаки. Это происходит, когда злоумышленники манипулируют входными данными, которые передаются в модель машинного обучения, в результате чего модель делает неверные прогнозы.

Одна из форм этой враждебной атаки известна как «отравление данных», когда злоумышленники вводят во входные данные «шум» или ложные данные. Обучение на этих отравленных данных может привести к тому, что модель неправильно классифицирует целые наборы данных. Например, система мошенничества с кредитными картами может ошибочно приписать мошенническую деятельность там, где ее не было.

Подобные манипуляции представляют собой не просто теоретическую угрозу. Последствия заражения данных и состязательных атак имеют широкие последствия для различных приложений машинного обучения, включая модели финансового прогнозирования. В исследовании, проведенном исследователями из Университета Иллинойса, IBM и других учреждений, они продемонстрировали уязвимость моделей финансового прогнозирования к состязательным атакам. По их выводам, эти атаки могут привести к неоптимальным торговым решениям, что приведет к потерям инвесторов от 23 до 32 процентов. Это исследование подчеркивает потенциальную серьезность этих угроз и подчеркивает необходимость надежной защиты от состязательных атак.

Реакция финансовой индустрии на эти атаки часто была реактивной — игра в «ударь крота», в которой защита поднимается только после того, как атака произошла. Однако, учитывая, что эти угрозы заложены в самой структуре алгоритмов МО, более активный подход — единственный способ осмысленного решения этой постоянной проблемы.

Финансовым учреждениям необходимо внедрить надежные и эффективные методы тестирования и оценки, которые смогут обнаружить потенциальные слабости и защититься от этих атак. Такая реализация может включать в себя строгие процедуры тестирования, использование «красных команд» для моделирования атак и постоянное обновление моделей, чтобы гарантировать, что они не будут скомпрометированы злоумышленниками или плохими данными.

Последствия игнорирования проблемы состязательных атак в алгоритмической торговле потенциально катастрофичны: от значительных финансовых потерь до ущерба репутации фирм или даже масштабных экономических потрясений. В мире, который все больше полагается на модели ОД, финансовому сектору необходимо перейти от реагирования к упреждению, чтобы обеспечить безопасность и целостность нашей финансовой системы.

Джошуа Штайер — технический аналитик, а Сай Пратьюш Катрагадда — специалист по обработке данных в некоммерческой, беспартийной корпорации RAND.

Авторские права принадлежат Nexstar Media Inc., 2023. Все права защищены. Этот материал нельзя публиковать, транслировать, переписывать или распространять.