В СФ обозначили риски при использовании ИИ в финансовом секторе

Активное внедрение искусственного интеллекта (ИИ) в финансовом секторе несёт не только пользу, но и серьёзные риски, заявил «СенатИнформ» замглавы Совета по развитию цифровой экономики при СФ, первый зампред Комитета верхней палаты по конституционному законодательству и госстроительству Артём Шейкин.

Ранее «Известия» со ссылкой на исследование доктора экономических наук Института экономики РАН Дмитрия Кочергина сообщили, что более 70% банков и страховых компаний уже используют ИИ — в платежах, кредитном анализе, страховании и управлении активами.

По оценкам эксперта, в мировом банковском секторе ИИ может приносить дополнительно 3–5% выручки в год. Однако вместе с выгодами растут и угрозы. В частности, усиливается риск кибератак: нейросети могут использоваться злоумышленниками для создания фишинговых писем, вредоносных программ и кражи данных. Опасность представляют и атаки на данные, на которых обучаются модели, — если их «отравить», алгоритмы начнут работать неправильно.

Кроме того, ИИ может повторять ошибки и перекосы, заложенные в данных, что приводит к дискриминации людей при выдаче кредитов или оформлении страховок, особенно для уязвимых групп. Также возрастает юридический риск из-за возможных ошибок и «галлюцинаций» нейросетей.

Сенатор Шейкин отметил, что широкое использование ИИ во всех сферах жизни — это естественный и неизбежный процесс. По его словам, банки и страховые компании используют ИИ для повышения эффективности и улучшения сервиса, но вместе с этим растёт и число киберугроз, поэтому вопросы безопасности выходят на первый план.

Парламентарий добавил, что нейросети могут использоваться злоумышленниками: для создания фишинговых писем, поддельных сайтов и дипфейков. Опасность представляет и «отравление данных», когда ИИ обучают на намеренно искажённой информации, что приводит к ошибкам в его работе.

В долгосрочной перспективе успех цифровой трансформации финансового сектора будет зависеть не только от скорости внедрения ИИ, но и от способности рынка обеспечить доверие к таким технологиям. Устойчивость и безопасность должны всегда находиться на первом месте, когда речь заходит о любых инновациях

Артём Шейкин, первый зампредседателя Комитета СФ по конституционному законодательству и госстроительству

Ранее законодатель пояснял, что пока нет специальных правовых норм, которые бы чётко регулировали применение искусственного интеллекта. Он уверен, что необходимо разработать и принять комплексный закон, который определит границы применения ИИ и закрепит ответственность за его ошибки.

Спикер палаты регионов Валентина Матвиенко заявляла, что искусственный интеллект способствует быстрому развитию в самых разных сферах, но одновременно есть опасения по поводу его негативного влияния.