В СФ заявили о необходимости проверки безопасности нейросетей

Модели искусственного интеллекта (ИИ), которые допущены к критической инфраструктуре, должны проходить строжайшую проверку безопасности, заявил член Комитета СФ по экономической политике Иван Евстифеев на 612-м пленарном заседании Совета Федерации.

По словам сенатора, неделю назад состоялся «круглый стол» о цифровизации экономики . Она активно развивается, доля безналичных платежей в России составляет почти 90%. При этом почти 40% всех преступлений совершается с использованием цифровых технологий, ущерб исчисляется десятками миллиардов рублей. Участники «круглого стола» пришли к выводу, что главный вызов сегодня – использование преступниками технологий ИИ. «Мошенники взяли искусственный интеллект на вооружение быстрее, чем законодатель успел создать правовые заслоны», - отметил Иван Евстифеев. 28 апреля в СФ провели отдельное совещание, посвящённое законодательству об использовании ИИ. По итогам обозначили три направления, по которым нужно работать. Необходимо поддерживать отечественных разработчиков суверенных моделей ИИ, которые соответствуют нашим ценностям, сказал Евстифеев. Особое внимание нужно уделять доверенным моделям – это ИИ, который прошёл проверку служб безопасности и получил допуск к самой ответственной работе – управлять электростанцией, ставить диагноз, обрабатывать персональные данные.

Это уже пропуск в критическую инфраструктуру – энергетику, транспорт, медицину. Такой искусственный интеллект должен проходить строжайшую проверку безопасности

Иван Евстифеев, член Комитета СФ по экономической политике

Если не установить эти требования сейчас, к жизненно важным системам могут получить допуск небезопасные модели ИИ. Также в законодательстве следует уточнить особенности авторских прав на тексты, изображения и музыку, сгенерированные нейросетями. Кроме того, нужно установить сбалансированную ответственность за вред, причинённый ИИ. Иван Евстифеев напомнил, что уже разработан правительственный законопроект об использовании ИИ, и он требует точечной донастройки.

Председатель Совета Федерации Валентина Матвиенко в ходе пленарного заседания отметила, что 20 мая на пленарном заседании в рамках «часа эксперта» выступит глава «Сбербанка» Герман Греф, который в том числе занимается развитием искусственного интеллекта. Она попросила Ивана Евстифеева и комитеты подготовить к этой встрече предложения по совершенствованию использования ИИ.

Ранее спикер верхней палаты подчёркивала, что развитие искусственного интеллекта неизбежно, но насильственно его внедрить нельзя. Нужна мотивация для того, чтобы ИИ получил широкое развитие, а появляется она только тогда, когда есть отдача от применения этих технологий. 

Наше издание писало, что СФ призвали ускорить работу над законопроектом о регулировании ИИ.  По словам сенатора Владимира Кожина, работа над документом идёт долго и непросто, потому что раньше в России вообще не было подобного регулирования.

В Минцифры обращали внимание, что закон об ИИ устанавливает базовые правила, необходимые для развития новых технологий, и затем потребует донастройки с помощью нормативных актов.