В СФ поддержали идею запретить манипулировать людьми с помощью нейросетей

Принцип защиты граждан от манипулятивного использования при помощи современных технологий выглядит оправданным. Искусственный интеллект не должен использоваться таким образом, чтобы скрыто подталкивать человека к решениям, которые он сам бы не принял. Но регулирование должно быть гибким, чтобы не создать барьеров для развития технологий, заявил «СенатИнформ» замглавы Совета по развитию цифровой экономики при СФ, первый зампред Комитета верхней палаты по конституционному законодательству и госстроительству Артём Шейкин

Ранее «Известия» со ссылкой на законопроект Минцифры сообщают, что разработчиков систем искусственного интеллекта (ИИ) могут обязать сообщать их пользователям о недопустимости применения нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Под эксплуатацией уязвимостей в документе понимается использование состояний человека, в том числе возрастных, социально-экономических, психологических для «целенаправленного воздействия на поведение, принятие решений или несанкционированный доступ к информации».

«Современные цифровые сервисы способны анализировать огромные массивы данных о предпочтениях человека и формировать персонализированные рекомендации. Это касается товаров, контента в соцсетях, услуг, объявлений и так далее», — сказал в разговоре с нашим изданием сенатор Шейкин.

В большинстве случаев, по словам парламентария, это делает использование сервисов удобнее: человек благодаря персонализированным рекомендациям быстрее находит нужную информацию или подходящий продукт. Однако при определённых условиях такие технологии могут использоваться и недобросовестно, например, для усиленного давления на пользователя или создания точечных мошеннических сценариев, направленных на конкретного человека или группу лиц.

Поэтому сам принцип защиты граждан от манипулятивного использования технологий выглядит оправданным. Искусственный интеллект не должен разрабатываться или использоваться таким образом, чтобы скрыто подталкивать человека к решениям, которые он бы не принял без подобного воздействия. Речь идёт прежде всего о ситуациях, когда используются психологические или поведенческие особенности человека — возраст, эмоциональное состояние, социальное положение — для навязывания решений или извлечения выгоды

Артём Шейкин, первый зампред Комитета СФ по конституционному законодательству и госстроительству

При этом, считает сенатор, важно понимать, что реализовать такой запрет исключительно в форме полноценной новой законодательной нормы будет крайне непросто.

«Искусственный интеллект — сложная технология, которая функционирует с опорой на множество факторов, прежде всего исходя из данных, на которых она обучалась. Предусмотреть все возможные сценарии поведения нейросетей практически невозможно», — полагает Шейкин. Поэтому, на его взгляд, регулирование должно быть аккуратным, гибким и рискориентированным, чтобы не создать излишних барьеров для развития технологий и цифровых сервисов.

Ключевая задача, считает законодатель, провести границу между полезной персонализацией и манипуляцией. Рекомендательные алгоритмы сами по себе не являются проблемой: они помогают находить фильмы в онлайн-кинотеатрах, товары в интернет-магазинах или релевантную информацию в поисковых системах. Проблема возникает тогда, когда алгоритм начинает использовать эмоциональную уязвимость пользователя.

«Иными словами, нужно не запрещать персонализацию как таковую, а установить правила добросовестного использования технологий. Баланс здесь крайне важен: необходимо одновременно защитить граждан от злоупотреблений и сохранить возможности для развития цифровых сервисов, которые уже стали частью современной экономики», — подчеркнул Шейкин.

Председатель Совета Федерации Валентина Матвиенко ранее говорила, что развитие ИИ неизбежно. Но насильственно внедрить его нельзя, а широкое развитие он получит только тогда, когда есть отдача от применения этих технологий.

Россия нуждается в законах для борьбы с использованием искусственного интеллекта в противоправных целях, считает глава верхней палаты парламента.