Свыше 90% родителей проголосовали за стандарты безопасности для детского ИИ

Стандарты безопасности для ИИ-продуктов для детей безоговорочно нужны, когда речь идёт о высоких рисках - манипулятивных рекомендациях, потенциально опасном контенте, непрозрачной работе алгоритмов, сборе и обработке данных несовершеннолетних. Такое мнение в беседе с «СенатИнформ» высказал замглавы Совета по развитию цифровой экономики при СФ, первый зампред Комитета верхней палаты по конституционному законодательству и госстроительству Артём Шейкин.

В Альянсе по защите детей в цифровой среде провели опрос, выяснилось, что за введение специальных стандартов безопасности для ИИ-продуктов для несовершеннолетних выступают 92% родителей. 89% считают, что именно семья должна брать на себя основную ответственность за безопасность детей в сети. А обязательство за контент и настройку алгоритмов лежит, по мнению 94% опрошенных, на цифровых платформах.

Почти треть мам и пап (29%) уверены, что за цифровую безопасность подрастающего поколения должно отвечать государство, 24% возлагают эти обязанности на систему образования, а 35% - на онлайн-платформы и IT-компании, пишет ТАСС.

Сенатор Шейкин в разговоре с нашим изданием сказал, что в таких вопросах важно не идти по пути универсальных запретов. По словам парламентария, ИИ-продукты и цифровые сервисы уже стали частью жизни детей и подростков, поэтому задача состоит не в том, чтобы искусственно ограничить доступ к технологиям, а в том, чтобы сделать их использование безопасным и понятным.

«В первую очередь необходимо определить разумные возрастные ограничения для разных категорий ИИ-сервисов», - считает Шейкин. Так, заметил он, риски для детей младшего возраста и для подростков отличаются: маленький ребёнок гораздо хуже распознаёт манипуляцию, рекламу, вредный совет или недостоверную информацию, тогда как подростки чаще сталкиваются с рисками вовлечения, зависимости от контента, общения с ИИ-компаньонами и передачи персональных данных.

Уже после этого, исходя из практики применения и уровня угроз, можно говорить о специальных стандартах безопасности. Там, где речь идёт о высоких рисках - манипулятивных рекомендациях, потенциально опасном контенте, непрозрачной работе алгоритмов, сборе и обработке данных несовершеннолетних, - такие стандарты, безусловно, нужны

Артём Шейкин, первый зампред Комитета СФ по конституционному законодательству и госстроительству

При этом, подчеркнул сенатор, регулирование должно быть разумным и технологически исполнимым. Парламентарий считает, что цифровые сервисы должны помогать детям в обучении, творчестве и коммуникации, но безопасность ребёнка должна быть заложена в них изначально. «Это общая ответственность семьи, государства, школы и самих платформ», - подытожил законодатель.

Ранее Артём Шейкин сказал нашему изданию, что при регулировании ИИ нужно учитывать качество и происхождение данных, на которых обучаются модели искусственного интеллекта, а также прозрачность алгоритмов. То есть пользователь и регулятор должны понимать, как принимаются решения.

«СенатИнформ» писал, что в законопроекте о регулировании ИИ появились новые нормы, уточняющие правила использования и обучения искусственного интеллекта. Они усиливают ответственность владельцев нейросетей за их противоправное использование, а также окончательно закрепляют требования о маркировке синтезированного ИИ-контента.

Председатель СФ Валентина Матвиенко говорила, что развитие ИИ неизбежно, а одно из условий этого – отдача от применения данных технологий.

Глава палаты регионов подчёркивала, что в России нужны законы для борьбы с использованием ИИ в противоправных целях.