Артем Шейкин

Первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству

Необходима государственная платформа для создания новых технологий

18.10.2023 11:35

Секция «Искусственный интеллект» в Совете по развитию цифровой экономики при Совете Федерации является ведущей площадкой, занимающейся вопросами развития, регулирования и применения искусственного интеллекта (далее — ИИ) в различных сферах общественной жизни. Ее активная работа включает широкий спектр вопросов, охватывающих различные актуальные темы этой динамично развивающейся технологической отрасли.

Важно, чтобы инициативы и техническое развитие отрасли сопровождались эффективными мерами ее регулирования. Темами последних круглых столов стали внедрение технологий ИИ в судебные процессы, создание в субъектах РФ специализированных технологических центров, расширение сферы применения ПО с технологиями ИИ в медицинской сфере, вопросы законодательного регулирования правил применения технологий синтеза голоса.

Интеллектории

Для успешного внедрения ИИ в различные сферы общественной жизни необходимо создавать условия для обучения специалистов отрасли, поддержки и развития научных и бизнес-проектов.

Одна из инициатив секции — развитие «интеллекториев» в субъектах РФ. Предлагается создать в регионах специализированные центры для ученых и предпринимателей, в которых они смогут развивать свои проекты в области ИИ. Соответствующая рекомендация направлена Министерству экономического развития РФ и Министерству цифрового развития, связи и массовых коммуникаций РФ. Это возможность для развития молодых специалистов, ученых и предпринимателей в субъектах РФ, а также региональных проектов в сфере ИИ.

Кроме того, в целях развития ИИ необходима разработка государственной платформы для создания новых технологий.

Российские разработчики, при отсутствии достаточных ресурсов, должны иметь доступ к государственным данным для создания технологий ИИ. Предполагается, что на этой платформе будут размещаться датасеты, на основе которых можно проводить обучение систем ИИ. Эта платформа будет предоставлять доступ к вычислительной инфраструктуре, которой смогут пользоваться разработчики. Такие инструменты и технологии позволят всем участникам при создании ИИ проходить циклы от постановки задач до получения конечного результата.

Предложение о создании государственной платформы озвучено участниками на секции «Искусственный интеллект» в рамках разработки Концепции по работе с ИИ, дополняющей стратегию развития ИИ до 2030 года. Необходимо также провести апробацию платформы в экспериментальном режиме, взяв один из видов данных, и произвести построение такой системы сперва в одном из регионов РФ.

Цифровая медицина

Отличным примером применения ИИ является медицинская отрасль, в которой его на экспериментальной основе используют для диагностирования заболеваний. Применение ИИ в медицине позволяет улучшить точность и скорость диагностики, повысить качество медицинских услуг.

В рамках решения секции «Искусственный интеллект» совета были направлены рекомендации о расширении области применения программного обеспечения с ИИ при проведении рентгенологических исследований, компьютерной томографии, изучении снимков рентгена и анализе данных в Комитет Госдумы по информполитике, информационным технологиям и связи, в Минэкономразвития, Минобороны, Минцифры, Минздрав, Минпромторг и другие профильные ведомства и организации.

Этой осенью в Москве уже начал работу новый сервис ИИ для диагностики заболеваний. Подобные эксперименты способствуют расширению сферы применения технологий в отрасли, более активному использованию возможностей ИИ в интересах граждан и развития медицины.

Конструктор судопроизводства

Одним из направлений работы секции является применение технологий ИИ в судопроизводстве. Решение секции направлено в Верховный суд РФ для обсуждения вопросов правового регулирования применения технологий ИИ в судебной системе, в том числе для анализа материалов, так как машинное зрение гораздо лучше человека справляется с обработкой многостраничных документов, проверкой расчетов, поиском ошибок. ИИ эффективен в обработке больших массивов данных и может применяться при подготовке фактуры для принятия судебных решений. Использование экспертных систем на базе ИИ для анализа доказательств, поиска законодательных актов может повысить эффективность работы судебных органов.

В будущем году планируется запуск системы «Правосудие онлайн», в рамках которой будут использоваться системы ИИ. Основной задачей ИИ в суперсервисе станет автоматизированное составление проектов судебных актов на основе анализа текста процессуального обращения и материалов судебного дела. В «Правосудии онлайн» предусмотрены дополнительные функции, которые позволяют определить применимость дела к судебной юрисдикции, рассчитать и оплатить необходимую госпошлину, а также доступны стандартные формы и справочники для оформления исковых требований. Все это значительно упрощает и ускоряет процесс обращения в суд для тех, кто нуждается в судебной защите.

С весны 2023 года в судах Амурской области осуществляется экспериментальное применение ИИ, что позволяет существенно снизить загруженность мировых судей и их аппарата при решении рутинных задач с приказным производством.

В октябре этого года в Ситуационном центре г. Москвы состоялось совещание Совета судей РФ, на котором представители профильных ведомств и министерств, эксперты отрасли обсудили опыт внедрения современных технологий в работу судов города Москвы, включая возможность взаимодействия граждан с судами через МФЦ, а также рассмотрели вопросы автоматизации обмена документами с Адвокатской палатой и использования электронных шаблонов для формирования судебных актов.

Право голоса

Еще одна набирающая популярность сфера использования технологий ИИ — различные возможности применения генерации голоса. Уровень развития нейросетей и технологий синтеза голоса в настоящее время достаточно высок, что позволяет генерировать голоса различных знаменитостей и создавать высококачественные голосовые сообщения для кол-центров.

Бесконтрольное использование технологий синтеза речи может привести к ряду последствий. Существует риск использования голосов специалистов или граждан в озвучивании проектов без их согласия. Синтез может использоваться для нежелательного или запрещенного контента, включая военные призывы или распространение недостоверной информации. Также эти технологии могут использоваться мошенниками для создания обманных схем. Синтез голоса может быть использован для совершения мошенничества или фишинговых атак, к примеру, путем ложных звонков от лица обладателя голоса с целью вымогательства, шантажа, хищения информации и финансов.

Сейчас использование технологий синтеза речи требует полноценного законодательного регулирования. В связи с этим по итогу последнего заседания секции идет разработка законопроекта, в котором предлагается:

закрепить положения, что договоры отчуждения исключительного права не могут по умолчанию включать в себя право на синтез голоса, договорные отношения должны быть прозрачными и устанавливать, где голос будет использован и как.
ввести маркировку при использовании синтезированного голоса, определить операторов маркировки синтезов.
вести контроль и надзор за созданием и использованием технологий синтеза голоса. Предлагается создать специальный отдел при Роскомнадзоре, который будет заниматься вопросами функционирования нейросетей, синтезов, рассматривать жалобы на разные сайты, боты и ресурсы, использующие технологии синтеза голоса, контролировать организации, использующие в работе синтезированные голоса, штрафовать, в случае нарушений блокировать сайты.

Законотворчество

В 2020 году Правительство России представило Концепцию развития регулирования отношений в области искусственного интеллекта и робототехники до 2024 года. Документ затрагивает вопросы регулирования оборота данных, юридической ответственности при использовании ИИ, информационной безопасности, а также потенциала применения данных технологий в различных секторах экономики. В 2021 году был принят национальный Кодекс этики в этой сфере, к которому присоединились более 180 организаций из разных регионов страны.

Главенствующую законодательную позицию по регулированию сферы применения ИИ займет Цифровой кодекс, который будет разрабатываться рабочей группой при Минцифры России. Идея создания такого документа была высказана в июне на стратегической сессии по развитию связи. Существующее отраслевое законодательство с постоянным развитием технологий утрачивает свою актуальность, и Цифровой кодекс позволит систематизировать и обновить базовые законы в области ИИ, связи, информации, персональных данных, интернета и СМИ, а также предоставит права и установит обязанности для государства, отрасли и пользователей.

Одним из важнейших аспектов расширения сферы применения ИИ является безопасность данных. Чтобы защитить персональные данные граждан от потенциальных угроз и риска утечки, нужно использовать обезличенную информацию. Используя обезличенные данные, системы ИИ могут обучаться без риска нарушения конфиденциальности.

Как сказал Президент Российской Федерации в обращении к Правительству и Госдуме, необходимо рассмотреть и принять законопроект о порядке обезличивания персональных данных в осеннюю сессию текущего года, что подчеркивает важность работы по защите персональной информации россиян.

На данный момент Минэкономразвития РФ занимается разработкой такого законопроекта, а именно закона о национальной системе управления данными (НСУД), который будет регламентировать механизмы консолидации данных, обмена ими и предоставления доступа к данным различным структурам, в том числе бизнесу. Документ описывает порядок мер, которые позволят в автоматическом режиме обезличивать персональные данные, одновременно контролируя хранение и использование информации в соответствии с требованиями конфиденциальности. Скорейшие принятие законопроекта будет способствовать повышению уровня защиты персональных данных граждан, а также снижению рисков расширения сферы применения искусственного интеллекта. Подготовку законопроекта о НСУД Минэкономразвития планирует завершить уже в этом месяце. Данный законопроект находится на постоянном контроле Совета по развитию цифровой экономики при Совете Федерации.

Очень важно, чтобы при развитии ИИ своевременно развивались механизмы его правового регулирования и контроля, меры ответственности за нарушения его использования. Это позволит более эффективно и безопасно применять ИИ в разных сферах, расширить возможности его использования в различных отраслях.