Депутат Антон Немкин рассказал, как остановить распространение дипфейков
Маркировка сгенерированного нейросетями контента поможет выявить поддельные фото, видео и звукозаписи
Одна из угроз искусственного интеллекта — возможность создания и распространения фальсифицированной информации. Нейросети могут генерировать поддельные изображения, видео- и аудиозаписи, что может повлечь за собой негативные последствия, включая дезинформацию и подрыв доверия к источникам. Помочь бороться с распространением фейков может маркировка сгенерированной продукции, предупреждающая о возможной фальсификации. Видеохостинг YouTube уже позаботился о своих пользователях, обязав авторов контента помечать свои видео, созданные с использованием ИИ. Подробности этой инициативы в еженедельных «IT-новостях» в пресс-центре «Парламентской газеты» рассказал член Комитета Госдумы по информационной политике, информтехнологиям и связи Антон Немкин.
- Антон Игоревич, YouTube стал требовать от авторов и распространителей видео маркировать материалы, которые созданы с использованием ИИ. Как это будет работать?
- Нововведение коснется не всех роликов. Отметка будет необходима только когда на видео изменены лицо и голос человека или созданы реалистичные сцены, например, воссоздан реальный городской пейзаж. При этом анимированные видео со спецэффектами маркироваться не будут. Также новое требование не затронет видео с использованием так называемых фильтров красоты и других визуальных улучшений внешности.
В некоторых случаях YouTube будет сам добавлять отметку о сгенерированном видео, даже если автор не указал ее.
- Как вы оцениваете инициативу YouTube?
- Она более чем верная. Особенно учитывая темпы распространения контента, созданного при помощи нейросетей. Например, за 2023 год система «Диалог Регионы» под названием «Зефир» обработала более 3,5 тысячи единиц медиаконтента, и около тысячи проверенных роликов оказались сгенерированными с помощью технологий на основе искусственного интеллекта. Маркировка такого типа контента — первый шаг к тому, чтобы обезопасить граждан от его пагубного влияния. Надеюсь, в ближайшее время подобные правила будут введены и на других платформах, не только в зарубежных странах, но и в России.
На фоне повсеместного распространения использования технологий на основе ИИ — это необходимость, так как из-за продуктов, созданных при помощи нейросетей, возникает большое количество угроз. Подобное положение дел может привести к повышению социальной напряженности, если дипфейки будут использоваться, например, в политических целях. И такие примеры уже были, например, в прошлом году видеоролик с «обращением» президента Владимира Путина, который транслировали ряд телеканалов и радиостанций, был подготовлен при помощи технологии дипфейк с использованием замены лица. В записи, которая выдавалась за выступление президента, было сделано несколько серьезных заявлений, если бы их распространение не удалось вовремя пресечь, последствия такой преступной выходки хакеров могли бы быть крайне масштабными.
На мой взгляд, маркировка — это наиболее компромиссный путь. Учитывая, что наша страна выбирает стратегию не остановить развитие ИИ, а возглавить этот процесс и занять лидирующие позиции в мире, регулирование в этом вопросе должно вводиться обязательно, но крайне обдуманно и аккуратно.
- Если Google и Apple отключат смартфоны в России, что произойдет?
- Google и Apple уже много раз демонстрировали, что готовы отказаться от российских пользователей. В частности, когда лишили их возможности комфортно совершать покупки в своих магазинах приложений. Однако это может быть только началом. Иностранные корпорации действительно способны попросту лишить владельцев своих устройств, если им это будет выгодно.
Сейчас пользователи иностранных IT-продуктов фактически сидят на пороховой бочке. Важно помнить, что техника или платформа — это не только функции, это еще и данные пользователей. И вот пользователи Google и Apple и других иностранных компаний рискуют лишиться своих данных в одночасье.
Это касается профилей в социальных сетях, аккаунтов на платформах и платных подписок. В любой момент привычные инструменты и важные файлы пользователей могут оказаться недоступны, потому что иностранная компания решила закрыть доступ к своим ресурсам для наших граждан.
- Что бы вы посоветовали пользователям?
- Тренд на импортозамещение в России уже дает свои плоды. IT-отрасль страны развивается очень быстро, в частности, благодаря поддержке государства. Помимо сильных продуктов, которые долгие годы существуют на рынке, создаются новые качественные решения, способные составить конкуренцию зарубежным. При этом наши разработчики ориентируются на потребности пользователей. Благодаря этому россияне уже сейчас могут выбрать удобные и функциональные отечественные аналоги нужных сервисов или техники.
Сейчас российский корпоративный сегмент уже пережил кризис, связанный с использованием иностранных IT-решений. Когда многие сервисы резко отказались от обслуживания клиентов из России, нашим компаниям пришлось в срочном порядке переходить на отечественные решения. Вероятно, индивидуальных пользователей ожидает то же самое.
Выходом из ситуации неизвестности, где пользователь неожиданно может лишиться всего, будет переход на отечественные решения. У большинства иностранных платформ, инструментов и гаджетов есть достойные российские аналоги. При этом продукты нашего производства можно использовать спокойно, в то время как доступ к зарубежным IT-решениям для россиян теперь всегда находится под вопросом.
- Как прошла предвыборная кампания и сами выборы в части обеспечения безопасности информационной инфраструктуры?
- Наша страна показала всем пример того, как в условиях беспрецедентного внешнего давления провести такое важное мероприятие, как выборы президента, на высшем уровне. Действительно, атаки велись одновременно на все ресурсы инфраструктуры выборов. Длительность самой мощной атаки составила более 40 часов. В основном атаки шли из Германии, США, Финляндии, Литвы и еще нескольких стран. Все атаки удалось отразить успешно, сбоев или недоступности ресурсов зафиксировано не было.
Цифровые сервисы «Единой России» в ходе прошедших выборов также выдержали DDOS-атаки с более чем 70 тысяч IP-адресов, такого напора никогда не фиксировалось ранее.
В период подготовки к выборам Роскомнадзор удалил почти пять тысяч ссылок, содержащих призывы к экстремистской и террористической деятельности, а также материалы экстремистских организаций, в том числе направленные на срыв выборов. По данным ведомства, было также заблокировано почти полторы тысячи материалов, призывающих к участию в несогласованных массовых акциях.
Также активно в Сети распространялись материалы, которые содержали недостоверную информацию о выборах, фейковые сайты и аккаунты ЦИК и региональных избирательных комиссий. Удалено было порядка двух тысяч таких материалов.
Попытки скрытого зарубежного вмешательства в процесс выборов проявились и в продвижении антироссийскими информационными ресурсами новостей о якобы нарушениях избирательного законодательства и прогнозов о фальсификации результатов.
Но надо отметить, что по факту наши оппоненты, создатели фейков, выдохлись буквально в первый день. Эксперты ожидали, что они будут участвовать в выборах гораздо активнее, но основная волна дезинформации пришлась именно на пятницу, первый день голосования. В субботу и воскресенье было уже достаточно спокойно, распространители фейков использовали уже только так называемые домашние заготовки, распространяли видео многолетней давности, но это им никак не помогло.
Благодаря скоординированной и эффективной работе государственных и общественных институтов удалось обеспечить как безопасное и бесперебойное функционирование технической инфраструктуры ЦИК, так и стабильность российского инфополя.
- Третье чтение прошел закон о штрафах до миллиона рублей для тех, кто распространяет спам через звонки и сообщения гражданам. Пока инициатива не вступила в силу, есть ли какое-то наказание за подобные нарушения?
- Сейчас за нарушение закона о рекламе для рекламодателей, производителей или распространителей рекламы, за исключением ряда случаев, установлены штрафы: для граждан в размере от 2 до 2,5 тысячи рублей, для юридических лиц — от 100 до 500 тысяч. Поправки же предусматривают более высокие штрафы за несоблюдение требований к рекламе, распространяемой по сетям электросвязи. Для граждан штрафы составят от 10 до 20 тысяч рублей, для должностных лиц — от 20 до 100 тысяч, для юрлиц — от 300 тысяч до миллиона рублей.
Сегодня гражданам приходится сталкиваться с огромным количеством спама — по данным Минцифры, более пяти миллиардов спам-звонков заблокировано в России только с 2022 года. При этом автоматические системы оказываются верным помощником в осуществлении спам-атак, например, одному из абонентов в феврале пытались дозвониться более трех тысяч раз за 13 минут, в чем явно им помогли бот или роботизированная система. При подобной атаке происходит автоматический дозвон до абонента с перебором подставных номеров.
Те, кто нарушает закон и заполняет устройства граждан потоком спама, должны нести за свои действия серьезное наказание. Мне кажется, увеличение штрафов за такие нарушения вполне своевременная и нужная мера.
Важность наказания подтверждает и то, что те, кто обычно распространяет спам, чаще всего задействованы в незаконном обороте персональных данных граждан. Дело в том, что для автоматического обзвона или рассылки большого количества сообщений нужна обширная база контактов. Получить их мошенникам проще всего на черном рынке, куда они зачастую и обращаются за слитой информацией о гражданах. Таким образом, они являются участниками цепочки криминальной обработки данных, формируют спрос на то, чтобы хакеры и дальше атаковали компании с целью кражи данных. На это нельзя закрывать глаза.
Читайте также:
• «Белых» хакеров хотят вывести из-под уголовной статьи • Все органы местного самоуправления перейдут на электронный документооборот к 2030 году
3786
Ещё материалы: Антон Немкин , Владимир Путин
