В войнах будущего победу обеспечат нейросети
Искусственный интеллект уже вовсю используют, но многие об этом даже не догадываются — ситуацию надо срочно исправлять, уверены эксперты
Медийная истерика, подкрепленная бешеными вложениями, инвестиционный пузырь, который рано или поздно лопнет. Так ситуацию вокруг применения искусственного интеллекта (ИИ) в мире видит член Совета по правам человека при Президенте России, ведущий специалист в сфере информационных технологий Игорь Ашманов. Впрочем, и перспектив в работе с ИИ он не отметает: технологии позволят нашей стране в будущем противостоять любому противнику. Но для этого их надо не только пестовать, но и грамотно регулировать, а пока в российских законах нейросети почти не упоминаются. Над изменением ситуации работают парламентарии. В каких сферах ИИ послужит россиянам уже совсем скоро, узнала редакция «Парламентской газеты».
Пузырь и бредогенератор
По своей технологической сути ИИ является системой программ, которая через различные методы оптимизации позволяет имитировать те или иные когнитивные функции человека. Поэтому заявления о том, что ИИ со временем захватит планету и сможет обрести собственное сознание, не более чем бред и медийная истерика, основанная на бешеных инвестициях. В этом полностью убежден Игорь Ашманов, много лет занимавшийся разработкой и применением нейросетей.
Предыдущий похожий ажиотаж вокруг технологий ИИ имел место в 2012 году в связи с появлением генераторов речи, напомнил эксперт, выступая на заседании Комитета Совета Федерации по конституционному законодательству и государственному строительству 18 июня. Сейчас происходит очередной всплеск моды на превозношение нейросетей — теперь в связи с появлением «бредогенератора» (в терминологии Ашманова) под названием ChatGPT. При этом он рассказал, что сама эта разработка, которую выкатила на рынок американская корпорация, была подробно описана много лет назад в проектах одной из инновационных структур Пентагона. Как заметил Ашманов, «тогда это казалось бредом, но они это создали».
В России поначалу появление бредогенератора вызвало восторг — сейчас, хотя градус эмоций заметно спал, риски от использования ИИ в нашей стране, считает специалист, никто до конца не осознает. Один из главных его тезисов — ИИ является инвестиционным пузырем, который неминуемо лопнет. Так же, как это не так давно произошло с технологией блокчейна. Схема падения ИИ, описанная специалистом, такова: сначала за счет гигантских денежных вливаний создается колоссальное количество рабочих мест и компаний по работе с ИИ, потом эта разветвленная конструкция рушится, так как заявленные преимущества далеко не так обширны, как это изначально представлялось. После приходит глубокое разочарование — от технологии практически все отворачиваются. При этом сама технология, по его словам, никуда не исчезнет и начнет постепенно выбираться на плато производительности, то есть возникнут более узкие, реально продуктивные сферы ее применения.
Точка роста
Искусственный интеллект создан в первую очередь не для развлечений — он является точкой роста для отечественных компаний, уверен член IT-комитета Госдумы, руководитель проекта «Цифровая Россия» Антон Немкин. Прогноз «мыльного пузыря» он не разделяет. Россия, по его словам, входит в число немногих стран, где есть собственные технологии генеративного искусственного интеллекта и большие языковые модели, аналогичные ChatGPT, — это GigaChat, Kandinsky, YandexGPT, Шедеврум и другие. За последние четыре года российский IT-рынок в среднем рос больше чем в два раза быстрее мирового, напомнил «Парламентской газете» депутат. По объему совокупных вычислительных мощностей с использованием ИИ наша страна входит в десятку лидеров, а общий уровень внедрения искусственного интеллекта в приоритетных сферах экономики достиг 31,5 процента.
В стране больше двух тысяч компаний-разработчиков в сфере ИИ, а экономический эффект от внедрения технологий оценивается больше чем в триллион рублей. Согласно долгосрочным планам, к 2030 году во всех субъектах РФ ИИ будет активно применяться, например, для территориального планирования, для выбора мест строительства объектов. К этому времени больше 70 процентов всех изображений будет обрабатываться с помощью нейросетей, а все социально значимые услуги будут оказывать с применением виртуальных помощников и чат-ботов. Впрочем, последних активно внедряют уже сейчас, заметил Антон Немкин. Причем с успехом, но за каждым таким роботом всегда стоит человек — он в случае чего будет отвечать за последствия, добавил депутат.
«Нет сомнений, что в перспективе ближайших лет генеративные модели станут обыденностью, ими будут пользоваться в каждой семье, — сказал Немкин. — Уже большее 10 процентов глобальной интернет-аудитории пользуются генеративными моделями, и проникновение этих технологий идет в два раза быстрее, чем проникновение смартфонов в свое время, и в четыре раза быстрее, чем шло проникновение интернета».
Сейчас искусственный интеллект находится на пике моды, за которым последует фаза разочарования, настаивает Игорь Ашманов. А вот введение ИИ в системы госуправления он назвал одним из методов чиновников снять ответственность за принятые решения — чат-боты, по его мнению, ставятся на сайты сегодня, по большому счету, для того, чтобы отгонять пользователей, а не помогать людям.
«Между чиновником или клерком и человеком встает прокладка в виде ИИ — это сейчас повсеместно применяется в банках, — предупредил эксперт. — Это один из примеров, как неверное использование ИИ ухудшает качество нашей жизни, так как приводит к отчуждению людей, к формированию нового класса айтишников, «цифровых директоров», которые получают власть просто по факту доступа к тем или иным данным. Это очень тревожная вещь».
Война и мир
Впрочем, это, по его словам, не означает, будто от ИИ нет никакой пользы. Первое, где нам сегодня нужно развивать и внедрять умные технологии, — военная сфера, уверен специалист.
«Пройдет всего несколько лет, и если у страны нет умного оружия, она проиграет в будущих военных конфликтах, — заключил Ашманов. — Для этого России необходимо развивать и внедрять и умные дроны, и анти-дроны, умные системы ПВО, танки с самонаведением на цель и другие подобные разработки».
Об успехах ИИ на поле боя много говорят и пишут во всем мире. В Сети распространяют новости о новейших системах, которые применяет Израиль. В России технологии тоже поставили на службу военных. Системы управления оружием, обладающие ИИ, широко применяются в комплексах противоракетной и противовоздушной обороны для ускорения обработки данных, поступающих от средств контроля воздушно-космической обстановки и предупреждения о ракетном нападении. Об этом говорится в исследовании старшего научного сотрудника отдела разоружения и урегулирования конфликтов Института мировой экономики и международных отношений имени Е. М. Примакова РАН Наталии Ромашкиной.
Российские радиолокационные станции задействуют ИИ для быстрого распознавания военных объектов, в том числе для обнаружения и классификации малоразмерных целей. Воздушно-космические силы нашей страны располагают оперативно-тактической автоматизированной системой управления средствами ПВО, использующей элементы ИИ, для координации работы комплексов С-300 и С-400, зенитных ракетно-пушечных комплексов «Панцирь» и отдельных средств контроля воздушного пространства.
Системы с ИИ являются ключевым элементом для выполнения сложных военных информационно-психологических и кибернетических операций. Единственная сфера, куда ИИ не допускают, это вопросы применения ядерного оружия, подчеркнула Ромашкина.
Помощник в законе
Большинство россиян сталкиваются с ИИ ежедневно уже сейчас, часто не подозревая об этом. Помимо пресловутых чат-ботов, это могут быть сгенерированные нейросетями картинки, звуки, видео и текст. В каждом таком случае человек имеет право и должен знать, что перед ним — продукт технологий, уверен Антон Немкин. Поэтому в Госдуме, как и в Совфеде, неоднократно обсуждали маркировку контента, созданного при помощи нейросетей. «Ненавязчивая, но четкая и понятная маркировка нужна, и она обязательно появится. Отечественные специалисты уже предложили делать это при помощи графических знаков — на мой взгляд, вполне достойное решение», — рассказал депутат.
Регулирование нейросетей и правда нужно, причем как можно скорее, поскольку сейчас ИИ упоминается в российских законах крайне фрагментарно. Но писать правила нужно осторожно, чтобы не мешать прогрессу. Об этом «Парламентской газете» сказал зампред Совета по цифровой экономике при Совете Федерации Артем Шейкин. Он призвал не забывать о рисках при работе с технологиями: «Важно понимать, что ИИ — это инструмент, а не самостоятельный субъект, и ответственность за решения, принятые с его помощью, должна лежать на конкретном сотруднике. В этом контексте абсолютно верно и актуально говорить о необходимости разработки системы классификации технологий ИИ по степени риска. Технологии с высоким уровнем риска необходимо ограничить в использовании».
Большие надежды парламентарии и эксперты возлагают на Цифровой кодекс, над проектом которого сейчас работает большая группа специалистов. Документ должен установить четкие правила и уровень ответственности, права и обязанности в цифровой среде, обеспечивая справедливое и безопасное использование ИИ как для государства, так и для людей, уверен Артем Шейкин.
По мнению Игоря Ашманова, пока самый проработанный закон по регулированию применения ИИ придумали в Европе. В нем, в частности, закрепили, что нейросети являются средством повышенной опасности, устанавливается запрет на биометрическое распознавание личности в общественных местах, а также вводится требование о маркировке контента, сгенерированного ИИ.
Россия здесь пока, как считает эксперт, только запрягает — на данном этапе у нас создана концепция защиты прав граждан в цифровой среде, а Кодекс этики в сфере ИИ, который подписали больше 360 организаций и органов власти РФ, носит больше декларативный характер.
Депутат Антон Немкин с этой позицией согласился: «Правила работы с ИИ не урегулированы законодательством РФ и в целом носят рекомендательный характер. Нынешний этап развития новых технологий абсолютно точно должен сделать их обязательными уже в обозримом будущем».
Читайте также:
1689
Ещё материалы: Антон Немкин , Артем Шейкин
