Волю терминатора скуют законом

На состоявшихся в четверг в Совете Федерации парламентских слушаниях, посвящённых правовому регулированию цифровой экономики, широкую дискуссию вызвала тема искусственного интеллекта. Парламентарии и эксперты пришли к выводу, что прежде, чем создавать человекоподобные мыслящие машины, необходимо законодательно поставить роботов на место, то есть сделать их бесправными по отношению к людям. Наивысшей ценностью при определении приоритетов должна считаться человеческая жизнь.

Главный закон робототехники — не навреди

На проблему искусственного интеллекта сегодня принято смотреть двояко. С одной стороны, это воспринимается как бесспорное благо, с другой — как угроза существованию человечества. Разработки в области искусственного интеллекта должны быть направлены на помощь человеку, на естественное развитие его способностей и дополнение их. Их целью не должно быть встраивание интеллектуальных машин в отношения с людьми. Через эту призму необходимо решать все правовые и морально-этические вопросы в сфере искусственного интеллекта. В том числе при определении их правового статуса и возмещении причинённого ими ущерба.

По мнению вице-президента по корпоративным и правовым вопросам МТС Руслана Ибрагимова, первые человеческие жертвы, связанные с гибелью людей в беспилотных транспортных средствах, показали, насколько существенны риски тотального проникновения в нашу повседневную жизнь технологий. «Развитие искусственного интеллекта может стать самым важным достижением человечества. Но если мы не сможем справиться с рисками, оно может стать его последним достижением», — уточнил эксперт.

Для того чтобы самые мрачные прогнозы футуристов не сбылись, считает он, право с его регулятивными, охранительными инструментами должно выйти на авансцену в области общественных отношений, связанных с применением технологий искусственного интеллекта.

«В силу своей автономности и способности к самообучению, а в перспективе и к целеполаганию, объекты с элементами искусственного интеллекта приобретают повышенную и до конца не предсказуемую опасность для человека. Именно выявление и нейтрализацию таких рисков, включая будущие угрозы, видит целевое право на данном этапе. В принципе безопасность человека должна стать центральной темой нормативного регулирования искусственного интеллекта. В её основе должна лежать норма, закреплённая в статье 2 Конституции, которая признаёт права и свободы человека высшей ценностью. Машина не должна стать чем-то, что позволит ей вступить в конкуренцию с человеком», - убеждён Ибрагимов.

Первой такой принципиальной развилкой, в его понимании, становится необходимость признать или нет машины с искусственным интеллектом субъектом права.

Развитие искусственного интеллекта может стать самым важным достижением человечества. Но если мы не сможем справиться с рисками, оно может стать его последним достижением.

«Наше право выросло из римского права, и за тысячелетия своего существования оно не имело опыта регулирования отношений людей и машин, — пояснил участник парламентских слушаний. - Может ли такая высокоорганизованная интеллектуальная машина осуществлять права и обязанности, отвечать за причинённый вред? С нашей точки зрения, конечно, нет, какой бы ни был высокий уровень её интеллекта. Ни при каких условиях интеллектуальные машины субъектами права не должны признаваться. Иные подходы, которые уже сейчас высказываются, — закрепление за роботом статуса электронной личности или роботизированного агента — помимо того, что это означает революционные изменения в праве, явятся угрозой общественной безопасности для человечества в целом. Нам кажется, что как миру не нужна революция машин, так не нужна и революция правовой системы».

Для предотвращения восстания роботов, полагает Ибрагимов, необходима глубокая правовая реформа, которая позволит создать комплексное регулирование общественных отношений на основе технологий искусственного интеллекта. В основе реформы должно быть признание, что робот — всего лишь объект в праве.

Бессовестные роботы и незаменимые люди

Член Комитета Совета Федерации по конституционному законодательству и госстроительству Александр Башкин считает инициативу по правовому регулированию искусственного интеллекта необходимой и своевременной. «Раньше это была прерогатива фантастов, но нельзя исключать, что развитие искусственного интеллекта дойдёт до того, что в каком-то необозримом времени роботы скажут людям: спасибо, вы нам больше не нужны. Дальше мы уже сами. Увы, это перестаёт быть шуткой и об этом нужно думать и говорить о безопасности и контроле за деятельностью искусственного интеллекта, пока он сам не стал контролировать людей», — подчеркнул парламентарий.

На необходимость правового урегулирования вопросов, связанных с искусственным интеллектом, первой из российских политиков обратила внимание председатель Совета Федерации Валентина Матвиенко. На состоявшемся недавно в Санкт-Петербурге Экспофоруме спикер палаты регионов отметила широкое распространение роботизации. В первую очередь в промышленности, сельском хозяйстве, сфере услуг.

«Популярный у фантастов сюжет с восстанием машин вполне может стать реальностью. Такую угрозу сбрасывать со счетов нельзя», — предостерегла парламентарий, напомнив, что важно избежать негативных социальных и этических последствий от внедрения новых технологий.

«Мы живём в удивительное время, когда стираются границы между настоящим и будущим, когда новая технологическая реальность влияет буквально на все сферы жизни, включая производственные отношения и характер труда, — сказала она. — Со страниц фантастических книг в нашу повседневность переходят роботы и беспилотные аппараты, искусственный интеллект, трёхмерная печать. Умные роботизированные устройства эффективно выполняют рутинную и точную работу — они не знают усталости, эмоционального напряжения и, что особенно ценно для работодателя, не нарушают трудовую дисциплину».

Нельзя исключать, что развитие искусственного интеллекта дойдёт до того, что в каком-то необозримом времени роботы скажут людям: спасибо, вы нам больше не нужны.

Но чтобы приблизиться к фатальным прогнозам писателей-фантастов, для начала необходимо создать сам искусственный интеллект. И вот тут возникает проблема: не хватает высококвалифицированных кадров. Решение кадрового вопроса, без которого невозможно не то что искусственный интеллект создать, но и в принципе полноценно участвовать в цифровой экономике, и есть одна из приоритетных задач при реализации программы «Цифровая экономика» на сегодня.

По словам Александра Башкина, в российских вузах сегодня ежегодно выпускается 50 тысяч специалистов IT-направления. В соответствии с программой «Цифровая экономика» планируется, что к 2024 году этот показатель будет увеличен почти втрое, а доля населения, обладающая цифровыми навыками, составит 40 процентов.

Глава Минобороны, генерал армии Сергей Шойгу на недавней конференции «Искусственный интеллект: проблемы и пути решения» также отметил важность темы, подчеркнув, что военные и гражданские учёные должны вместе заниматься разработкой технологий искусственного интеллекта, развитие которых нужно для предотвращения угроз в области технологической и экономической безопасности России.Он указал, что в результате будут созданы оптимальные условия для разработки и широкого применения робототехники, беспилотных систем и комплексов, а также новых технологий с использованием искусственного интеллекта.

О возможном влиянии искусственного интеллекта на повседневную жизнь говорил и председатель Госдумы Вячеслав Володин. На торжественной церемонии награждения журналистов дипломами спикера палаты за лучшую работу в 2017 году он заявил, что журналистов, как и депутатов, в современном мире нельзя заменить роботами. «У робота нет совести. Как только искусственный интеллект приобретёт это качество, так можно будет заменить всех», — подчеркнул он.

Ранее «Парламентская газета» писала, что в 2018 году будет запущена новая система расчёта пенсий с помощью искусственного интеллекта как пилотный проект. Об этом рассказал руководитель Пенсионного фонда Антон Дроздов. Он отметил, что имеющиеся возможности информационной обработки данных позволяют полностью исключить человеческий фактор из операций расчёта. С прототипом новой системы под названием «База знаний», основанной на искусственном интеллекте, в ПФР ознакомились ещё в феврале.

Новый алгоритм позволяет рассчитывать размеры пенсий в режиме многозадачности, отказаться от экспертного мнения, а также обеспечить прозрачность системы и единство подхода.