Для нейросетей предложили написать цифровые законы
Искусственный интеллект может быть шпаргалкой, но не решением никакого вопроса
Нейросеть уже может написать диплом или сочинить стихотворение, но вряд ли она скажет новое слово в науке или искусстве. Попытки поставить передовые технологии на службу человеку предпринимаются постоянно, но искусственный разум следует все-таки ограничить в принятии решений, чтобы не допустить цифровой дискриминации людей. Об этом шла речь на круглом столе в «Парламентской газете» 13 февраля.
Оценивать знания, а не диплом
Студент одного из московских вузов Александр Жадан написал диплом за 23 часа с помощью нейросети и успешно его защитил. Речь в работе шла об улучшении организации работы компании. Искусственный разум, по словам парня, быстро и точно подбирал информацию по его запросу, а он лишь располагал найденные куски текста в нужном порядке, чтобы получилась стройная работа.
Когда Александр рассказал в интернете, как он писал диплом, возникла большая дискуссия, зачем четыре года учиться в вузе, если выпускную квалификационную работу можно сделать меньше чем за сутки. Дошло до главы Минобрнауки, который предложил не наказывать парня, но подумать над изменением подхода к проверке знаний студентов. К слову, за диплом Александр Жадан, и искусственный интеллект вместе с ним, получил тройку: в комиссии посчитали, что он недостаточно изучил российский опыт, сделав упор на европейские практики.
Шпаргалки в школах и институтах существовали во все времена — менялись их технологии, и нейросеть — одна из современных, считает первый зампред Комитета Госдумы по науке и высшему образованию Олег Смолин: «Революции не произошло — студент лишь использовал современные возможности». Оценивать, по словам парламентария, нужно не написанный диплом, а знания студента, то есть сделав главной на защите часть вопросов-ответов.
С таким подходом согласилась коллега Смолина по комитету Ольга Пилипенко, добавив, что по-настоящему оценит компетенции выпускника его будущий работодатель. Бороться с нейросетями, по мнению депутата, бессмысленно — любую систему антиплагиата можно легко обойти.
Где эффективен искусственный разум
Использованная в работе Александра Жадана технология — не больше чем очередной бредогенератор, пусть и весьма продвинутый, уверен специалист по искусственному интеллекту, член президентского Совета по правам человека Игорь Ашманов. Такие «изобретения» хакеры всех мастей использовали с девяностых годов прошлого века, а цель у них всегда была одна — фальсификация чего бы то ни было. Сегодня ИИ пишет оригинальные стихи и музыку, но всегда на основе ранее созданных произведений, то есть сказать новое слово в искусстве технология не может. Как и в науке.
Искусственный интеллект при использовании на бытовом уровне воспитывает в людях невзыскательность и понижает качество почти всего, чего он касается, считает Ашманов. Взять хотя бы контакт-центры банков или мобильных операторов — там с абонентом, как правило, общаются роботы, пробиться к «живому» специалисту очень трудно, хотя машина часто не в состоянии решить проблему звонящего.
Более эффективен ИИ в военном деле: технология позволяет быстро и точно распознавать и намечать цели на стороне противника. Распознаванием лиц преступников по камерам наблюдения тоже занимаются нейросети, и это едва ли не единственная польза от них, добавил Игорь Ашманов.
Судьбу человека машине не доверят
Притом что нейросети уже вовсю вошли в нашу жизнь, такого понятия нет в российском законодательстве, а механизмы работы ИИ описаны весьма приблизительно или не описаны вовсе. Цифровые законы, считает Ольга Пилипенко, нужно писать с оглядкой на общечеловеческие ценности, чтобы не позволить даже самым высоким технологиям на них посягнуть. Например, нельзя позволить машине решать судьбу человека в суде. А в образовании следует сохранить его базовые принципы — доступность, качество и безопасность. С последним, с точки зрения депутата, при использовании ИИ возникают большие трудности.
Кодекс этики ИИ в России принят больше года назад, его подписали несколько сотен компаний, их список постоянно пополняется. Но документ представляет собой лишь общественный договор и не предусматривает ответственности за неисполнение его норм. Поэтому в СПЧ продолжают работу над Цифровым кодексом России — сводом законодательных принципов защиты прав граждан в цифровой среде.
Попытки подступиться к решению вопроса предпринимаются. Например, уже принят закон о защите биометрических персональных данных. Но проблем еще много, признал Игорь Ашманов. Урегулирования ждет работа рекомендательных сервисов, которые сейчас в основном навязывают потребителю то или иное мнение или товар. Или на основе данных о человеке присваивают ему некий рейтинг и предлагают более обеспеченному клиенту те же товары, но по более высокой цене.
«Принципиально важно, чтобы в любом случае, когда человек сталкивается с искусственным разумом, он знал что перед ним именно он — будь то звонок в контакт-центр, покупка в интернет-магазине или дипфейк», — заключил Ашманов.
Цифровой кодекс, по его словам, нужно принимать как можно скорее — киберугроз в мире становится все больше.
Читайте также:
• Программисты подсказали государству, как с ними правильно общаться
8007
Ещё материалы: Олег Смолин, Ольга Пилипенко
