Искусственный интеллект, роботы и объекты робототехники: к вопросу о теории правового регулирования в Российской Федерации

Автор: Ручкина Г.Ф.

В Финансовом университете при Правительстве Российской Федерации завершился первый этап исследования по фундаментальной научной теме: "Теория правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации"[1]. Работа выполнена преподавателями Департамента правового регулирования экономической деятельности совместно с научными работниками Центра исследований и экспертиз Финансового университета.

Тема исследования была выбрана не случайно. Государство уделяет все большее внимание необходимости регулирования новых перспективных направлений технологического развития, которые активно формируются. Это в полной мере относится и к вопросам регулирования в области робототехники, искусственного интеллекта. Утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 г., в которой предусмотрено создание комплексной системы регулирования отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, в том числе функционирование к 2030 г. гибкой системы нормативного правового регулирования в области искусственного интеллекта, гарантирующего безопасность населения и направленного на стимулирование развития технологий искусственного интеллекта. Предусмотрено внесение изменений в национальную программу "Цифровая экономика Российской Федерации", предполагаются разработка и утверждение федерального проекта "Искусственный интеллект", а также разработка (корректировка) государственных программ Российской Федерации, федеральных и региональных проектов, плановых и программно-целевых и других документов в части, касающейся искусственного интеллекта[2].

Новые возможности и связанные с ними новые риски и угрозы социального, психологического, экономического и юридического характера для государства, общества и отдельных индивидов, обострение глобальной конкуренции и борьбы за технологическое первенство и вытекающая из этого необходимость сохранения технологического и цифрового суверенитета нашего государства в области развития искусственного интеллекта формируют ситуацию, когда правовая среда как минимум должна подстроиться под воплощаемую реальность и как максимум — создать задел для дальнейшего соответствия развивающимся технологиям. Однако в настоящее время нормативные правовые акты не соответствуют новым технологическим условиям и уровню развития науки и техники, что требует создания концепции комплексного правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации (см. табл. 1).

Вполне понятно, какие негативные последствия повлечет экономическое и технологическое отставание России в случае недостаточного развития и использования конкурентоспособных технологий искусственного интеллекта. На это обращал внимание и Президент Российской Федерации в Ежегодном послании Федеральному Собранию Российской Федерации 1 марта 2018 г.: "В мире сегодня накапливается громадный технологический потенциал, который позволяет совершить настоящий рывок в повышении качества жизни людей, в модернизации экономики, инфраструктуры и государственного управления. Насколько эффективно мы сможем использовать колоссальные возможности технологической революции, как ответим на ее вызов, зависит только от нас. И в этом смысле ближайшие годы станут решающими для будущего страны"[3].

Одной из основных задач развития искусственного интеллекта является поддержка научных исследований в данной сфере. При этом важной остается реализация междисциплинарных исследовательских проектов в области искусственного интеллекта в различных отраслях экономики.

Таблица 1. Современное состояние правового регулирования искусственного интеллекта, роботов и объектов робототехники в Российской Федерации

Документ	Содержание	Год
Воздушный кодекс Российской Федерации от 19 марта 1997 г. N 60-ФЗ	В Воздушный кодекс РФ были внесены существенные изменения, связанные с применением беспилотных воздушных средств и авиационных систем	1997
Приказ Минздрава РФ N 344, РАМН N 76 от 27 августа 2001 г. "Об утверждении Концепции развития телемедицинских технологий в Российской Федерации и плана ее реализации"	Утвержден с целью координации и оптимизации работ по созданию и использованию телемедицинских технологий в системе охраны здоровья населения Российской Федерации и управления здравоохранения, совершенствования обучения и повышения квалификации медицинских работников и внедрения научных достижений в практику здравоохранения	2001
Распоряжение Правительства РФ от 17 ноября 2008 г. N 1662-р "О Концепции долгосрочного социально-экономического развития Российской Федерации на период до 2020 года"	Среди основных приоритетов социальной и экономической политики первого этапа (2008 — 2012 годы) выделяются структурная и технологическая модернизации здравоохранения. На втором этапе (2013 — 2020 годы) планируется внедрение инновационных технологий в область здравоохранения	2008
Федеральный закон от 21 ноября 2011 г. N 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации"	Является базовым Законом, регулирующим отношения, складывающиеся в сфере медицины. В рамках исследуемой темы интересно внесение отдельной статьи: 36.2 "Особенности медицинской помощи, оказываемой с применением телемедицинских технологий"	2011
ГОСТ Р ИСО 8373-2014 "Роботы и робототехнические устройства. Термины и определения". Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 26 ноября 2014 г.	Определяет терминологию, используемую в робототехнике и роботизированных устройствах, применяемых как в промышленной, так и непромышленной сферах	2014
Указ Президента РФ от 31 декабря 2015 г. N 683 "О Стратегии национальной безопасности Российской Федерации"	Отмечается необходимость дальнейшего развития и совершенствования законодательства в области оказания медицинских услуг. В частности, органы государственной власти должны обеспечить: — повышение эффективности оказания специализированной, в том числе высокотехнологичной, медицинской помощи; — развитие и внедрение инновационных методов диагностики, профилактики и лечения; и др.	2015
ГОСТ Р 60.0.2.1-2016 "Роботы и робототехнические устройства. Общие требования по безопасности". Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 29 ноября 2016 г. N 1843-ст	Устанавливает общие требования по безопасности для роботов и робототехнических устройств	2016
Законопроект "О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники". На стадии общественного обсуждения	Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, т.е. тех роботах, которые могут действовать автономно	2016
Указ Президента РФ от 1 декабря 2016 г. N 642 "О Стратегии научно-технологического развития Российской Федерации"	К приоритетам научно-технологического развития России относятся наиболее важные направления научно-технологического развития страны. Среди них выделяются и вопросы создания искусственного интеллекта	2016
ГОСТ Р 43.0.8-2017 "Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения". Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 27 июля 2017 г. N 757-ст	Устанавливает общие, основные положения, относящиеся к искусственно-интеллектуализированному человекоинформационному взаимодействию оператора в технической деятельности	2017
Указ Президента РФ от 9 мая 2017 г. N 203 "О Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 годы"	В данном документе среди основных направлений развития информационных и коммуникационных технологий выделяется искусственный интеллект. Кроме того, отмечается необходимость обеспечить всеобщий доступ к информационным и коммуникационным технологиям, а также обозначается проблема интенсификации использования самих технологий, созданных в том числе на базе искусственного интеллекта	2017
Основные направления развития финансовых технологий на период 2018 — 2020 годов. URL: https://cbr.ru/statichtml/file/36231/on_fintex_2017.pdf	В указанном документе отмечается наглядное повышение трендов развития определенных сфер, основу которых составляют технологии, в том числе финансовые технологии. Среди прочих наиболее перспективных финансовых технологий выделяются искусственный интеллект и роботизация. В связи с этим развитие и применение указанных технологий относится к ключевым направлениям и задачам Банка России на период до 2020 г.	2018

По итогам московского форума создан специальный консорциум — Сбербанк, "Газпром нефть", "Яндекс", "Мэйл.Ру Групп", МТС и Российский фонд прямых инвестиций, — который будет заниматься организацией и проведением научных исследований в области искусственного интеллекта[4]. Это неслучайно: стремительное развитие технологий искусственного интеллекта сопровождается ростом инвестиций в их развитие. По оценкам международных экспертов, инвестиции с 2014 по 2017 г. выросли в три раза и составили около 40 млрд долларов США. В 2018 г. мировой рынок технологических решений на основе искусственного интеллекта составил 21,5 млрд долларов США, а к 2024 г., по прогнозу экспертов, достигнет 140 млрд долларов США[5].

Результаты обзора источников по правовому регулированию искусственного интеллекта, роботов и объектов робототехники свидетельствуют о том, что популярность исследований в этой области за последние несколько лет возросла[6]. Повышение интереса к проблеме вызвано как совершенствованием самой технологии, так и научным и политическим диалогом о потенциале развития технологии, необходимости урегулирования границ ее применения, о рисках от ее использования. Тем временем на дороги общественного пользования уже выводится беспилотный транспорт, активное распространение получают чат-боты и другие роботы-помощники, а в финансовой сфере на основе детерминированных алгоритмов искусственный интеллект осуществляет большую часть мелких операций и транзакций. Так, применение программных роботов и сокращение доли ручного труда повысили в 2018 г. эффективность бэк-офиса ПАО "Сбербанк" на 25%, а скорость отдельных клиентских процессов выросла в 4 — 10 раз. Новые технологии применяются и для индивидуального общения с гражданами и корпоративными клиентами с помощью чатов и голосовых ботов[7], а также при сборе просроченной задолженности. Применение искусственного интеллекта при управлении активами и пассивами дает возможность банку моделировать структуру баланса с учетом различных факторов, в том числе макроэкономических, и принимать оптимальные решения при финансовом планировании и установлении продуктовых ставок. Искусственный интеллект выявляет мошенничество в финансовых операциях на основе заранее определенного набора правил.

Ввиду широкого спектра потенциального применения исследованию роботов и искусственного интеллекта посвящены труды специалистов из самых различных сфер знаний, но большинство научных трудов рассматривают проблемы применения искусственного интеллекта в узком сегменте, например положительные и негативные последствия от использования данной технологии, перспективы ее развития. Не определена правовая сущность искусственного интеллекта (не существует единообразия мнений о самой природе искусственного интеллекта и его видах, о критериях разумности, а также о том, как юниты искусственного интеллекта вписываются в современную систему субъектов). Ключевой проблемой для большинства правоведов, исследующих искусственный интеллект как юридический феномен, является возможность наделения искусственного интеллекта субъектностью, из которой уже вытекает и возможность роботов иметь права, в том числе на результаты осуществляемой ими деятельности, а также нести обязанности или ответственность за свои деяния (см. табл. 2).

Таблица 2. Обзор научных источников по правовому регулированию

В отечественной науке отсутствуют полноценные комплексные фундаментальные исследования в указанной области с изучением междисциплинарных связей, которые в последующем формируют полноценную научную школу. Безусловно, с учетом того, что зарубежные исследователи уже подготовили ряд масштабных исследований по проблемам искусственного интеллекта[8], такие работы должны проводиться и в Российской Федерации.

Связь между исследованиями о правовой сущности искусственного интеллекта и нормотворческой деятельностью находится на недостаточном уровне в Российской Федерации (уровень выработки стратегических и рамочных документов) в отличие от нормотворческой деятельности зарубежных государств (США, ФРГ и др.).

Анализ нормативных актов и документов, принятых в сфере робототехники и искусственного интеллекта в зарубежных странах, показал, что в большинстве развитых государств имеется акт (или акты) по регулированию соответствующих отношений.

Таблица 3. Нормативные акты и документы, принятые в сфере робототехники и искусственного интеллекта в зарубежных странах

Страна/региональное объединение	Наименование НПА/документа	Год принятия
Европейский союз	Программа "Горизонт — 2020"	2014
	Дорожная карта развития робототехники	2016
	Нормы гражданского права в робототехнике	2016
	Резолюция 2015/2103 (INL) от 16 февраля 2017 г. (Robolaw)	2017
	Декларация о сотрудничестве в сфере искусственного интеллекта	2018
	Обращение Европейской комиссии "Искусственной интеллект для Европы"	2018
	Хартия об этических принципах применения искусственного интеллекта в судебных системах	2018
США	Дорожная карта развития робототехники	2009
	Национальная робототехническая инициатива	2011
	Стратегический план исследований и разработок искусственного интеллекта	2016
	Рекомендации "Исследование, создание и регулирование искусственного интеллекта"	2017
	Азиломарские принципы искусственного интеллекта	2017
Китай	План "Тринадцатая пятилетка"	2016
	План развития робототехнической промышленности (2016 — 2020)	2016
	Доклад о выполнении плана экономического и социального развития за 2016 г. и проекте плана на 2017 г.	2017
	План развития технологий искусственного интеллекта нового поколения	2017
	Доклад о выполнении плана экономического и социального развития за 2017 г. и проекте плана на 2018 г.	2018
	Руководство по содействию производству промышленных роботов	2013
Япония	Стратегия возрождения Японии	2013
	Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий	2015
	Стратегия развития технологий искусственного интеллекта	2017
Южная Корея	Закон о развитии и распространении умных роботов	2008
ОАЭ	Стратегия ОАЭ для развития искусственного интеллекта	2017
	Столетие ОАЭ — 2071	2017
Сингапур	Национальная программа развития искусственного интеллекта	2017
	План преобразования индустрии профессиональных услуг	2017
Канада	Общеканадская стратегия развития искусственного интеллекта	2017
	Монреальская декларация об ответственном развитии искусственного интеллекта	2017
Тайвань	Программа "DIGI plus"	2016
	План "5 + 2"	2017
Великобритания	Документ "Восемь наиболее значимых технологий"	2012
	Национальная стратегия для искусственного интеллекта и робототехники	2013
	Документ "Принципы робототехники"	2010
Германия	Стратегия Германии в сфере развития технологий за период до 2020 г.	2014
	Отчет о развитии законодательства о цифровой повестке, 2014 — 2017 годы	2017
Новая Зеландия	Доклад "ИИ: создавая будущее Новой Зеландии"	2018
Эстония	Закон о внесении изменений в Закон о дорожном движении	2017
Франция	Документ "Инициативы Франции в области робототехники"	2013
	Стратегия развития искусственного интеллекта	2017

Исследование содержания обозначенных актов позволило выделить укрупненные подходы к правовому режиму роботов и искусственного интеллекта в зарубежных странах:

— status quo: искусственный интеллект и роботы рассматриваются в качестве объектов права;

— робот как юридическое лицо;

— робот как человек — к искусственному интеллекту и роботам применяются нормы о физических лицах как субъектах права;

— робот как электронное лицо (агент).

Каждый подход, как показало исследование, имеет свои преимущества и недостатки.

Таблица 4. Подходы зарубежных стран к вопросу о правовом режиме роботов и искусственного интеллекта

Страны/региональные объединения, чей опыт регулирования был проанализирован в рамках исследования: Европейский союз, США, Китай, Япония, Южная Корея, Объединенные Арабские Эмираты, Сингапур, Канада, Великобритания, Германия, Новая Зеландия, Эстония, Франция
Наименование обобщенного подхода	Описание подхода
"Status Quo": искусственный интеллект и роботы рассматриваются в качестве объекта права (Индия, США, Эстония, Китай, Южная Корея, ОАЭ, Сингапур, Великобритания, Канада, Новая Зеландия)	К искусственному интеллекту и роботам применяется исключительно комплекс известных правовых норм. К информационным системам искусственного интеллекта и роботов применяются нормы права интеллектуальной собственности и информационного права. К физической составляющей применяются нормы вещного права, нормы об имуществе и др.
Подход "робот как юридическое лицо" (возможность внедрения такого подхода рассматривалась в Эстонии)	В качестве основы подхода выступает теория фикции юридического лица. При таком подходе робот представляет собой не что иное, как искусственно созданный посредством простой фикции субъект права. Такой субъект создается исключительно в юридических целях. Реальными субъектами правоотношений в юридическом лице остаются единственно возможные носители правосубъектности — физические лица
Подход "робот как человек" (Япония, Саудовская Аравия)	К искусственному интеллекту и роботам применяются нормы о физических лицах как субъектах права
Подход "робот как электронное лицо (агент)" (ЕС, Германия, Франция)	Принципиально новая юридическая конструкция, предполагающая разумно ограниченную правосубъектность нового вида для искусственного интеллекта и роботов

С учетом международного опыта было определено, что среди мер, направленных на развитие регулирования киберфизических систем, искусственного интеллекта, роботов и объектов робототехники, могут быть выделены следующие меры:

— учреждение федерального органа в сфере искусственного интеллекта и робототехники, который занимался бы корректировкой существующих программ и мер поддержки инноваций, а также организацией мониторинга эффективности существующих мер для отрасли робототехники;

— финансирование исследований с целью планомерного развития искусственного интеллекта и робототехники;

— создание территорий развития для реализации пилотных проектов в сфере робототехники;

— предоставление налоговых льгот организациям, производящим или разрабатывающим робототехнические решения и роботов;

— внедрение автоматизированных систем и технологий робототехники в аппарат государственного управления и др.

При этом направления развития регулирования киберфизических систем, искусственного интеллекта, роботов и объектов робототехники были разделены на четыре уровня.

Первый уровень — разработка государственной стратегии (программы) развития технологий искусственного интеллекта и робототехники. В России данное направление уже реализовано принятием Национальной стратегии "О развитии искусственного интеллекта в Российской Федерации".

Второй уровень — формирование основ законодательства путем выработки концепции правового регулирования. Концепция должна предусматривать общий терминологический аппарат, основные этапы развития законодательства в данной области, конкретные правовые механизмы, используемые для реализации данных этапов, сроки и перечень ответственных органов государственной власти. Так, необходимы определения ключевых понятий: "искусственный интеллект", "киберфизическая система", "нейронная сеть", "бот", "объект робототехники", "робот", "андроид", "юнит искусственного интеллекта", "цифровая личность", "электронное лицо" и др.

Содержание концепции станет основой для разработки редакции законопроектов, которые будут вносить изменения в действующее отраслевое законодательство. Необходимо обратить внимание, что в Указе Президента РФ от 10 октября 2019 г. N 490 "О развитии искусственного интеллекта в Российской Федерации" не предусмотрено формирование концепции правового регулирования. Определены основные направления развития законодательства в данной сфере без конкретизации правовых механизмов, используемых для их реализации.

Третий уровень — внесение изменений в законодательные акты. На основе разработанной концепции правового регулирования должны быть разработаны акты, направленные:

— на установление правовой сущности и места роботов в структуре правоотношений, осуществление их классификации;

— регулирование порядка обработки данных и доступа к ним для проведения исследований;

— на установление мер по стимулированию развития искусственного интеллекта, включая меры по формированию благоприятного инвестиционного климата в данной сфере;

— устранение административных барьеров при экспорте продукции гражданского назначения, разработанных на основе искусственного интеллекта;

— формирование единых систем стандартизации, сертификации и оценки технологических решений, основанных на искусственном интеллекте;

— разработка этических правил взаимодействия человека с искусственным интеллектом;

— внесение изменений в отраслевое законодательство, предусматривающее возможность осуществления деятельности с помощью искусственного интеллекта (например, транспортное, медицинское, налоговое законодательство, законодательство о науке и образовании, об интеллектуальной собственности, процессуальное законодательство, обновление нормативных правовых актов, регулирующих деятельность правоохранительных органов, в целях обеспечения и защиты законных прав и интересов личности, в том числе права на конфиденциальность и др.).

Четвертый уровень — внесение пакетных изменений в подзаконные акты.

Литература

1. Васильев А.А. Искусственный интеллект: правовые аспекты / А.А. Васильев, Д. Шпонер // Известия Алтайского государственного университета. 2018. N 6 (104). С. 23 — 26.

2. Габов А.В. Эволюция роботов и право XXI века / А.В. Габов, И.А. Хаванова // Вестник Томского государственного университета. 2018. N 435. С. 215 — 233.

3. Морхат П.М. Искусственный интеллект: правовой взгляд: научная монография / П.М. Морхат. Москва: Буки Веди, 2017. 257 с.

4. Понкин И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. N 1. С. 91 — 109.

5. Синельникова В.Н. Права на результаты искусственного интеллекта / В.Н. Синельникова, О.В. Ревинский // Копирайт. Вестник Российской академии интеллектуальной собственности. 2017. N 4. С. 17 — 27.

6. Соменков С.А. Искусственный интеллект: от объекта к субъекту? / С.А. Соменков // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. N 2 (54). С. 75 — 85.

7. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы / О.А. Ястребов // Труды Института государства и права РАН. 2018. N 2 (13). С. 36 — 55.

Рекомендуется Вам: