ЮрФак: изучение права онлайн

Стратегия регулирования робототехники и киберфизических систем

Авторы: Незнамов А.В., Наумов В.Б.

Оглавление

Введение. О роли права в современном изменяющемся технологическом мире

Регулирование робототехники, искусственного интеллекта и киберфизических систем: начало

Прорывной 2017 год

Робототехника и искусственный интеллект в правовой доктрине

Современные проблемы правового регулирования

Стратегия регулирования робототехники и искусственного интеллекта

Уровень 1. Государственная программа (концепция) развития технологий робототехники и искусственного интеллекта

Европейский союз

Япония

Китай

США

Общие черты концепций

Россия

Уровень 2. Основы законодательства о киберфизических системах

Уровень 3. Пакетные адресные изменения федеральных законов

Уровень 4. Пакетные адресные изменения подзаконных актов

Международный уровень

Заключение


Введение. О роли права в современном изменяющемся технологическом мире

В условиях экспоненциального развития новых информационных технологий, становления цифровой экономики в России и в мире и в целом активизации глобальных социально-экономических процессов, связанных с Четвертой промышленной революцией, право, обладая объективной инерционностью в развитии, сталкивается с критическими вызовами, без ответа на которые существующая система регулирования уже в следующем десятилетии может оказаться непригодной для нового информационного уклада общества, государства и новых информационных правоотношений.

Российское право, в частности его деление и содержание его отраслей и институтов, как и правовые системы других стран мира, сейчас находится на перепутье: как развиваться в современных технологических условиях, когда "мегатренды" (по К. Швабу[1]) или "сквозные цифровые технологии" (в терминах государственной программы "Цифровая экономика Российской Федерации"[2]) не только предопределяют потребность в новых правовых нормах регулирования, но и требуют осмысления кардинально новых видов правоотношений, с которыми право ранее не сталкивалось (новые субъекты и способы их взаимодействия в цифровой сфере, их идентификация, искусственный интеллект, робототехника, Большие данные, Интернет вещей и т.д.)?

Можно заключить, что настал момент, когда юридическая наука должна дать ответы на многочисленные вопросы в сфере использования новых технологий и предложить правовые модели и институты, учитывающие возможности и пользу от их использования, не забывая о высоких связанных с технологиями рисках и ответственности за принятые решения.

В мире новых технологий и Интернета за последние десятилетия произошло очень много событий, кардинально повлиявших на систему права и законодательства, но еще не нашедших отражения в глубоких и системных исследованиях юридической науки.

Мир уже живет в новых социальных реалиях, обусловленных достижениями информационных технологий и их удобством для человека, к которым он очень быстро привык, совершенно не представляя природу, технические сложности и последствия их использования.

На Земле возникли, по сути, новые социально-экономические образования — социальные сети, действующие как своеобразные сетевые государства: без земли, но с населением в сотни миллионов пользователей и своими правилами их использования. Огромная популярность игровых виртуальных сред породила еще более сложные с социальной и психологической точек зрения пространства виртуальных миров, где уже сформировались и свои законы поведения, и своя (ценная) виртуальная собственность. В этих мирах пользователи взаимодействуют не только друг с другом и владельцем игры (мира), но и с виртуальными персонажами (ботами), чьи действия определяются программными алгоритмами искусственного интеллекта и в ряде случаев носят недетерминированный характер, не связанный с волей разработчика соответствующей компьютерной программы.

Огромная и, что опасно, неконтролируемая популярность криптовалют с одновременными неопределенностью их правового статуса и удобством анонимности, развитие идей краудфандинга как массового открытого или анонимного сбора денежных средств или их суррогатов (запрещенных в большинстве стран мира) и новые шаги к развитию технологий шифрования путем их применения в технологиях блокчейн уже сейчас значительно меняют контуры мирового финансового сектора, а также раскрывают новые технические возможности реализации гражданско-правовых отношений и административных правоотношений, в первую очередь в сфере государственных услуг.

В условиях массовых информационных процессов и распространения технологий Интернета вещей появились организационно-технические возможности сбора огромного объема информации как при использовании лицами технологий, так и за счет устройств системы Интернета вещей, специально контролирующих различные экономические, технические и социальные процессы (Большие данные). Правовой статус Больших данных, которые могут стать одним из столпов бизнеса и государственного управления, их соотношение с видами тайн и режимом конфиденциальности информации в самых различных видах правоотношений не определены, и эти пробелы негативно скажутся на современных процессах развития государства.

Наконец, кто мог представить, что по мере распространения исследований в области искусственного интеллекта, а также опытов по соединению человеческих тканей с датчиками и манипуляторами три закона робототехники А. Азимова об алгоритмах действий роботов (сформулированные им в 1942 г.!) потенциально станут не только красивой основой классической научной фантастики, но и гениальным предвидением?

Проблематика регулирования робототехники, будущих умных роботов и искусственного интеллекта ставит перед человечеством вопросы организации всего его будущего в приближающихся кибернетических реалиях, и потому именно мировая правовая наука должна после междисциплинарных обсуждений с другими отраслями знаний и науками исследовать планируемые и выстраивающиеся правоотношения в сфере киберфизических систем и дать оценку, какие система и модели регулирования для них отвечают задачам стабильного и эффективного развития мирового сообщества и экономики.

В современной России предметное регулирование сети Интернет технически происходит в форме принятия большого количества поправок, в первую очередь в информационное законодательство, а также другие отрасли. Здесь уже возникла и, к сожалению, усугубляется общая проблема невысокой юридической техники принимаемых нормативных правовых актов. При этом возникает неоднозначная ситуация конкуренции отраслей права и их борьбы за то, кто все-таки будет регулировать Интернет. Так, например, информационное право давно идентифицирует проблему ответственности информационных провайдеров (посредников), однако само понятие "информационный посредник" появилось в 2013 г. не в информационном законодательстве, а в части четвертой Гражданского кодекса (ГК) РФ (ст. 1253.1). На настоящий момент отечественная юридическая наука не разрешила этот вопрос о конкуренции, хотя объективно сложилось сорегулирование правоотношений и требуется как минимум систематизация понятий и построение единого терминологического аппарата. Как максимум, по нашему мнению, в данной сфере может потребоваться кодификация законодательства под эгидой информационного права.

Важно иметь в виду, что классические отрасли права и законодательства сформировались в прошлом веке и ставившиеся перед каждой из них по отдельности цели и задачи устаревают и могут не соответствовать интересам общества и государства в новых технологических реалиях. Это, в свою очередь, означает необходимость координации постановки задач и гармонизации регулирования за счет всей системы права, а не ее отдельных отраслей.

Параллельно с этим в условиях отсутствия системных решений для проблем регулирования в законодательстве и правоприменении, особенно если речь идет об узких по своему предмету, но массовых в экономической сфере правоотношениях, надо больше доверять саморегулированию, которое неоднократно демонстрировало создание крайне эффективных и успешных правовых моделей регулирования[3].

Регулирование робототехники, искусственного интеллекта и киберфизических систем: начало

Из всех вызовов, стоящих перед правом XXI в., юристы, пожалуй, еще никогда не были так увлечены новыми технологиями, как в прошедшем 2017 г. Благодаря невероятному росту курса криптовалют основное внимание оказалось приковано именно к ним, а также к применению технологий блокчейн и регулированию майнинга[4].

На фоне кардинальных изменений в различных сферах научно-технического прогресса 2017 год принес много нового для права новых технологий именно в сфере регулирования робототехники. И, вероятно, если бы не упомянутый интерес к криптовалютам, то многие исследования и публикации в доктрине, внимание органов государственной власти было бы посвящено скорее искусственному интеллекту и кибер-физическим системам, чем токенам. Это обусловлено прежде всего теми событиями, которые происходили в сфере регулирования за рубежом. Рассмотрим эти события более подробно.

Стоит начать с того, что до 2017 г. проблема регулирования робототехники почти не поднималась на поверхность в большинстве юрисдикций. Основным регуляторным актом являлись, как правило, утвержденные государством концепции развития робототехники.

К последним можно отнести, например, Дорожную карту развития робототехники в Европе — Robotics 2020 (Multi-Annual Roadmap)[5], на основе которой также создана Стратегическая повестка исследований (Strategic Research Agenda)[6]. Другим примером является пятилетняя стратегия развития робототехники в Японии, принятая в 2015 г. и получившая название "Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий" (New Robot Strategy. Japan's Robot Strategy. Vision, Strategy, Action Plan; далее — Стратегия развития робототехники)[7].

В то же время правовое регулирование общественных отношений зачастую не является центральной частью таких программ. Показателен подход европейской Robotics 2020: несмотря на довольно большой объем этого документа, проблеме регулирования посвящена лишь его небольшая часть, да и та затрагивает только несколько вопросов — стандартизацию, использование механизма директив ЕС и защиту потребителей.

По этой причине, пожалуй, единственным комплексным актом в данной сфере долгое время являлся принятый в 2008 г. Закон Южной Кореи "О развитии и распространении умных роботов"[8]. Закон по существу тоже является своеобразной государственной программой развития робототехники, но одновременно — и полноценным актом непосредственного действия. В частности, им предусмотрены:

— создание специализированного института по развитию робототехники. Такой институт был создан в 2011 г. под названием Korea Institute for Robot Industry Advancement (KIRIA). Институт имеет широкие полномочия, в том числе на проведение исследований и обзоров, разработку стратегий и политик, международное сотрудничество в сфере робототехники;

— пятилетние планы развития робототехники;

— особый льготный порядок регулирования деятельности компаний — производителей роботов и даже уголовная ответственность за некоторые нарушения, допущенные такими компаниями;

— порядок создания специальных зон распространения роботов и роботизированных механизмов — Robotland;

— два способа развития отрасли: финансирование конкретных коммерческих проектов и финансирование исследований;

— принцип одного окна: получение разрешения на создание экспериментальной зоны автоматически считается разрешением на целый ряд действий, формально требующих отдельного согласования.

Впечатляет и результат внедрения Закона, который был скрупулезно оценен по специальной методике[9]. Эксперты сравнили, что было бы, если бы Закона не было, с теми результатами, которые дал именно он. По данным этого исследования, само по себе принятие Закона позволило увеличить общий объем производства роботов в Корее на 79%, а общий прямой эффект Закона (по сравнению с расчетом, как если бы его не было) на 2014 г. составил более 4 млрд долл.

Прорывной 2017 год

В 2017 г. законодатели разных стран мира, похоже, всерьез озаботились проблемой регулирования робототехники и искусственного интеллекта.

В самом начале года под эгидой некоммерческой организации The Future of Life Institute были опубликованы 23 принципа разработки и применения искусственного интеллекта[10]. В феврале Парламент ЕС принял Резолюцию N 2015/2103(INL) "Нормы гражданского права о робототехнике" (Civil Law Rules on Robotics)[11]. В июне в Эстонии был принят Закон о роботах-курьерах[12], а в Германии — Закон об использовании высокоавтоматизированных автомобилей[13]. В июле Китай принял План развития технологий искусственного интеллекта нового поколения[14].

В России данная проблематика тоже не осталась незамеченной. Еще в конце 2016 г. была опубликована концепция первого в России законопроекта о робототехнике[15]. Данный документ был разработан для инициирования дискуссии о системном законодательном регулировании этой области и поднял целый ряд важных проблем, в том числе один из ключевых вопросов: имеет ли смысл наделять роботов-агентов специальной ограниченной правосубъектностью? [16]

В дальнейшем проблема регулирования не раз освещалась в прессе и в выступлениях представителей органов государственной власти[17]. Однако по степени актуальности комментарии все же уступали проблеме регулирования блокчейна и криптовалют, а подходы к регулированию, по сути, только начали обсуждаться.

Робототехника и искусственный интеллект в правовой доктрине

Думается, что можно без особого преувеличения сказать: с точки зрения юридической науки проблематика киберфизических систем на отечественном уровне практически не исследована. Это обусловлено, на наш взгляд, относительной новизной общественных отношений, связанных с использованием роботов и искусственного интеллекта.

Как следствие, фундаментальных исследований по данной теме нет, а большинство правовых публикаций либо являются публицистическими[18], либо посвящены отдельным правовым проблемам, возникающим в разных отраслях права в связи с развитием робототехники.

Так, ряд работ посвящены аспектам роботизации в отдельных сферах, например в налогообложении[19] или трудовом праве[20] либо в информационном праве[21], или же конкретным проблемам, например ответственности за действия киберфизической системы[22] или принципам регулирования[23]. Отдельный пласт публикаций затрагивает проблематику прав на результаты интеллектуальной деятельности в связи с развитием робототехники и искусственного интеллекта[24], уголовно-правовые аспекты проблемы[25], будущее нотариата в контексте развития технологий[26] и т.д.

В зарубежной литературе ситуация иная.

Можно утверждать, что в работах зарубежных ученых "робоправо", или "право роботов" (или "право о роботах"), формируется если не в самостоятельную межотраслевую подотрасль права, то по меньшей мере в отдельную предметную область исследования.

Об этом наглядно свидетельствуют труды Р. Кало[27], У. Пагалло[28], исследование коллектива авторов "Робоправо: основы регулирования робототехники в Европе"[29] и др.

Между тем было бы преувеличением говорить, что в иностранной литературе существуют сложившиеся представления о робоправе. Степень проработанности данной области обусловлена тем, что соответствующие общественные отношения возникли в зарубежных странах существенно раньше. В странах, где робототехника и искусственный интеллект развиваются медленнее, научные исследования в правовом поле, по существу, не проводятся либо ограничиваются прикладными аспектами применения технологий. В странах, где роботы стали более активно применяться в обществе, правовые исследования постепенно стали более детальными и углубленными.

Современные проблемы правового регулирования

Поскольку проблематика является относительно новой, говорить об общепризнанных правовых проблемах, обсуждаемых в доктрине, крайне сложно. В связи с этим выделить их можно не столько исходя из имеющихся публикаций в России, сколько из результатов зарубежных исследований, а также опыта регулирования в разных странах.

Отметим лишь некоторые из них.

1. Проблема отсутствия понятийного аппарата. Проблема терминологии, безусловно, является главной в регулировании любой новой технологии. Как правило, единого понимания того или иного термина нет даже в профессиональной среде. Яркий пример этого — отсутствие легального определения термина "искусственный интеллект", в то время как в науке существует порядка пятнадцати его естественнонаучных определений. То же самое касается слов "робот" и "робототехника", "разумный робот" и "киберфизическая система" и т.д.

Полагаем, что частью этой проблемы является и вопрос разграничения технологий робототехники и искусственного интеллекта. Очевидно, что они могут сочетаться в одной киберфизической системе (становясь, например, разумным роботом), как и применяться совершенно раздельно.

Проблема терминологии является настолько сложной, что анализ существующих терминов, обоснование их содержания и осуществление их классификации должны стать результатом самостоятельного правового исследования. При этом следует подчеркнуть, что выработка единого терминологического аппарата для исследования "роботов" и "искусственного интеллекта" становится еще более сложной задачей, если учесть, что каждый из этих терминов имеет свое специфическое понимание применительно к разным областям исследований или даже отраслям права[30]. Это, на наш взгляд, является ключевым условием применения данных терминов.

Поэтому мы не хотели бы ограничивать настоящее исследование конкретным видом "роботов" и, соответственно, излишне узким их определением. Между тем мы учитываем и разделяем то понятие, которое уже присутствует в российской правовой системе, но о существовании которого, по нашим наблюдениям, известно не очень многим даже в экспертной среде.

Речь идет о ГОСТ Р ИСО 8373-2014 "Роботы и робототехнические устройства. Термины и определения", в котором "робот" определяется как "приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению".

В то же время для целей настоящей публикации был бы вполне уместным и более утилитарный подход, который заключается в том, что почти каждый из нас сможет узнать робота, когда его увидит[31]. Использование такого подхода позволило бы еще больше расширить пределы исследования. В то же время необходимо подчеркнуть, что, на наш взгляд, ключевым свойством "робота" во всех случаях должно быть физическое кибернетическое начало. Иными словами, робот — это некое устройство или механизм. Независимо от иных трактовок слова "робот", этот критерий позволяет хотя бы условно отграничить роботов как минимум от программного обеспечения (что не исключает наличия ПО в самом роботе)[32].

Аналогичный подход может применяться и к определению термина "искусственный интеллект". В технологиях искусственного интеллекта, по нашему мнению, ключевую роль играют компьютерные программные технологии, а их физическое проявление не имеет принципиального значения для собственно целей дефиниции. Вопрос о соотношении категорий "машинное обучение", "нейронная сеть" и т.д. с категорией "искусственный интеллект" мы также вынуждены оставить за рамками данной работы.

Наконец, требуется пояснить значение термина "киберфизическая система", используемого в настоящей статье. Точного определения этого термина также нет. Достаточно отметить, что существуют разные точки зрения даже о стране и времени его происхождения[33]. При этом в одних источниках утверждается, что киберфизические системы интегрируют кибернетическое начало, компьютерные аппаратные и программные технологии, качественно новые исполнительные механизмы, встроенные в окружающую их среду и способные воспринимать ее изменения, реагировать на них, самообучаться и адаптироваться[34]. В других подчеркивается, что ключевая идея таких систем — интеграция физического и информационного пространства[35]. Национальный институт стандартов и технологий США определил киберфизические системы как умные системы, охватывающие вычислительные и эффективно интегрируемые физические компоненты, тесно взаимодействующие между собой[36]. В таком определении к киберфизическим системам относятся и роботы, и беспилотный транспорт, и роботизированные устройства, что представляется вполне оправданным.

2. Проблема отсутствия адекватного понимания уровня развития предметных общественных отношений и отсутствие междисциплинарных исследований. К сожалению, в ряде стран проблема регулирования киберфизических систем недооценивается по той причине, что у регулятора часто отсутствует реальное понимание текущего уровня развития общественных отношений. Однако в этом таится серьезная проблема. При существующей скорости распространения технологий удачная разработка, пройдя стадию обращения на одном рынке, практически моментально проникает во множество юрисдикций. И то, что еще вчера казалось в конкретной стране невозможным, способно одномоментно стать ее реальностью. Показательны разработки в сфере высокоавтоматизированного транспорта: разработанная и протестированная в одной стране функция автопилота на машине затем стала появляться в самых разных странах вместе с этой машиной. Как раз это произошло с автомобилями марки Tesla.

Крайне важно отметить, что рассматриваемая сфера жизненно нуждается в междисциплинарных исследованиях и дискуссии специалистов из различных сфер знаний и отраслей науки. Без взаимодействия создателей искусственного интеллекта и роботов, математиков, создающих модели обучения искусственного интеллекта, психологов, социологов, экономистов и, наконец, юристов будет невозможно предложить взвешенное и продуманное регулирование создания и использования умных роботов.

Кроме того, в условиях конкуренции государств и регионов при принятии решений о том, как развивать законодательство, будет велико влияние геополитики и, возможно, религии и философии, которые еще не дали ответы на многие вопросы о месте и роли человека в грядущем технологическом мире. Это, в свою очередь, не может не сказаться и на восприятии уровня развития технического прогресса в конкретной юрисдикции[37].

3. Проблема ответственности и концентрация на ней. Безусловно, самым распространенным вопросом регулирования робототехники и искусственного интеллекта является проблема ответственности. В литературе подчеркивается необходимость в изначальном законодательном закреплении основных положений об ответственности за действия искусственного интеллекта — робота[38]. Такие предложения являются, пожалуй, своеобразной витриной всей проблемы регулирования роботов. В какой-то степени это оправданно. Вопрос о том, кто несет ответственность за действия робота, тем более автономного или разумного, является и насущным, и сложным. Подходы к его решению еще предстоит найти.

В то же время полагаем, что эта проблема притягивает к себе излишнее внимание. Любые экспертные обсуждения нередко сводятся прежде всего к ней или к вопросам страхования в том же контексте, оставляя в стороне не менее важные моменты, часть из которых описана далее.

4. Проблема информационной безопасности и использования Больших данных. Одной из проблем, часто остающихся вне обсуждений, является проблема использования персональных данных и информационной безопасности[39]. Представляется, что по-настоящему значительная угроза общественным отношениям таится в первую очередь здесь. Персональные данные уже используются огромным количеством устройств по всему миру, а желающие получить несанкционированный доступ к киберфизическим системам есть уже сейчас. На наш взгляд, это подчеркивает актуальность проблемы по сравнению, например, с вопросом о правовых последствиях создания разумного робота.

5. Проблема экзистенциальных рисков искусственного интеллекта и их урегулирования. Эта проблема обычно рассматривается философами, журналистами и публицистами, разработчиками — но не юристами. Высказываются различные предложения, однако по существу все они являются примерами саморегулирования. Между тем вопросы регулирования сильного искусственного интеллекта являются, по нашему мнению, самым серьезным вызовом в истории права и недооценивать его было бы кардинально неверно.

6. Проблема правосубъектности роботов-агентов. Вопрос о том, является ли робот электронной личностью, был поднят Европейским парламентом в упомянутой выше Резолюции N 2015/2103(INL). На законодательном уровне в настоящий момент эту проблему обсуждает парламент Эстонии[40]. Одновременно Саудовская Аравия объявила о присвоении гражданства роботу Софии[41]. Однако эти вопросы, безусловно, начали обсуждаться значительно раньше на экспертном уровне[42].

Стратегия регулирования робототехники и искусственного интеллекта

Несмотря на наличие ряда локальных проблем в области регулирования рассматриваемых отношений, одним из самых сложных вопросов верхнего уровня была и остается проблема принципиального определения подходов к регулированию.

Другими словами, ее можно описать через простой вопрос: как регулировать робототехнику и/или искусственный интеллект?

Анализ доктринальных источников, зарубежного опыта регулирования и исследование специфики предметных общественных отношений позволяют, на наш взгляд, наметить стратегию регулирования робототехники и искусственного интеллекта[43]. Данная стратегия состоит из четырех уровней внутригосударственного регуляторного воздействия[44], а также наднационального регулирования.

Что она из себя представляет?

Уровень 1. Государственная программа (концепция) развития технологий робототехники и искусственного интеллекта

Этот документ является базовым и определяет все ключевые направления, в том числе регуляторную реформу. При этом подчеркнем, что его автором, как правило, выступают частные сообщества представителей индустрии робототехники и науки.

Такие концепции в том или ином виде есть во всех ведущих странах мира. Приведем несколько примеров.

Европейский союз

В настоящее время здесь действует рамочная программа по развитию научных исследований и технологий "Горизонт 2020". Она является крупнейшей в истории Европы, рассчитана на период реализации с 2014 по 2020 г. и подразумевает обеспечение публичного финансирования проектов на сумму более 80 млрд евро, не считая частных инвестиций[45].

Одним из ее направлений является создание частноправовых партнерств на договорной основе в определенных сферах развития (например, фабрики будущего, сеть 5G, экологичный транспорт и т.д.).

Одним из восьми таких партнерств стал проект SPARC — частно-государственное партнерство на договорной основе с бюджетом в 700 млн евро. Ожидается, что эта сумма должна утроиться за счет частных инвестиций[46]. По существу, речь идет о партнерстве между властями ЕС и некоммерческой организацией euRobotics AISBL, включающей в себя 280 членов, среди которых представители отрасли, разработчики, ведущие университеты и исследовательские центры.

Именно эксперты SPARC создали уже упомянутые выше Дорожную карту развития робототехники в Европе Robotics 2020 и Стратегическую повестку исследований. Данные документы позволяют получить общее представление о программе Robotics 2020 и развитии робототехники в Европе.

Показательны цели развития робототехники. Среди них: возглавить гонку робототехники и к 2020 г. захватить 42% мирового рынка роботов; за счет повсеместного использования роботов улучшить конкурентное состояние Европы, прежде всего в части стоимости труда, а также конкурировать с Азией и вернуть производство в Европу.

Важно подчеркнуть, что, помимо общеевропейской программы, существуют и национальные. Например, программа Германии "Индустрия 4.0" является образцом развития промышленной робототехники и ориентиром для многих других ведущих государств. Своя концепция развития робототехники принята и во Франции ("Инициативы Франции в сфере робототехники").

Япония

На сегодняшний день эта страна является лидером по производству роботов, но не по их внедрению. Ситуация, когда страна теряет лидерство в какой-либо сфере применения робототехники, для Японии кажется неприемлемой.

По этим причинам правительство Японии утвердило в 2015 г. уже названную выше Стратегию развития робототехники в стране. Участие в ее разработке приняла Японская машиностроительная федерация, а сама Стратегия была подготовлена Советом по реализации революции роботов, созданным на правительственном уровне. Уточним, что впоследствии ключевую роль в реализации развития программ робототехники стало играть частно-государственное партнерство "Инициатива революции роботов" (Robot Revolution Initiative), созданное в 2015 г. и объединившее более 400 членов, в том числе исследовательские центры, предприятия, представители городов и префектур, зарубежные компании (прежде всего из Германии).

Стратегия является детальным обзором основных проблем и инициатив в области робототехники. Это хорошо структурированный документ, состоящий из двух частей: общего обзора и пятилетнего плана действий. Каждая часть делится на главы, главы — на секции, секции — на подсекции.

Заявленные в Стратегии цели развития робототехники в Японии также довольно показательны: решить проблемы старения населения; не потерять лидерство в сфере производства роботов в условиях слишком быстрого развития технологий; кардинально изменить бытовой подход к роботам и превратить Японию в большой "робогород" за счет "революции роботов".

Китай

В этой стране концепция состоит из целого ряда документов, к которым можно отнести, например:

— глобальную государственную программу развития "Сделано в Китае 2025" (Made in China 2025, утв. в мае 2015 г.)[47]. Программа ставит 12 целей со сроками выполнения 2020 и 2025 гг. План действий не только указывает точки и показатели роста, но и определяет ключевые для Китая области промышленности, одной из которых к 2025 г. должна стать робототехника. Для этого, например, 21 городу и 5 провинциям будет выделено до 6 млрд долл. на проведение соответствующих исследований;

— 13-й пятилетний план развития на 2016 — 2020 гг., в котором робототехника также упоминается в качестве стратегической области развития;

— Руководство о содействии производству промышленных роботов (Guidelines on Promoting the Development of Industrial Robots, утв. в январе 2014 г.)[48], направленное на то, чтобы обеспечить больший рост автоматизации производства за счет производимых в Китае роботов;

— План развития робототехнической отрасли (Robotics Industry Development Plan 2016 — 2020, утв. в апреле 2016 г.)[49]. Данный документ, пожалуй, является обобщением основных направлений развития робототехники в Китае и, кроме того, содержит конкретные ключевые показатели на 2020 г., в частности: ежегодный выпуск 100 тыс. промышленных роботов; ежегодная прибыль от продажи сервисных роботов не менее 30 млрд юаней (свыше 4 млрд долл.). План также обозначает конкретные категории и характеристики роботов, которые должны производиться на серийной основе и успешно экономически использоваться (роботы-пылесосы, хирургические роботы, сварочные роботы и т.д.);

— уже упоминавшийся выше План развития технологий искусственного интеллекта нового поколения. Это многостраничный документ, призванный сделать Китай лидером в разработках технологии искусственного интеллекта.

Концепция развития робототехники дополняется местными программами развития, принятыми, например, в Шанхае и Гуанчжоу.

США

Наиболее известной программой развития робототехники в этой стране является Национальная робототехническая инициатива (National Robotics Initiative) 2011 г., направленная на финансирование конкретных проектов. Собственно, концепция развития отрасли прослеживается в Дорожной карте развития робототехники в США (Roadmap for US Robotics, также 2011 г.), на основе которой и была создана National Robotics Initiative. Над составлением Дорожной карты работали почти 20 ведущих университетов страны, включая Йель и Беркли.

Общие черты концепций

Несмотря на некоторые различия, ведущие державы в сфере развития робототехники и искусственного интеллекта обнаружили целый ряд общих черт в концептуальных вопросах такого развития:

— существование официальных государственных или хотя бы оформленных общественных программ (концепций) развития робототехники;

— отношение к развитию роботов как к будущему общества, фактору создания рабочих мест и средству решения локальных проблем (для Японии это проблема стареющего населения; Европы — дороговизна местного производства, США — нехватка рабочих мест);

— идея о том, что роботы могут вывести страну в лидеры промышленного производства;

— финансирование проектов в сфере робототехники как лишь одна из частей программ;

— построение государственных программ на основе партнерства с представителями индустрии, которое при этом часто выступает "драйвером" реформ;

— активное участие научных центров и институтов в составлении программ.

Россия

В нашей стране такой программы пока нет, но тематику робототехники можно увидеть в тексте прогнозов и стратегий. Например, в Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 гг. робототехника и искусственный интеллект названы в числе основных направлений развития российских информационных и коммуникационных технологий[50]. Робототехника также отнесена к перспективным высоким технологиям, развитие которых необходимо для решения задач национальной безопасности в области науки, технологий и образования (п. 80 Стратегии национальной безопасности РФ)[51].

Кроме того, робототехника также указана среди отраслей, для которых необходимо создать полноценную инфраструктуру, включая пилотные, опытно-промышленные, промышленные предприятия, инжиниринговые компании и центры отработки технологий применения инновационных продуктов и технологий; обеспечить локализацию в Российской Федерации инновационных производств и исследовательских центров ведущих международных технологических корпораций; сформировать эффективную систему поддержки спроса на продукцию новых отраслей, создать новые рабочие места в отраслях, требующих высококвалифицированных кадров[52], а термин "роботизация" используется в ряде документов стратегического планирования[53].

Однако, пожалуй, ключевым документом в области государственной поддержки новых технологий на сегодняшний день является уже упомянутая программа "Цифровая экономика Российской Федерации". Компоненты робототехники, а также технологии искусственного интеллекта обозначены в ней в качестве основных сквозных цифровых технологий.

Среди задач и этапов программы есть следующая: к IV кварталу 2018 г. создать систему мер, стимулирующих крупные компании, в том числе государственные компании и государственные корпорации, участвовать в работе центров компетенций, включая среди прочих меры финансового стимулирования и механизмы государственно-частного партнерства по таким направлениям, как квантовые вычисления, искусственный интеллект, робототехника и др. (п. 3.3.6).

Таким образом, в программе "Цифровая экономика Российской Федерации" заложен минимальный механизм создания государственно-частных партнерств и развития специальных программ поддержки развития робототехники и искусственного интеллекта. Однако отдельного внимания этим вопросам программа, к сожалению, не уделяет, хотя в Плане мероприятий по направлению "Формирование исследовательских компетенций и технологических заделов" упоминается некая Дорожная карта развития субтехнологии "Промышленная робототехника"[54].

На наш взгляд, для России остается актуальным вопрос создания государственной концепции развития робототехники и систем искусственного интеллекта. Такая концепция, если судить по успешному опыту других стран, могла бы содержать следующие положения:

— описание текущего уровня развития робототехники и киберфизических систем в России и мире, ключевые направления развития;

— ожидания и перспективы развития робототехники и киберфизических систем в краткосрочной, среднесрочной и долгосрочной перспективе;

— ключевые этапы, задачи и цели развития робототехники и киберфизических систем в России;

— основные проблемы и сложности, которые уже существуют и ожидаются в будущем в связи с развитием робототехники и киберфизических систем;

— план основных мероприятий, в том числе экономических, социальных, образовательных, инфраструктурных, направленных на развитие робототехники и киберфизических систем в целом;

— планы финансовой поддержки отрасли;

— направления адаптации правовой системы;

— порядок реализации планов мероприятий применительно к конкретным направлениям развития робототехники и форм киберфизических систем (промышленные роботы, сервисные роботы, инфраструктура, Интернет вещей и т.д.).

Представляется, что разработка и обсуждение такой концепции могли бы стать одной из приоритетных задач 2018 г.[55], независимо от плана реализации мероприятий "Цифровой экономики" либо, наоборот, в рамках программы, но с более отчетливым акцентом на данной отрасли.

Уровень 2. Основы законодательства о киберфизических системах

Если в области государственных концепций зарубежные страны обнаруживают больше сходства, чем различий, то в ситуации с правовой реформой все обстоит ровным счетом наоборот. Практически единственное, что объединяет большинство стран, — уникальный подход к проблемам адаптации правовой системы для применения новых технологий, сложившийся в каждой из них.

Причина этого, как кажется, кроется в специфике правовой системы каждой конкретной страны. Сравнение становится еще более сложным из-за того, что страны-лидеры принадлежат к разным правовым семьям.

Есть и другое сходство: регуляторы самых разных стран безусловно констатируют, что их правовая система требует адаптации или даже реформирования в связи с развитием киберфизических систем. Продемонстрируем это на нескольких примерах.

В ЕС развитие регуляторной реформы идет параллельно реализации проекта SPARC. В рамках последнего необходимость правовых изменений констатирована, но детали отсутствуют.

Соответственно, основное развитие регуляторной реформы пока происходит на уровне Европейского парламента. Обозначим ее основные этапы:

— в 2014 г. экспертами в области права был подготовлен доклад "Регулирование робототехники: вызов Европе", ставший частью большого исследования "Перспективы европейского права"[56];

— в 2016 г. опубликовано научное исследование "Этические аспекты кибернетических систем", проведенное по заказу Комиссии Европейского парламента по оценке научных и технологических достижений. В разделе 4A этого документа с разбивкой по отраслям приведен список законов, директив и стандартов ISO, которые требуют корректировки[57];

— в 2014 — 2016 гг. Комитет Европейского парламента по правовым вопросам при участии экспертов разработал комплексный документ, посвященный базовому регулированию робототехники;

— 16 февраля 2017 г. Парламент ЕС на основе этого документа принял уже упоминавшуюся нами Резолюцию N 2015/2103(INL).

Эти документы представляют собой первую на сегодняшний день попытку оформить комплексный подход к регулированию робототехники и содержат целый ряд важных и интересных положений, в том числе:

— обозначают общие принципы регулирования со ссылкой на законы А. Азимова;

— намечают подходы к проблеме ответственности за причиненный роботами вред;

— предлагают уточненное определение роботов;

— содержат предложение о создании Европейского агентства по вопросам робототехники и искусственного интеллекта;

— предлагают создать единые критерии для создания тестовых зон;

— формулируют некоторые базовые правила по категориям роботов;

— содержат предложение о системе регистрации умных роботов;

— включают в себя Устав роботов и Этические кодексы производителей;

— предлагают подумать над особым статусом "электронных личностей"[58].

Помимо этого, национальное законодательство конкретных стран содержит регулирование тех или иных аспектов развития киберфизических систем. Оно касается как минимум тестирования высокоавтоматизированных автомобилей, а также эксплуатации беспилотных летательных аппаратов. Однако есть и специфические акты, например уже упоминавшийся выше Закон Эстонии о роботах-курьерах.

Принципиально иной, по сравнению с европейским, подход прослеживается в законодательстве Японии. Список отраслей и законов, требующих корректировки в связи с развитием робототехники, содержится в государственной Стратегии развития робототехники и охватывает среди прочего радиоволны, медицину, страхование, транспорт и дорожное движение, дроны, общественную инфраструктуру, газопроводы, безопасность товаров. Следует также отметить, что одной из особенностей административной реформы является создание экспериментальных зон.

В США в целом также нет системного правового регулирования. Исследователи в области права отмечают, что с учетом специфики правовой системы этой страны регулирование будет комбинированным, т.е. ряд спорных вопросов будет решаться (и уже решается) на уровне прецедентного права. Одновременно с этим увеличивается роль конкретных законов в некоторых сферах применения роботов. Специфики добавляет и наличие собственного законодательства у каждого штата. В итоге поиск оптимального регулирования является довольно сложной задачей[59].

Таким образом, Россия при адаптации правовой системы к новым реалиям будет вынуждена ориентироваться прежде всего на собственный правоприменительный опыт и состояние соответствующих общественных отношений, что, однако, не отменяет необходимости учесть ошибки и преимущества отдельных зарубежных решений.

По нашему мнению, эффективное регулирование отношений, возникающих в связи с использованием киберфизических систем, предполагает создание основ законодательства в этой сфере.

Этот подход прослеживается в Плане мероприятий по направлению "Нормативное регулирование" программы "Цифровая экономика Российской Федерации". Одним из мероприятий является проведение исследования в области развития законодательства о робототехнике и кибер-физических системах в части в том числе определения понятия киберфизических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности.

Ожидаемый результат такого исследования можно условно рассматривать как потенциальный прообраз основ регулирования в этой сфере. В частности, по его итогам должны быть представлены:

1) анализ и предложения по установлению иерархии правовых понятий в сфере создания, использования и распространения киберфизических систем, классификация таких систем, основной состав прав и обязанностей лиц, участвующих в отношениях, связанных с применением систем;

2) предложения по определению ответственности в сфере использования киберфизических систем, системы страхования рисков, связанных с использованием киберфизических систем;

3) предложения по определению порядка: использования персональных данных различными формами киберфизических систем (чат-ботами, устройствами в Интернете вещей и т.д.); деятельности по сбору, передаче, хранению, обработке и доступу к данным, генерируемым в связи с использованием информационных технологий физическими и юридическими лицами, в том числе в части сбора таких данных в зависимости от волеизъявления субъектов;

4) предложения по определению условий по обработке и коммерческому использованию таких данных, механизмов сбора и использования больших массивов данных;

5) предложения по определению порядка раскрытия информации, режим открытых данных, принципы раскрытия данных по умолчанию, порядка обеспечения сохранности сведений, охраняемых законом (тайна связи, тайна личной жизни и т.п.), обрабатываемых при использовании киберфизических систем;

6) предложения по определению порядка использования отдельных категорий сервисных роботов, минимальных требований к введению в эксплуатацию отдельных категорий роботов и роботизированных устройств, направленных на обеспечение безопасности и контролируемости устройств;

7) предложения по определению требований к используемым датчикам, средствам измерений и измерительным системам с учетом положений законодательства об обеспечении единства измерений[60].

Между тем далеко не все из перечисленных положений должны являться частью основ законодательства. Их основная задача, как нам кажется, заключается в том, чтобы обозначить общее направление правовой регламентации киберфизических систем, создать фундамент для будущих изменений существующих нормативно-правовых актов, заложить принципы регулирования и служить ориентиром для дальнейшей регуляторной реформы.

В этом отношении излишняя детализация или регламентация скорее пойдет во вред отрасли, в то время как безусловно ключевым вектором развития законодательства в этой сфере должно быть, на наш взгляд, максимальное снятие правовых барьеров для развития технологий.

С учетом этого положения основы законодательства могли бы учитывать следующие моменты:

— предмет регулирования;

— общие принципы регулирования;

— механизмы и порядок правовой регламентации отдельных киберфизических систем;

— систему классификации киберфизических систем;

— предметную терминологию;

— состав субъектов, их права и обязанности;

— подходы к системе механизмов ответственности;

— корреляцию с вопросами защиты информации о частной жизни и персональных данных;

— подходы к решению проблемы обеспечения безопасности;

— вопросы стандартизации;

— трансграничное взаимодействие;

— основы саморегулирования;

— создание регуляторных песочниц.

Такие основы, повторим, могли бы стать базой для дальнейших изменений законодательства.

Уровень 3. Пакетные адресные изменения федеральных законов

Создание первых двух уровней позволит подготовить почву, необходимую для пакетных изменений в конкретных отраслях, где внедряются или ожидается внедрение киберфизических систем.

По существу, речь идет обо всех основных законах и кодексах, так как любая отраслевая корректировка затрагивает целый пласт регулирования.

Уровень 4. Пакетные адресные изменения подзаконных актов

Данный уровень является продолжением предыдущего и предполагает изменение норм непосредственного действия: административных и технических регламентов, указов, приказов и постановлений и т.д.

Пакетные изменения могут вноситься в связи с любым аспектом развития киберфизических систем. Назовем лишь несколько примеров возможных направлений для корректировки, основанных в том числе на зарубежной практике:

— регулирование высокоавтоматизированных (беспилотных) автомобилей;

— регулирование беспилотных летательных аппаратов;

— регулирование роботов-курьеров;

— регулирование технологий искусственного интеллекта в финансовой сфере;

— регулирование технологий автоматизации, роботизации и применения искусственного интеллекта в государственном управлении, законодательной деятельности, при отправлении правосудия;

— регулирование применения военных роботов;

— регулирование применения имплантатов, роботов и роботизированных устройств, а также систем искусственного интеллекта, применяемых в медицине;

— регулирование роботов и технологий искусственного интеллекта, применяемых для обслуживания объектов инфраструктуры, а также в сфере связи и телекоммуникаций;

— изменения законодательства об охране прав на результаты интеллектуальной деятельности в связи с развитием различных форм киберфизических систем;

— изменения институтов страхования, включая страхование ответственности за причинение вреда и социальное страхование;

— изменения налоговой системы, направленные среди прочего на стимулирование развития киберфизических систем или учет их специфики в налогообложении;

— регулирование процессов роботизации и применения технологий искусственного интеллекта при осуществлении нотариальной деятельности;

— регулирование аспектов создания сильного искусственного интеллекта[61] и т.д.

Очертить исчерпывающий круг отношений, на которые может повлиять развитие робототехники и искусственного интеллекта, невозможно. Тем более что едва ли не каждый день можно встретить новости о развитии технологий, которые способны повлиять на регулирование.

Международный уровень

В мире уже не раз высказывались предложения о формировании правил взаимодействия человека и роботов. Это отчетливо видно на примере самых разных государств, экспертных сообществ и даже частных компаний. Обычно речь идет о разрозненном наборе неких правил (как правило, этического характера), определяющих основные подходы к регулированию общественных отношений в контексте развития робототехники и технологий искусственного интеллекта.

На необходимость международной кооперации в целях изучения этических, правовых и социальных вопросов в сфере искусственного интеллекта и робототехники (результатом которого может стать принятие нормативных стандартов под эгидой ООН) прямо указано в Резолюции Европейского парламента N 2015/2103(INL).

Это заявление является квинтэссенцией аргументов о потребности в международном сотрудничестве по вопросам робототехники, которые высказывались различными экспертами. Попытка создать единый документ предпринималась в 2007 г. в Корее в виде Этического устава роботов[62]. При отсутствии общего понимания терминов, в условиях схожести основных проблем регулирования и повсеместного распространения технологий в результате глобализации проблемы регулирования являются общими и могут быть как минимум частично разрешены на наднациональном уровне.

Одним из вариантов решения проблемы действительно может быть международный документ. Мы полагаем, что таковым могла бы стать Модельная конвенция о робототехнике и искусственном интеллекте, разработанная осенью 2017 г.[63] и в конце года представленная на суд юридической науки и бизнеса.

Проект Модельной конвенции — первая попытка обобщить разрозненные предложения, предпринятая на основе их анализа, дополнения и развития.

В дальнейшем ее можно легко адаптировать под любые указанные выше уровни регулирования — от общемирового до уровня подзаконных актов.

Ее ключевая идея очень проста: сделать первый шаг на пути к общему пониманию основных правил сосуществования людей и киберфизических систем. В основе Модельной конвенции заложен ряд принципов и задач, которые могут служить фундаментом для будущего регулирования после их всестороннего междисциплинарного обсуждения.

Модельная конвенция опирается на гуманитарные принципы и ставит во главу угла безопасность человечества и отдельного человека в будущих реалиях.

При этом авторы проекта сознательно оставили за его пределами регулирование вопроса о том, должны ли в будущем умные роботы стать субъектами права или остаться объектами (ст. 29 Модельной конвенции).

Тем не менее даже при таком самоограничении использование роботов в обороте потребует их идентификации для того, чтобы отличать их от автоматизированных устройств и компьютеров. По этой причине в первой редакции Модельной конвенции предложено следующее:

"Информация о том, что какое-либо устройство или объект является роботом, должна быть донесена до любого взаимодействующего с ним человека или другого робота, за исключением случаев, когда это продиктовано обстановкой либо не требуется исходя из назначения и специфических условий применения конкретной формы робота" (ст. 25).

В совокупности с принципом ограничения поведения роботов (ст. 26), определяющим, что "функционирование роботов должно быть принципиально предсказуемым для их создателей и пользователей, соответствовать их конструкции и назначению, быть безопасным и контролируемым", а также с обязательной информированностью субъектов о порядке функционирования роботов (ст. 27) и об их опасности (ст. 10) этот набор подходов может стать основой для решения задачи отличения роботов от всего остального в окружающей среде.

Особое внимание в Модельной конвенции уделяется обеспечению безопасности роботов. В ст. 15 — 17 говорится о контролируемости роботов человеком, обязательном наличии в них черных ящиков и кнопок для реализации функции моментального или аварийного отключения по требованию.

В 2017 г. в науке информационного права был предложен подход, подразумевающий рассмотрение робота в качестве информационной системы. Независимо от выбора модели для определения понятия "робот", с позиции информационных технологий такой подход представляет собой совокупность аппаратной (имущественной) и программной (информационной) составляющих, поскольку полноценный, способный к самостоятельным действиям и, потенциально, к самообучению робот не может существовать без информационной системы, которая должна быть одним из основных его компонентов, связанных с его разнообразными датчиками и сенсорами, контролирующими происходящее вокруг робота и его взаимодействие с внешней средой.

Соответственно, такая информационная система должна быть защищена от несанкционированного доступа (ст. 12 Модельной конвенции). Кроме того, должна отдельно защищаться конфиденциальная информация, собираемая и обрабатываемая роботами (ст. 11).

Суть Модельной конвенции состоит в том, чтобы аккумулировать существующие понимания основных правил создания, внедрения и использования робототехники и искусственного интеллекта и учитывать дальнейшее развитие технологий. Наши представления о том, что нормально, а что — нет, будут меняться от общества к обществу, от года к году. Поэтому Конвенция — динамичный документ, и ее обсуждения и модификация не просто желательны, а жизненно необходимы.

Уже сейчас очевидно, что представленных в проекте 42 правил регулирования взаимоотношений людей в связи с развитием киберфизических систем недостаточно, и, возможно, в будущем это число статей покажется смехотворно малым. В частности, на потребность в существенном совершенствовании документа указывает отсутствие в его тексте определений и ответа на вопрос о соотношении категорий "робот", "киберфизическая система" и "искусственный интеллект".

Нужно сказать, что Модельная конвенция инициировала важную научную дискуссию. Так, С.В. Сарбаш в комментариях к ней отметил целый ряд вопросов, связанных с целесообразностью введения тех или иных принципов и корректностью формулировок ряда норм, а также указал, что многие положения носят в значительной степени декларативный характер. В связи с этим высказано обоснованное, на наш взгляд, предложение разделить подобные Конвенции документы на две части, одна из которых содержала бы общие декларации этического характера, а другая — собственно юридические нормы прямого действия[64].

А.А. Иванов также обратил внимание на некоторые недостатки документа, справедливо подчеркнув проблему унификации используемых понятий (особенно в части использования терминов "робот", "роботизированный механизм" и "киберфизическая система"), а кроме того, поставил вопрос о выработке критериев для дефиниции понятия "искусственный интеллект"[65].

Авторы настоящей статьи, безусловно, согласны с тем, что все положения Модельной конвенции действительно требуют не только экспертного, но и общественного обсуждения. При этом в некоторой степени декларативный характер отдельных норм, по нашему мнению, является в ряде случаев вполне оправданной мерой, поскольку сама идея этого документа заключается в постулировании положений и принципов, которые могли бы быть признаны значительной частью людей. В этом отношении заявление о приверженности сообщества какому-либо идеологическому принципу не является, как нам кажется, излишним.

Сказанное можно проиллюстрировать ст. 30 Модельной конвенции, посвященной ответственному отношению разработчиков искусственного интеллекта к его потенциальной опасности. Суть этой нормы заключается в том, что лица, имеющие отношение к разработке таких систем, обязаны учитывать общественные настроения и не вправе пренебрегать тем мнением, что технологии искусственного интеллекта могут нести в себе экзистенциальные риски. Несмотря на кажущуюся декларативность или даже бесполезность данной "нормы-пожелания", в действительности она отражает огромный пласт дискуссий, которые уже давно ведутся в ряде стран и даже повлекли принятие, например, так называемых Азиломарских принципов искусственного интеллекта[66], уже упоминавшихся выше. В основе этих обсуждений лежит тезис о том, что безразличное отношение разработчиков к последствиям создания сильного искусственного интеллекта является отчасти понятным, но одновременно оно может стать губительным для всего человеческого общества. По этой причине постулирование обязанности разработчиков учитывать общественное мнение на этот счет является далеко не бесполезным. Европейский парламент в целях решения подобных проблем указал на необходимость создания специальных комитетов по этике научных исследований, которые могли бы контролировать этичность разработок в подобных сферах.

Одновременно авторы признают целесообразность дальнейшего обсуждения и продолжают собирать критику и новые идеи[67], рассчитывают учесть их и предложить к обсуждению новую редакцию Конвенции в 2018 г.

Заключение

Настоящая публикация призвана инициировать обсуждение проблем регулирования робототехники и технологий искусственного интеллекта прежде всего на научном уровне. В настоящее время общества всех стран мира находятся на пороге глобальных изменений, и юристы наряду с представителями других профессий просто обязаны активно включиться в происходящие в обществе процессы, обусловленные такими изменениями.


[1] Подробнее см.: Шваб К. Четвертая промышленная революция. М., 2016.

[2] Утверждена распоряжением Правительства РФ от 28.07.2017 N 1632-р.

[3] В этом плане показательным примером является система правил рассмотрения споров о доменных именах (Uniform Domain-Name Dispute Resolution Policy, UDRP), внедренная Корпорацией по управлению доменными именами и IP-адресами (Internet Corporation for Assigned Names and Numbers, ICANN) в 1999 г.

[4] Это касается и представителей органов власти, и экспертов. См., напр.: информация Банка России от 04.09.2017 "Об использовании частных "виртуальных валют" (криптовалют)"; письмо Минфина России от 02.10.2017 N 03-11-11/63996 "О регулировании выпуска и оборота криптовалют". См. также: Никитин К. Правовой статус криптовалют в России // ЭЖ-Юрист. 2017. N 45. С. 6; Нужно ли регулировать биткоин? // Закон. 2017. N 9. С. 20 — 33; Гринь Е.С. Реестры сложных объектов интеллектуальных прав (на примере аудиовизуальных произведений) // Актуальные проблемы российского права. 2017. N 8. С. 99 — 105; Дмитриева О.А. Технологии "единое окно" и "блокчейн" как пути совершенствования межведомственного информационно-технического взаимодействия // Таможенное дело. 2017. N 3. С. 1821; Новоселова Л.А. "Токенизация" объектов гражданского права // Хозяйство и право. 2017. N 12; Она же. О правовой природе биткойна // Хозяйство и право. 2017. N 9 и др.

[5] Утверждена в 2015 г. URL: https://www.eu-robotics.net/sparc/upload/about/files/H2020-Robotics-Multi-Annual-Roadmap-ICT-2016.pdf (дата обращения: 21.02.2018).

[6] См.: https://www.eu-robotics.net/sparc/upload/topic_groups/SRA2020_SPARC.pdf (дата обращения: 21.02.2018).

[7] См.: http://www.meti.go.jp/english/press/2015/pdf/0123_01b.pdf (дата обращения: 21.02.2018).

[8] См.: http://elaw.klri.re.kr/eng_service/lawView.do?hseq=39153&lang=ENG. Текст Закона на русском языке см.: http://robopravo.ru (дата обращения: 21.02.2018).

[9] См.: Cho Y., Jeong M., Park S. The effect of the Korean robot act on the Korean robotics industry and its implications // KIET Industrial Economic Review. 2016. Vol. 21. N 6.

[10] Азиломарские принципы искусственного интеллекта. Подробнее о проекте см.: https://futureoflife.org/bai-2017/ (дата обращения: 21.02.2018).

[11] См.: Civil Law Rules on Robotics. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). URL: http://europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2017-0051+0+DOC+PDF+V0//EN. Текст резолюции на русском языке см.: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/oQeHTCnw.pdf (дата обращения: 21.02.2018).

[12] См.: Изменения в Закон о дорожном движении от 14.06.2017. URL: https://riigiteataja.ee/akt/107072017008. Текст на русском языке см.: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/vqBsa820.pdf (дата обращения: 21.02.2018).

[13] Восьмой закон о внесении изменений в Закон о дорожном движении от 16.06.2017. Текст на русском языке см.: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/5MZ0clyT.pdf (дата обращения: 21.02.2018).

[14] См.: http://gov.cn/zhengce/content/2017-07/20/content_5211996.htm (дата обращения: 21.02.2018). Текст доступен на китайском языке.

[15] См.: Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России Закона о робототехнике // Труды СПИИРАН. 2017. N 6. С. 46 — 62. URL: http://robopravo.ru, https://vk.com/page-135261864_52392566 (дата обращения: 21.02.2018).

[16] Подробнее о субъектах в сфере робототехники, вопросах их воли и правосубъектности см.: Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. N 5. С. 157 — 170.

[17] См., напр.: Замахина Т. Госдума подготовит закон об отношениях робота и человека // РГ. 2017. 25 сент. URL: https://rg.ru/2017/09/25/gosduma-podgotovit-zakon-ob-otnosheniiah-robota-i-cheloveka.html; https://rbc.ru/technology_and_media/20/11/2017/5a0ef3ac9a79474efac57ea3; Кантышев П. Роботов хотят приравнять к животным и юридическим лицам // Ведомости. 2017. 6 июля. https://vedomosti.ru/technology/articles/2017/07/06/711134-robotov-zhivotnim; Обухов А. Госдума задумалась о судебном преследовании роботов // МК. 2017. 5 дек. http://mk.ru/politics/2017/12/05/gosduma-zadumalas-o-sudebnom-presledovanii-robotov.html (дата обращения: 22.02.2018).

[18] См., напр.: Сарбаш С. Гражданский оборот в цифровую эпоху // Закон.ру. 2017. 21 окт. URL: https://zakon.ru/blog/2017/10/21/grazhdanskij_oborot_v_cifrovuyu_epohu; Афанасьев С. Роботы по закону // Известия. 2017. 9 окт. URL: https://iz.ru/651717/robot-v-zakone (дата обращения: 21.02.2018); Незнамов А. Может ли робот стать президентом // Ведомости. 2017. 20 дек.

[19] См.: Мочалин А.Ю., Асанов Т.М., Пронин К.В. Перспективные направления роботизации в налогах // Налоговая политика и практика. 2017. N 11. С. 76 — 80.

[20] См.: Филипова И.А. Искусственный интеллект и трудовые отношения: социальные перспективы и тенденции правового регулирования // Российская юстиция. 2017. N 11. С. 65 — 67.

[21] Архипов В.В., Наумов В.Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. 2017. N 1. С. 19 — 27.

[22] См.: Ибрагимов Р., Сурагина Е. Право машин. Как привлечь робота к ответственности // Корпоративный юрист. 2017. N 11; Лаптев В.А. Ответственность "будущего": правовое существо и вопрос оценки доказательств // Гражданское право. 2017. N 3. С. 32 — 35.

[23] См.: Ибрагимов Р., Чиркова Т. Принципы регулирования разработки и оборота программ и роботов // Legal Insight. 2017. N 9. С. 10 — 15.

[24] См.: Гурко А. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. N 12. С. 7 — 18; Фабричный С.Ю., Рузакова О.А. Коммерциализация интеллектуальной собственности: проблемы регулирования // Патенты и лицензии. 2017. N 7. С. 41 — 48.

[25] На уровне обозначения проблематики вопрос отражен здесь: Некрасов В.Н. Актуальные вопросы уголовно-правовой охраны инновационной деятельности в России // Актуальные проблемы российского права. 2017. N 7. С. 108 — 114.

[26] См.: Ралько В.В. Будущее нотариата // Нотариус. 2016. N 8. С. 8 — 11.

[27] См.: Robot Law / Ed. by R. Calo, A.M. Froomkin, I. Kerr. Edward Elgar Publishing, 2016; Calo R. Robots in American Law: Legal studies research paper N 2016-04. School of Law University of Washington, 2016. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2737598 (дата обращения: 21.02.2018).

[28] Pagallo U. The Laws of Robots Crimes, Contracts, and Torts. Dordrecht, 2013.

[29] Palmerini E., Bertolini A., Koops B.-J. et al. RoboLaw: Towards a European framework for robotics regulation. Salvini Pericle, 2016.

[30] Например, в финансовой сфере иногда фигурируют "торговые роботы" — ценовые алгоритмы, используемые для торгов на бирже. Очевидно, что роботы в этом понимании имеют совершено иное значение, чем, например, промышленные роботы-манипуляторы. Аналогично "искусственный интеллект" в компьютерной игре и "искусственный интеллект" в транспортной системе также будут иметь разные значения.

[31] См.: Джордан Дж. Роботы. М., 2017. С. 38.

[32] В этом отношении "торговый робот", безусловно, является не роботом, а программой.

[33] В одних источниках указывается на его появление в Германии, в рамках программы "Индустрия 4.0", в других упоминается США.

[34] См.: Черняк Л. Киберфизические системы на старте // Открытые системы. СУБД. 2014. N 2. URL: https://osp.ru/os/2014/02/13040038 (дата обращения: 27.02.2018).

[35] См.: http://mplm.tech/2017/04/CPS.html (дата обращения: 27.02.2018).

[36] См.: https://nist.gov/el/cyber-physical-systems; http://internetofthings.ru/78-blog/33-spimes-kiber-fizicheskie-sistemy-i-promyshlennost-4-0 (дата обращения: 27.02.2018).

[37] Этот тезис легко проиллюстрировать проблемой создания так называемого сильного искусственного интеллекта, или сверхразума. Если в одних юрисдикциях вопрос о социальных и экономических последствиях его создания для человеческого общества является предметом острого обсуждения уже на протяжении нескольких лет, то в других проблема создания сверхразума и тем более последствия, которые оно повлечет, кажутся чем-то из области фантастики либо как минимум совершенно не актуальной проблемой текущей повестки. Российскому читателю нетрудно заметить, что в нашей стране преобладает как раз вторая точка зрения, притом что в мире уже существует целый ряд организаций, единственной целью которых является анализ проблемы последствий появления сверхразума и координация совместных усилий ученых и экспертов в этой области с тем, чтобы определить место человека в будущем. Так же обстоит дело с так называемым беспилотным, или автономным, транспортом.

[38] См.: Лаптев В.А. Указ. соч. С. 32 — 35.

[39] Подробнее см.: Архипов В.В., Наумов В.Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. 2017. N 1. С. 19 — 27.

[40] См.: Pettit H. Are robots more than just "personal property"? Estonia works toward giving Al legal status // Mail Online. 10.10.2017. URL: http://dailymail.co.uk/sciencetech/article-4965922/Estonia-working-giving-robots-Al-legal-status.html (дата обращения: 22.02.2018).

[41] См.: http://independent.co.uk/life-style/gadgets-and-tech/news/saudi-arabia-robot-sophia-citizenship-android-riyadh-citizen-passport-future-a8021601.html. Тем не менее установить, была ли процедура предоставления гражданства роботу в действительности реализована в этом государстве, из доступных источников так и не удалось ни нам, ни нашим коллегам. Как видится, заявление о предоставлении гражданства роботу все же вряд ли является официальным подтверждением этого факта. Это следует из обстоятельств самого появления данной новости: о ней было объявлено между делом на инвестиционном форуме журналистом, модерировавшим обсуждение. Впоследствии этот факт якобы был подтвержден правительством Саудовской Аравии, однако в настоящее время практически все ссылки на источник ведут на страницу пресс-релиза, выпущенного Саудовским центром международных коммуникаций — https://cic.org.sa/2017/10/saudi-arabia-is-first-country-in-the-world-to-grant-a-robot-citizenship/ (дата обращения: 21.02.2018). В этом пресс-релизе, по сути, рассказывается о прошедшем мероприятии.

[42] См., напр.: Брокман Дж. Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте. М., 2017.

[43] В настоящей работе мы для удобства восприятия не разделяем вопросы регулирования робототехники и искусственного интеллекта. Но следует понимать, что определенная специфика регулирования, безусловно, имеется.

[44] См.: Незнамов А.В., Наумов В.Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. 2017. N 8. С. 14 — 25. URL: http://e-notabene.ru/lr/article_23292.html (дата обращения: 21.02.2018).

[45] Horizon 2020: 8th framework programme funding research, technological development, and innovation. Подробнее о программе см.: https://ec.europa.eu/programmes/horizon2020/en. Некоторую информацию на русском языке см.: Горизонт 2020. Рамочная программа ЕС по исследованиям и инновациям // Практическое руководство для исследователей из России. 2014 — 2020. URL: http://www.bilat-rus.eu/_media/H2020__Practical_guide_for_Russian_researchers_RU.pdf (дата обращения: 22.02.2018).

[46] См.: What is SPARC? The Partnership for Robotics in Europe. URL: https://eu-robotics.net/sparc/about/index.html (дата обращения: 21.02.2018).

[47] См.: http://gov.cn/zhengce/content/2015-05/19/content_9784.htm. Также см.: Дорожная карта развития ключевых отраслей. URL: http://www.cae.cn/cae/html/files/2015-10/29/20151029105822561730637.pdf (дата обращения: 21.02.2018). Документы доступны на китайском языке.

[48] Подробнее см.: https://www.mizuhobank.com/fin_info/cndb/economics/msif/pdf/15-0110-AF-0103.pdf (дата обращения: 21.02.2018).

[49] См.: http://sdpc.gov.cn/zcfb/zcfbghwb/201604/t20160427_799898.html (дата обращения: 21.02.2018). Документ доступен на китайском языке.

[50] Утверждена Указом Президента РФ от 09.05.2017 N 203 // СПС "КонсультантПлюс".

[51] Утверждена Указом Президента РФ от 31.12.2015 N 683 // СПС "КонсультантПлюс".

[52] См.: Постановление Правительства РФ от 15.04.2014 N 328 "Об утверждении Государственной программы Российской Федерации "Развитие промышленности и повышение ее конкурентоспособности" // СПС "КонсультантПлюс".

[53] См.: Приказ Минпромторга России от 05.05.2014 N 839 "Об утверждении Стратегии развития черной металлургии России на 2014 — 2020 гг. и на перспективу до 2030 г. и Стратегии развития цветной металлургии России на 2014 — 2020 гг. и на перспективу до 2030 г."; распоряжения Правительства РФ от 01.11.2013 N 2036-р "Об утверждении Стратегии развития отрасли информационных технологий в Российской Федерации на 2014 — 2020 гг. и на перспективу до 2025 г." и от 30.12.2013 N 2602-р "Об утверждении плана мероприятий ("дорожной карты") "Развитие отрасли информационных технологий" // СПС "КонсультантПлюс".

[54] См.: с. 65 Плана мероприятий. URL: http://static.government.ru/media/files/1P5evO23war1woLA0q8aJ2DtAqsydInS.pdf (дата обращения: 22.02.2018).

[55] Проект концепции уже обсуждался на совместном мероприятии АНО "Робоправо" и Национальной ассоциации участников рынка робототехники. Подробнее см.: Рабочая встреча НАУРР и АНО Робоправо // НАУРР. 2017. 18 сент. URL: http://robotunion.ru/ru/novosti/118-rabochaya-vstrecha-naurr-i-ano-robopravo-razvitie-robototekhniki (дата обращения: 22.02.2018).

[56] URL: http://www.europarI.europa.eu/RegData/etudes/IDAN/2014/509987/IPOL_IDA(2014)509987(ANN01)_EN.pdf (дата обращения: 27.02.2018).

[57] URL: http://www.europarI.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU%282016%29563501_EN.pdf (дата обращения: 27.02.2018).

[58] См.: Незнамов А.В., Наумов В.Б. Указ. соч. С. 14 — 25.

[59] См., напр.: Calo R. Op. cit.

[60] План мероприятий по направлению "Нормативное регулирование" программы "Цифровая экономика Российской Федерации" (утв. Правительственной комиссией по использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, Протокол от 18.12.2017 N 2).

[61] Под сильным искусственным интеллектом мы понимаем так называемый универсальный человекоподобный интеллект, иногда называемый сверхразумом. Ключевым моментом здесь является универсальность такой системы искусственного интеллекта: она соответствует человеческим возможностям или превосходит их по подавляющему большинству направлений, а не только в одной или двух сферах.

[62] См., в частности: South Korea plans code of ethics for robots // Reuters. 2007. May 7. URL: https://reuters.com/article/us-korea-robots/south-korea-plans-code-of-ethics-for-robots-idUSSEO16657120070507; Korean Robot Ethics Charter / Robot Division, Ministry of Commerce, Industry and Energy, Korea. 2007. April 14. URL: http://www.roboethics.org/icra2007/contributions/slides/Shim_icra%2007_ppt.pdf (дата обращения: 22.02.2018).

[63] Модельная конвенция о робототехнике и искусственном интеллекте. Правила создания и использования роботов и искусственного интеллекта. URL: http://robopravo.ru/modielnaia_konvientsiia (дата обращения: 21.02.2018).

[64] С.В. Сарбаш любезно предоставил постатейные комментарии напрямую авторам настоящей работы; насколько нам известно, они пока не опубликованы.

[65] Иванов А.А. Кто такие роботы (киборги) с точки зрения права // Закон.ру. 2018. 13 февр. URL: https://zakon.ru/blog/2018/02/13/kto_takie_roboty_kiborgi_s_tochki_zreniya_prava (дата обращения: 21.02.2018).

[66] URL: http://robopravo.rU/uploads/s/z/6/g/z6gj0wkwhv1o/file/uFMMP93G.pdf (дата обращения: 21.02.2018).

[67] Помимо С.В. Сарбаша и А.А. Иванова, авторы отдельно благодарят проф. В.Б. Исакова и специалиста по робототехнике проф. В.И. Городецкого, представивших системный критический анализ документа с позиций теории права, а также прикладной технической науки.


Рекомендуется Вам: