К вопросу о правовом статусе робототехники и искусственного интеллекта

Автор: Федорина А.А.

В последнее время получил широкое распространение вопрос проникновения роботизированной техники в нашу жизнь[1]. Власти штата Калифорния легализовали использование автомобилей с функцией автопилота, первые такие автомобили уже ездят по улицам США и уже попадают в ДТП с пострадавшими[2]. Роботизации подвергается и общественный транспорт. Так, один из самоуправляемых автобусов, маршрут которого составляет 2,5 км, передвигается по улицам Швейцарии[3]. В Греции самоуправляемый автобус передвигается по 3 часа в день[4], а в Китае планируется запуск самоуправляемого междугороднего автобуса[5]. В Дубае состоялись первые испытания беспилотного летающего такси, максимальное время полета которого составляет 30 мин.[6] В России есть робот FEDOR, которого к 2024 г. планируют отправить на Международную космическую станцию[7]. Эти ранние технологии — только начало, и скоро мы можем стать свидетелями революции робототехники. У этих систем есть потенциал, который может изменить нашу повседневную жизнь больше, чем широкий доступ в Интернет сделал за последние два десятилетия[8].

В условиях такого экспоненциального развития новых технологий право сталкивается с новыми вопросами, ответ на которые необходимо дать в ближайшее десятилетие.

Стоит отметить, что только в 2017 г. проблема правового регулирования робототехники стала широко обсуждаться, в том числе и на международном уровне. До этого основным регулятором являлись утвержденные государством концепции развития робототехники[9], ведущими игроками в этом направлении стали Южная Корея, Япония, Китай, Европейский союз и США. Так, например, в настоящее время действуют европейская Дорожная карта развития робототехники в Европе Robotics 2020[10], японская Новая стратегия роботов[11]. В Китае концепция разбросана по целому ряду документов, включая Глобальную государственную программу развития Made in China 2025, 13-й пятилетний план развития на 2016 — 2020-е гг., Руководство о содействии производству промышленных роботов и План развития робототехнической отрасли (2016 — 2020). В Южной Корее с 2008 г. действует Закон о содействии развитию и распространению умных роботов[12]. В США действует программа финансирования "Национальная робототехническая инициатива 2.0", которая дополняется Дорожной картой развития робототехники в США. Существуют и наднациональные документы. Так, этой весной подавляющее большинство стран Евросоюза подписали декларацию о сотрудничестве в области искусственного интеллекта[13].

Если проанализировать разные по своей сущности программы, которые и создавались в разные периоды, то можно увидеть, что все они сходятся к единому выводу: роботизация позволяет разрешить многие экономические и социальные проблемы. У нас в стране эти вопросы только начинают активно обсуждаться, но уже общепризнанным является факт, что развитие робототехники является приоритетным направлением государственной политики.

При этом стоит отметить, что первые попытки правового регулирования робототехники в Российской Федерации уже начинают появляться. В качестве примера можно привести внесение изменений в Воздушный кодекс РФ[14], связанных с правовым регулированием беспилотных воздушных судов и авиационных систем (дронов). Упоминается робототехника и в Стратегии развития автомобильной промышленности Российской Федерации на период до 2020 г.[15], и в программе "Цифровая экономика Российской Федерации"[16].

Более того, в декабре 2016 г. юридическая фирма Dentons по заказу Grishin Roboticks разработала концепцию первого в России законопроекта о робототехнике, представленного в виде внесения поправок в Гражданский кодекс Российской Федерации. А 22 ноября 2017 года Исследовательским центром проблем регулирования робототехники и искусственного интеллекта (ИИ) была представлена Модельная конвенция о робототехнике и искусственном интеллекте[17].

Российская робототехника в некотором роде отстает по массовости и разнообразию от ведущих стран в этом направлении. Однако и у нас в стране есть достаточное количество разработок, часть из которых пользуются спросом и за границей. И если брать вектор на развитие этих технологий в России, то возникает по меньшей мере несколько вопросов.

Первый вопрос, который возникает при упоминании о роботизации, касается того, как быть с ответственностью за вред, причиненный роботом. Ведь чем выше уровень автоматизации машины, тем труднее установить лицо, несущее ответственность за нанесенный ею ущерб. Европарламент, например, выступает за введение страховой ответственности за вред, причиненный роботом, по примеру ОСАГО. Это позволит пострадавшему гарантированно получить компенсацию за причиненный ущерб[18].

В принятой в феврале 2017 г. резолюции "Нормы гражданского права о робототехнике" Европарламент также отмечает, что одной из самых быстрорастущих областей робототехники является роботизация человеческого организма. При этом возникает вопрос: что делать, если производитель имплантатов по тем или иным причинам перестанет их поддерживать? В этой связи предлагается создание сторонних доверенных организаций, которые будут заниматься поддержанием работоспособности названных механизмов. Это, безусловно, также требует детального правового регулирования.

Однако прежде чем углубляться в эти вопросы, предстоит определиться с терминологией. Так, под роботом мы можем понимать совокупность программного обеспечения и механизмов, созданных людьми для выполнения определенной автономной работы[19]. В Законе о содействии развитию и распространению умных роботов[20] Южной Кореи термин "умный робот" обозначает механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует, и целенаправленно передвигаться самостоятельно.

Таким образом, можно выделить четыре признака, необходимых для идентификации робота как такового:

— наличие программного обеспечения;

— наличие конструкций и механизмов;

— способность совершать физические действия в пространстве;

— автономность.

По мнению ряда экспертов, именно автономность является самым главным свойством, отличающим роботов от иных механизмов. При этом созданная при Европейском парламенте комиссия по законодательному регулированию робототехники пришла к выводу, что роботы обладают разной степенью автономности и поэтому к ответственности за причиненный ими вред нужно подходить дифференцированно. Стоит отметить, что проблема лишь сформулирована, ее разрешение пока не предлагается. Представляется, что в такой ситуации мы приходим к выводу о наличии еще одного критерия, помимо автономности, необходимого для определения степени законодательной регламентации. На этот критерий в свое время обратил внимание еще Айзек Азимов в своих трех законах робототехники[21]. Этот критерий — безопасность.

Вопрос терминологии, безусловно, является одним из главных для любой новой технологии, вместе с тем единого понимания того или иного термина нет даже в профессиональной среде. По справедливому замечанию А.В. Незнамова и В.Б. Наумова[22], большим пластом этой проблемы является также разграничение понятий "роботизированная техника" и "искусственный интеллект", поскольку в настоящее время они употребляются, скорее, как устоявшийся термин. Однако, если погружаться вглубь данной проблематики, становится очевидно, что данные понятия далеко не идентичны.

Следующий важный вопрос, который предстоит решить, касается правового статуса роботизированной техники. Для этого необходимо обратиться к уже упомянутому проекту о внесении изменений в Гражданский кодекс РФ (далее — ГК РФ). Изначально было несколько подходов к правовому регулированию:

— решить вопрос по аналогии с физическими лицами;

— приравнять роботов к животным;

— использовать концепцию, близкую к юридическим лицам.

Разработчики проекта решили остановиться на последней модели. Так, в ГК РФ предлагается ввести новую главу "Роботизированные агенты", в которой будет следующее определение: "Роботизированным агентом (роботом-агентом) признается робот, который по волеизъявлению собственника и в силу конструктивных особенностей предназначен для участия в гражданском обороте. Роботизированный агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности, быть истцом и ответчиком в суде".

Однако, как справедливо отмечает А.А. Иванов[23], давая такое определение роботизированной технике, мы признаем у них наличие сознания и воли, достаточной для участия в гражданском обороте. Однако сознанием и волей могут обладать только люди, остальные же субъекты предполагаются наделенными этими качествами, поскольку в их деятельности участвуют люди, которые вступают в гражданские правоотношения от их имени. В рассматриваемом случае обязательное участие людей предполагается на стадии создания соответствующего робота-агента, который впоследствии сам, без посредничества людей, может вступать в гражданские правоотношения.

Стоит отметить, что законопроект рассматривает робота-агента не только в качестве субъекта, но и в качестве объекта права, ведь у него есть собственник и владелец. Таким образом, мы получаем странную конструкцию — вещь, наделенную волей и сознанием. Такой двойственный статус, безусловно, вызывает сомнение.

Резюмируя, представляется, что вряд ли мы можем рассматривать роботов в качестве юридических лиц. В данном случае встает вопрос о признании роботов в качестве индивидуальных субъектов или объектов права, принимая во внимание то обстоятельство, что за последние несколько лет развитие робототехники достигло такого уровня, что роботы могут выполнять работу, которая раньше была под силу только человеку. А также тот факт, что развитие конкретного функционала позволяет роботам действовать автономно и осуществлять когнитивные процессы, приводит к выводу, что роботы все больше смогут выступать в качестве агентов во взаимодействии с окружающей средой. Представляется, что именно степень автономности и должна предрешать вопросы правового статуса и правовой ответственности роботов. Однако в этой связи стоит обратить внимание, что автономность роботов носит технический характер и обусловлена степенью его запрограммирования.

Исходя из вышесказанного, поставленный вопрос решается исходя из того, какой путь выберет государство в роли вектора своего развития. Так, если государство пойдет по пути ограничения автономности робототехники, то очевидно признание последнего в виде объекта права, как, например, имущества особого рода. В таком случае внесение кардинальных изменений в законодательство не представляется необходимым. Следует лишь более подробно изложить их правовой статус и прописать вопросы правовой ответственности, которая, как представляется, должна ложиться в определенной степени на производителей, собственников и владельцев робототехники.

Если же политика государства пойдет по пути отказа от ограничения автономности юнитов искусственного интеллекта и последние смогут осуществлять когнитивные процессы (самообучаться и принимать квазизависимые решения) самостоятельно, то возникает потребность в реформировании уже существующих правовых категорий. В той ситуации, когда роботы смогут постоянно самообучаться, обычные правила к ним будут неприменимы. В такой ситуации остро встает вопрос и о правовой ответственности, ведь не совсем понятно, как мы сможем ее возложить, например, на производителя, когда на момент создания робота в него были вложены совсем иные категории, чем те, которыми юнит искусственного интеллекта оперирует в настоящий момент в результате осуществления самостоятельных когнитивных процессов. В таком случае возможно признание роботов в качестве индивидуальных субъектов права в виде "электронных лиц", которые смогут нести ответственность самостоятельно в тех случаях, когда они принимали решение автономно. Безусловно, в настоящее время это выглядит как кадр из научно-фантастического фильма. Однако еще Томас Гоббс писал, что рассуждение есть не что иное, как форма исчисления[24]. Представление о том, что разумность может достигаться путем вычисления, было зафиксировано в XX в. в трудах Алана Тьюринга. Именно он ввел в мировое обсуждение идею о том, что машины могут выполнять простейшие вычислительные функции и, таким образом, быть разумными. И если посмотреть на работу последних лет ученых в данной области, то можно без труда заметить, что все их силы направлены на то, чтобы сделать юнитов искусственного интеллекта более разумными. Примечательно, что Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского парламента подчеркнула необходимость создания такого особого правового статуса ("электронных лиц") в долгосрочной перспективе. По словам О.А. Ястребова, теоретическое исследование данной проблематики является приоритетным для правовой науки[25].

Представляется, что на данном этапе развития общество все же не готово к появлению новой "формы жизни", и для того, чтобы второй сценарий был претворен в жизнь, должно пройти не одно десятилетие. В нынешних условиях, безусловно, ответственность должна ложиться на человека, а не на робота. Вместе с тем, по меткому замечанию П.М. Морхата, превентивное урегулирование данных вопросов было бы разумным и обоснованным уже сегодня[26].

Все это позволяет, с другой стороны, посмотреть на проблему принятия законов о роботах. На повестке дня стоит вопрос правового регулирования того, что уже можно встретить на улицах городов — от дронов и машин с автопилотом до роботов-хирургов. И еще более важно, что принятие такого закона должно быть всесторонне проанализировано, а в основу ставятся также вопросы этики и общественной морали, а не только удобство юридической техники. Ведь без всестороннего взаимодействия создателей роботизированной техники и искусственного интеллекта, программистов, социологов, психологов и, безусловно, юристов будет невозможно предложить взвешенное разрешение данной проблемы.

Литература

1. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография / П.М. Морхат. М.: Ин-т государственно-конфессиональных отношений и права, 2017. 257 с.

2. Незнамов А.В. Стратегия регулирования робототехники и киберфизических систем / А.В. Незнамов, В.Б. Наумов // Закон. 2018. N 2. С. 69 — 89.

3. Что мы думаем о машинах, которые думают: ведущие мировые ученые об искусственном интеллекте / Дж. Брокман; пер. с англ. М.: Альпина нон-фикшн, 2017. 549 с.

4. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы / О.А. Ястребов // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: Материалы XII Ежегодных научных чтений памяти С.Н. Братуся / Ред. сов. А.В. Габов [и др.]. М.: Статут, 2017. 434 с.

5. Calo R. Robot Law/R. Calo, A.M. Froomkin, I. Kerr. Edward Elgar Pub, 2016. 424 p.

6. Vanderbilt T. Let the Robot Drive: The Autonomous Car of the Future is here / T. Vanderbilt. 2012.

Рекомендуется Вам: