Искусственный интеллект: анализ с точки зрения классической теории правосубъектности

Автор: Дурнева П.Н.

Развитие информационных технологий достигло такого уровня, что, помимо технических, перед нами ставятся философские, моральные и правовые вопросы, выходящие за пределы привычного восприятия компьютерной техники и программного обеспечения. Интенсивность развития открытий в сфере кибернетики превышает возможности общества осмыслить и адаптировать под свершившиеся открытия систему ценностей и правовые системы. В частности, технологии искусственного интеллекта включают в том числе технологии "устойчивых нейронных сетей и инфраструктур облачных вычислений, нечетких систем, энтропийного управления, роевого интеллекта, эволюционных вычислений" и другие[1]. Как видим, к компьютерным технологиям применяются понятия, всегда относившиеся к живым существам, и к человеку в первую очередь.

Соответственно, первый (и весьма серьезный) вопрос при исследовании искусственного интеллекта, который возникает: а что же такое искусственный интеллект (далее по тексту — ИИ, робот, робототехника)? В целях нашего исследования выделим признаки ИИ, основываясь на определении ИИ, данном И.В. Понкиным и А.И. Редькиной: а) представляет собой сложную искусственную компьютерно-программно-аппаратную систему; б) в целом автономен и направлен на самосовершенствование; в) способен воспринимать разного рода информацию, обрабатывать, принимать собственные решения и сообразно менять что-то вовне, в том числе осваивать собственный опыт и меняться с его учетом; г) способен самореферентно, автономно и глубинно самообучаться; д) способен коммуницировать внутри себя и с другими искусственными интеллектами; е) выполняет относимые к прерогативе человека когнитивные (в том числе познавательно-аналитические и творческие, а также связанные с самоосознанием) функции[2].

В качестве одного из вариантов решения обозначенных ранее проблем предложена концепция "электронного лица", нашедшая отражение как в официальных документах[3], так и в работах отечественных ученых-цивилистов[4].

Так, в Резолюции Европейского парламента от 16 февраля 2017 г. с рекомендациями Комиссии по гражданскому праву "Правила робототехники" (2015/2103(INL)) отмечается, что чем больше автономия роботов, тем меньше их можно считать простыми инструментами в руках других участников (таких как производитель, оператор, владелец, пользователь и т.д.). Указывая на необходимость решать вопрос ответственности за вред, причиненный роботами, документ отмечает, что в соответствии с действующей правовой базой роботы не могут быть привлечены к ответственности как таковые за действия или бездействие, которые наносят ущерб третьим лицам. Из содержания данных положений очевидно, что Европарламент допускает как вариант наделение ИИ правосубъектностью. Непосредственно в Резолюции к возможности такой перспективы отнеслись довольно осторожно, в то время как в проекте от 31 мая 2016 г. предложены возможные варианты разрешения вопроса о правовой "природе ИИ: рассматривать как физических лиц, юридические лица, животных или объекты или следует создать новую категорию, с ее собственными особенностями и последствиями в отношении присвоения прав и обязанностей, включая ответственность за ущерб"[5].

Таким образом, в Проекте изложены основные концепции направления правового регулирования отношений, в которых применяются роботы, наделенные искусственным интеллектом.

Рассмотрим возможности признания ИИ субъектом гражданских правоотношений с точки зрения классической теории правосубъектности.

Для признания участником юридического отношения лицо должно обладать правосубъектностью[6], которая, в свою очередь, включает правоспособность, дееспособность и деликтоспособность. В гражданском праве выделяется три вида субъектов: физические лица, юридические лица и публично-правовые образования, и их правосубъектность различна. Так, физические лица обладают равной гражданской правоспособностью с рождения, правоспособность юридических лиц и публично-правовых образований — целевая. Правоспособность традиционно рассматривается как возможность приобретать и осуществлять субъективные права. Как указывает Л.А. Чеговадзе, определяющее значение здесь "имеют индивидуальные потребности субъекта, определяющие основные компоненты социально-психологической регуляции его поведения: интерес, цели, мотивы, волю, социально-правовые установки"[7]. При этом одним из основных начал гражданского законодательства является принцип действия своей волей и в своем интересе (п. 2 ст. 1 ГК РФ). Однако законодатель не раскрывает ни понятие "воля", ни понятие "интерес".

Воля является не только юридической, но и психологической и философской категорией, понимается в рамках этих наук как "способность человека принимать решения на основе мыслительного процесса и направлять свои мысли и действия в соответствии с принятым решением"[8], "феномен регуляции субъектом своей деятельности и поведения; отвечает за создание (формирование) целей и концентрацию внутренних усилий на их достижение"[9]. При этом воля рассматривается как процесс, деятельность, указывающие на активность субъекта, и противопоставляется импульсивной, неосмысленной реакции. Действия людей — физических лиц всегда в психологическом смысле являются волевыми.

Можно ли признать волевой компонент как мыслительный и осознанный процесс в функционировании ИИ? В начале статьи мы выяснили, что одной из основных юридически значимых его характеристик мы обозначили автономность, вплоть до свойства принимать самостоятельные решения и, опираясь на результат таких решений, самообучаться и в аналогичных ситуациях применять различный алгоритм действий. Однако решение этого вопроса выходит за пределы гражданского права и требует серьезного философского исследования мышления, осознанности[10]. И.В. Понкин и А.И. Редькина также указывают на затруднительность определения уровня осознанности ИИ ввиду отсутствия определенного понимания такого явления, как сознание[11]. Авторы говорят о значимости такой категории, как "самосознание", для решения о правосубъектности ИИ и отрицают возможность такой его характеристики. Однако, как указывают сами авторы далее, искусственный интеллект создает "беспрецедентно много неопределенностей"[12], связанных с прогнозированием развития этой технологии и возможными рисками. Кроме того, у нас отсутствуют какие-либо релевантные признаки самосознания, которые позволили бы определить его наличие и уровень у ИИ.

Поэтому волевой компонент в функционировании ИИ мы можем оценить по формальным признакам. Подробный разбор проведен В.В. Архиповым и В.Б. Наумовым, и мы соглашаемся с их выводом, что в своем внешнем проявлении функционирование ИИ "совпадает с процессом формирования гражданско-правовой воли у человека" и может быть признано волевым. В свою очередь, воля рассматривается в двух аспектах: внутреннем и внешнем, где внутренний представляет собой некий психологический процесс[13], протекающий, соответственно, в психике. И тут мы снова сталкиваемся с необходимостью исследований ИИ за рамками предмета гражданского права и права в целом. Однако признание наличия психологических процессов у феномена (объекта), не имеющего биологического происхождения, представляется недопустимым, по крайней мере, сейчас.

Но имеет ли значение воля как внутренний психический процесс, если мы не имеем возможности достоверно оценить течение и результат этого процесса, а сталкиваемся в реальности с внешним проявлением воли — волеизъявлением? Часть ученых-цивилистов указывают на отсутствие правового значения воли как психического феномена, поскольку последний становится частью правовой действительности через внешнее ее выражение[14]. Такая точка зрения вызывает существенные возражения. Так, несоответствие действий лица (волеизъявления) его действительной воле, а соответственно, и интересу, лежащему в его основе (о чем мы скажем далее), является нарушением принципа гражданского права, закрепленного в п. 2 ст. 1 ГК РФ. Кроме того, закон прямо закрепляет такое несоответствие в качестве основания признания недействительной сделки, совершенной под влиянием существенного заблуждения (ст. 178 ГК РФ), а также обмана, насилия или угрозы (ст. 179 ГК РФ). Следовательно, воля как внутренний процесс имеет существенное юридическое значение и является неотъемлемой частью дееспособности, т.е. способности своими действиями приобретать и осуществлять права и исполнять обязанности.

Что касается категории "интерес", употребляемой в ст. 1 ГК РФ, не вдаваясь в длительное его изучение, констатируем, что в данном случае речь идет о законном интересе как психологическом феномене, не противоречащем закону и принципам права и принадлежащем субъекту[15]. Юридический интерес с точки зрения теории гражданского права является целью и предпосылкой субъективного права[16], необходимым структурирующим элементом гражданского правоотношения, в зависимости от которого "возникают и организуются гражданские права и обязанности"[17], и в отличие от иных психологических феноменов (например, желаний) содержит в себе целевой элемент. Обладает ли искусственный интеллект самостоятельным интересом? Безусловно, нет. Искусственный интеллект является, по сути, программой для ЭВМ, соединенной или размещенной в компьютере или ином аппаратном механизме, созданной человеком с определенной целью удовлетворения определенных потребностей человека. Соответственно, правовой защите будут подлежать именно интересы лица, приобретающего и/или использующего искусственный интеллект.

Учитывая непредсказуемость и многовариантность развития интеллектуальных программных систем, предположим, что искусственный интеллект обретет такую степень автономности, при которой будет иметь собственный интерес. Можем ли мы гарантировать, что этот интерес не будет противоречить интересам людей и человечества в целом? Является ли такое развитие событий безопасным? Скорее нет. В уже упомянутой нами Резолюции Европарламента в качестве предостережения закреплено, что исследовательская деятельность в области робототехники (включая искусственный интеллект) должна "проводиться в соответствии с принципом предосторожности, с учетом возможных последствий для безопасности и принятия надлежащих мер предосторожности, пропорциональных уровню защиты, при одновременном поощрении прогресса на благо общества и окружающей среды". В Резолюции также в качестве основополагающих принципов для разработчиков, производителей и операторов роботов, в том числе роботов, которым назначены встроенная автономия и самообучение, закреплены законы Айзека Азимова, сформулированные писателем-фантастом еще в 1942 г.[18]

Однако вернемся к исследованию правосубъектности ИИ. Неотъемлемым элементом правосубъектности является деликтоспособность как способность нести ответственность за правонарушения. "Гражданско-правовая ответственность — это обеспеченное государственным принуждением возложение предусмотренных законом или договором лишений имущественного характера на лицо, совершившее неправомерное действие"[19]. Как и любая юридическая ответственность, правонарушение всегда предполагает наличие вины как его субъективной стороны. Как указывают Д.А. Пашенцев и В.В. Гарамита, "вина представляет собой сознательное и осознанное психическое отношение правонарушителя к своему противоправному поведению и его результату, проявляющееся в пренебрежении или безразличии к интересам государства и общества и, соответственно, в выборе противоправного, антисоциального варианта поведения. Помимо этого, составляющей вины выступает отношение самого общества к правонарушителю и его поведению, однако приоритет при характеристике вины отдается первому признаку"[20]. Данный подход в целом соответствует тому пониманию вины, которое имеется в науке гражданского права. Очевидно, определение виновности субъекта неизбежно связано с категориями осознанности и психического отношения. Как было указано ранее, первое не представляется возможным достоверно установить ввиду отсутствия необходимых инструментов, а второе вследствие отсутствия психики у ИИ нами отрицается.

Таким образом, очевидна несостоятельность предложения признания за искусственным интеллектом правосубъектности, аналогичной правосубъектности физического лица, и, несмотря на использование принципов работы человеческого мозга для построения системы ИИ, принципы правового регулирования статуса физического лица не могут быть применены к ИИ.

Однако однозначно можно говорить о необходимости сработать на опережение, нормативно закрепить обязанность разработчиков и других уполномоченных лиц предпринимать все необходимые меры, обеспечивающие в процессе функционирования ИИ интересы человека, и разработать систему норм, обеспечивающих исполнение этой обязанности.

Литература

1. Архипов В.В. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике / В.В. Архипов, В.Б. Наумов // Труды СПИИРАН. 2017. Вып. 55. С. 46 — 62.

2. Архипов В.В. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности / В.В. Архипов, В.Б. Наумов // Закон. 2017. N 5. С. 157 — 170.

3. Братусь С.Н. Субъекты гражданского права / С.Н. Братусь. Москва: Юридическая литература, 1950. 367 с.

4. Гамбаров Ю.С. Гражданское право. Общая часть / Ю.С. Гамбаров; Под редакцией В.А. Томсинова. Москва: Зерцало, 2003. 816 с.

5. Гражданское право: Учебник. В 2 томах. Т 1 / С.С. Алексеев, О.Г. Алексеева, К.П. Беляев [и др.]; Под редакцией Б.М. Гонгало. 3-е изд., перераб. и доп. Москва: Статут, 2018. 528 с.

6. Гурко А. Искусственный интеллект и авторское право: взгляд в будущее / А. Гурко // ИС. Авторское право и смежные права. 2017. N 12. С. 7 — 18.

7. Ирискина Е.Н. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений / Е.Н. Ирискина, К.О. Беляков // Гуманитарная информатика. 2016. N 10. С. 63 — 72.

8. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: Диссертация доктора юридических наук / П.М. Морхат. Москва, 2018. 420 с.

9. Пашенцев Д.А. Вина в гражданском праве: Монография / Д.А. Пашенцев, В.В. Гарамита. Москва: ЮРКОМПАНИ, 2010. 143 с.

10. Понкин И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. N 1. С. 91 — 109.

11. Рыженков А.Я. Действие своей волей и в своем интересе как принцип гражданского законодательства / А.Я. Рыженков // Юрист. 2014. N 16. С. 16 — 21.

12. Сесицкий Е.П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: Диссертация кандидата юридических наук / Е.П. Сесицкий. Москва, 2018. 218 с.

13. Чеговадзе Л.А. Структура и состояние гражданского правоотношения / Л.А. Чеговадзе. Москва: Статут, 2004. 542 с.

14. Юрченко О.О. Право на защиту и способы защиты охраняемого законом интереса в гражданском праве: Диссертация кандидата юридических наук / О.О. Юрченко. Тверь, 2004. 156 с.

Рекомендуется Вам: