ЮрФак: изучение права онлайн

Правовое регулирование искусственного интеллекта: учебное пособие

Автор: Филипова И.А.

Библиографическое описание: Правовое регулирование искусственного интеллекта: учебное пособие –Нижний Новгород: Нижегородский госуниверситет, 2020. – 90 с.

Национальный исследовательский Нижегородский государственный университет имени Н.И. Лобачевского

Рекомендовано методической комиссией юридического факультета для студентов ННГУ, обучающихся по направлению 40.04.01 «Юриспруденция»

Учебное пособие включает лекционные материалы, планы семинарских занятий и вопросы к зачету по темам, связанным с влиянием искусственного интеллекта на право и осуществлением правового регулирования в отношении искусственного интеллекта. При подготовке учебного пособия использованы как работы иностранных, так и российских исследователей-правоведов, экономистов и специалистов в области Computer Science. В тексте пособия представлены не только положения, не вызывающие разногласий у исследователей, но и взгляды различных авторов по проблемам, поиск решения которых еще идет, с указанием на наличие дискуссии по этим вопросам.

Учебное пособие предназначено для магистрантов юридических факультетов вузов.

Ответственный за выпуск: председатель методической комиссии юридического факультета ННГУ, к.ю.н., доцент Н.Е. Сосипатрова

© Филипова И.А., 2020

© Нижегородский государственный университет им. Н.И. Лобачевского, 2020

Содержание

Введение

Раздел I. Курс лекций

Тема 1. Искусственный интеллект: понятие, значение, виды

Тема 2. История развития, современное состояние и перспективы искусственного интеллекта

Тема 3. Развитие правового регулирования искусственного интеллекта

Тема 4. Международное регулирование искусственного интеллекта

Тема 5. Основы национального регулирования искусственного интеллекта

Тема 6. Искусственный интеллект и публичное право

Тема 7. Искусственный интеллект и частное право

Раздел II. Планы семинарских занятий

Тема 1. Искусственный интеллект: понятие, значение, виды

Тема 2. История развития, современное состояние и перспективы искусственного интеллекта

Тема 3. Развитие правового регулирования искусственного интеллекта

Тема 4. Международное регулирование искусственного интеллекта

Тема 5. Основы национального регулирования искусственного интеллекта

Тема 6. Искусственный интеллект и публичное право

Тема 7. Искусственный интеллект и частное право

Примерный перечень вопросов к зачету

Список использованной литературы


Вы можете скачать PDF версию «Правовое регулирование искусственного интеллекта: учебное пособие», автор Филипова И.А.: ссылка на скачивание.


Введение

Искусственный интеллект выступает важнейшим элементом начавшейся Четвертой промышленной революции. Его быстрое развитие и расширяющееся использование на практике требует «включения» данного явления в сферу правового регулирования.

Регулирование вопросов, связанных с развитием и использованием искусственного интеллекта, является сложной задачей, эксперты придерживаются различных взглядов на то, какие области и виды деятельности следует урегулировать, а предлагаемые подходы к нормативному регулированию существенно отличаются в разных странах мира.

Учитывая растущую важность технологий искусственного интеллекта, правовое регулирование вопросов, с этими технологиями связанных, в течение следующих лет будет на повестке дня на международном уровне. Для формирования блока правового регулирования в отношении искусственного интеллекта имеет значение выработка согласованной позиции между правительствами разных стран, для чего необходимо осмысление потребностей в создании такого регулирования. Это стимулирует теоретические исследования по данной теме и создание учебных курсов соответствующей направленности.

Вопрос правового регулирования искусственного интеллекта и проблемы, из этого вытекающие, уже изучаются студентами ведущих университетов мира, к примеру, в программе Стенфордского университета присутствует интерактивный курс «Регулирование искусственного интеллекта» (Regulating Artificial Intelligence), предназначенный, как указывают авторы курса, для  «углубления понимания будущими юристами текущих и среднесрочных проблем в этой области»[1]. В рамках курса рассматриваются вероятные направления развития искусственного интеллекта, разработки с использованием существующих версий искусственного интеллекта, различные типы юридически значимых проблем и основные концепции регулирования искусственного интеллекта.

Настоящее учебное пособие подготовлено для помощи студентам-магистрам, обучающимся на юридическом факультете Университета Лобачевского, в освоении нового учебного курса «Правовое регулирование искусственного интеллекта». Помимо данного пособия в системе e-learning unn.ru создан электронный курс с одноименным названием, в котором наряду с лекциями размещены практические задания – тесты и задачи – по всем темам курса. Для более глубокого изучения каждой темы студентам рекомендуется параллельно работать, знакомясь с материалами настоящего учебного пособия и проходя электронный курс в системе e-learning unn.ru.

Раздел I. Курс лекций

Тема 1. Искусственный интеллект: понятие, значение, виды

Понятие искусственного интеллекта. Интеллект – это свойство психики, представляющее собой умение правильно интерпретировать внешние данные, адаптируясь к новым ситуациям, способность обучаться, получая опыт, а также воспринимать и применять абстрактные знания, взаимодействуя с окружающей средой. Это обеспечивает возможность создавать что-то новое, помимо уже имеющегося, то есть реализовывать творческую (креативную) функцию.

Искусственный интеллект – это способность интеллектуальных систем выполнять творческие функции, обычно присущие человеку. В литературе термин «искусственный интеллект» нередко сокращается до аббревиатуры ИИ или на английском языке – AI (сокращение от Artificial Intelligence).

Искусственным интеллектом обладают интеллектуальные системы – технические и программные комплексы, способные решать творческие задачи, принадлежащие к конкретной предметной области, знания о которой хранятся в памяти данной интеллектуальной системы. Основными составляющими интеллектуальных систем являются:

– база знаний (программные средства, позволяющие искать, хранить и преобразовывать информацию);

– решатель задач (блок, способный находить решения задач благодаря встроенной в него общей стратегии нахождения решения, к примеру, путем поиска альтернатив или логического вывода);

– интеллектуальный интерфейс для общения с человеком.

Технологии искусственного интеллекта – это научно-техническое направление, в рамках которого ставятся и решаются задачи по аппаратному и программному моделированию видов человеческой деятельности, которые относятся к интеллектуальным[2]. Научные исследования искусственного интеллекта проводятся специалистами в области Computer Science – раздела науки междисциплинарного характера, объединяющего в себе элементы различных областей знаний от электромеханики до математики, включающего вопросы теории алгоритмов, языков программирования, построения компьютерных сетей и т.д. Термин Computer Science нередко используется без перевода и российскими исследователями, наиболее близкими к нему по значению терминами в русском языке являются «информатика» и «информационные технологии».  

Таким образом, целью данного научно-технического направления является разработка и внедрение интеллектуальных компьютерных систем, обладающих возможностями, традиционно связываемыми с человеческим разумом: понимание языка, обучение, способность рассуждать, решать проблемы и т.д.[3] Если компьютер демонстрирует когнитивные способности, присущие людям, то это и называется искусственным интеллектом.

Технологии искусственного интеллекта формируют комплекс технологических решений, позволяющих имитировать когнитивные функции человека (в том числе, самообучение и поиск решений при отсутствии заранее заданного алгоритма) и при выполнении задач достигать результатов, как минимум сопоставимых с результатами интеллектуальной деятельности человека, а как максимум значительно превосходящих человеческие возможности.

Комплекс технологических решений включает информационно-коммуникационную инфраструктуру и программное обеспечение, в котором в том числе используются методы машинного обучения, процессы и сервисы по обработке данных и выработке решений[4].

В группу технологий искусственного интеллекта включаются: технологии обработки текстов на естественном языке, распознавания и синтеза речи, компьютерного зрения, разработки интеллектуальных систем поддержки принятия решений и т.д.

Технологические решения в области компьютерного зрения позволяют находить, отслеживать и классифицировать объекты, синтезировать видео- и фотоизображения. Обработка естественного языка направлена на понимание языка и генерацию осмысленного текста, создание возможностей для общения на естественном языке при взаимодействии человека и компьютера. Технологии распознавания и синтеза речи дают возможность сделать перевод речевого запроса в текстовый вид, произвести анализ тембра и тональности голоса, распознать эмоций и синтезировать речь, что может быть использовано, например, для проверки подлинности личности говорящего, поиска скрытого содержания речи при коммуникации. Рекомендательные системы и интеллектуальные системы поддержки принятия решений обеспечивают выполнение процессов без участия человека, поддержку в выборе решений, а также предсказание объектов, которые будут интересны пользователю, поэтому в этот блок могут быть включены также технологии Big Data по обработке данных с использованием Machine Learning и по осуществлению предиктивной аналитики.

Искусственный интеллект как часть «сквозных» технологий. «Сквозные» технологии – это ключевые научно-технические направления, оказывающие наиболее сильное влияние на развитие современной экономики, проникая во все или многие ее отрасли. Среди таких технологий:

– нейротехнологии и искусственный интеллект;

– компоненты робототехники и сенсорика;

– технологии виртуальной и дополненной реальности;

– квантовые технологии;

– технологии беспроводной связи;

– системы распределенного реестра;

– новые производственные технологии.

Указанный перечень вытекает из Федерального проекта «Цифровые технологии», в рамках которого разработаны дорожные карты по развитию «сквозных» цифровых технологий. Данный проект является одним из шести федеральных проектов, реализуемых в России для достижения целей национальной программы «Цифровая экономика Российской Федерации». В дорожных картах развития «сквозных» цифровых технологий перечисляются инструменты поддержки развития соответствующих технологий (групп технологий) на государственном уровне, в том числе путем внесения необходимых поправок в законодательство.

В качестве «сквозных» технологий помимо перечисленных выше могут быть названы также технологии Big Data и «интернета вещей» (Internet of Things)[5].

Развитие «сквозных» технологий, их внедрение в производство и сферу услуг стимулируется практически всеми государствами, так как это позволит повысить уровень технологического развития страны и конкурентоспособность национальной экономики по отношению к другим странам. Подобные технологии обеспечивают основы цифровой трансформации общества, интегрируясь во все аспекты деятельности и требуя масштабных изменений производственной культуры, меняя сами принципы создания продуктов и предоставления услуг. Еще в конце XX века подобные технологии получили наименование «подрывных» (Disruptive Technologies или Disruptive innovations). Впервые термин «подрывные инновации» был использован в книге «Дилемма инноватора: когда новые технологии приводят к краху великих фирм» американским исследователем Клейтоном Кристенсеном[6], описавшим модель воздействия новых технологий на функционирование компании, ведущую к потере лидерами своих позиций на рынке, когда их продукты становятся неконкурентоспособными, так как сложившиеся ранее параметры конкуренции утрачивают значение.

Исходя из наименования ряда цифровых технологий «сквозными» понятно, что они развиваются не изолированно. К примеру, технологии искусственного интеллекта находятся в тесной связке с робототехническими технологиями, продуктом которых может быть не просто программный робот, создаваемый для выполнения определенной четко запрограммированной последовательности действий в рамках какого-либо процесса, а «умный» робот, наделенный искусственным интеллектом. Возможности систем искусственного интеллекта и технологий промышленного «интернета вещей» позволяют создавать «умные» производства – Smart Manufacturing – которые могут функционировать практически без вмешательства человека, так как включают интеллектуальные системы управления технологическими процессами и объединяют в единую структуру системы управления организаций любого профиля. В свою очередь, созданию «умных» производств способствует развитие технологий беспроводной связи, а развитие квантовых технологий способно вывести на новый уровень обработку больших объемов информации и ускорить алгоритмы машинного обучения (Machine Learning), применяемые для развития искусственного интеллекта.

Область применения искусственного интеллекта. Искусственный интеллект можно использовать практически во всех сферах деятельности для создания и реализации новых возможностей человека. Применение искусственного интеллекта может осуществляться с целью освобождения человека от монотонной работы путем автоматического создания программного обеспечения, для автоматизации опасных видов работ, поддержки в принятии решений и поддержания коммуникаций между людьми.

Использование искусственного интеллекта способно повысить благосостояние общества и качество жизни людей. По преобразующему воздействию на общество искусственный интеллект сравнивают с электричеством, которое в свое время полностью изменило производство, выведя экономику на принципиально новый уровень развития, и поменяло технологический уклад в мире. Внедрение искусственного интеллекта в промышленность ускорит цифровизацию экономики, стимулируя развитие информационной-телекоммуникационной инфраструктуры на территории страны и повысит долю отечественного программного обеспечения на внутреннем и внешнем рынках.

Технологии искусственного интеллекта используются практически во всех отраслях промышленности, как добывающей, так и обрабатывающей. Среди отраслей, в которых внедряются продукты данной «сквозной» технологии и выстраиваются процессы с участием систем искусственного интеллекта, можно назвать космическую промышленность, металлургию, топливную промышленность, химическую промышленность, машиностроение и металлообработку, деревообрабатывающую промышленность, легкую и пищевую промышленность, электроэнергетику и т.д.

В электроэнергетике искусственный интеллект используется при проектировании и оценке надежности оборудования, для прогнозирования спроса на энергоресурсы, автоматизации обслуживания клиентов, оптимизации профилактического обслуживания оборудования, повышения эффективности генерации, снижения потерь, предотвращения краж энергоресурсов.

В иных отраслях промышленности искусственный интеллект также применяется для прогнозирования эффективности разрабатываемых продуктов, автоматизации сборочных линий, снижения количества брака, улучшения логистики, повышения уровня безопасности производственных процессов за счет применения автономного оборудования, предотвращения простоев.

В сельском хозяйстве с помощью искусственного интеллекта может достигаться повышение эффективности процессов селекции и урожайности, снижение затрат на ремонт за счет прогнозирования поломок техники.

В транспорте – через использование беспилотных транспортных средств, оптимизацию маршрутов с учетом прогнозирования транспортных потоков, обеспечение безопасности вождения за счет предупреждения опасных ситуаций, и прогнозирования неисправностей.

В торговле – для снижения воздействия человеческого фактора, прогнозирования спроса и поведенческой модели покупателя, роботизации складов, автоматизированной доставки товаров покупателю.

В банковской сфере – для оценки кредитоспособности заемщиков, разработки новых банковских продуктов, создания чат-ботов, в том числе голосовых систем обработки запросов клиентов, повышения безопасности операций.

В медицине технологии искусственного интеллекта позволяют усовершенствовать диагностику, разработку новых лекарственных средств, проводить хирургические операции с использованием робототехники, сокращать продолжительность лечения благодаря точному использованию инструментов в зависимости от данных пациента.

В сфере образования – в качестве приложений-репетиторов, для создания индивидуальных уроков, автоматизированной оценки знаний, анализа поведения обучающихся и профессиональных навыков учителей.

В сфере обороны – для разработки боевых роботов и программ, способных участвовать в кибервойнах.

Смежными областями использования искусственного интеллекта выступают все технологии и технологические решения, в которых искусственный интеллект используется в качестве обязательного элемента, включая робототехнику и управление беспилотными транспортными средствами.

Виды искусственного интеллекта. Можно выделить три вида искусственного интеллекта по степени усложнения:

1) ограниченный или узкий (слабый) искусственный интеллект (Artificial Narrow Intelligence), созданный для решения конкретной задачи или относительно небольшого круга задач;

2) общий или сильный искусственный интеллект (Artificial General Intelligence), являющийся универсальным, он находится на одном уровне с человеческим интеллектом и способен решать широкий круг задач;

3) искусственный сверхинтеллект (Artificial Superintelligence), превосходящий уровень отдельного человека или всего человечества.

Нередко в литературе встречается также деление искусственного интеллекта на четыре типа:

1) реактивные (реагирующие) системы;

2) системы с ограниченной памятью;

3) разумные системы;

4) системы с искусственным самосознанием, способные формировать представление о себе.

В таком случае первые два типа относятся к ограниченному (слабому) интеллекту, к настоящему времени созданы и функционируют лишь подобные системы, появление искусственного интеллекта третьего типа будет знаменовать «усиление» по пути к появлению общего искусственного интеллекта.

Слабый искусственный интеллект может выполнять такие функции как интеллектуальный анализ данных для выбора оптимального варианта решения, но не обладает человеческими чувствами и сознанием, функционируя только в заранее заданном диапазоне. Тем не менее, такие системы искусственного интеллекта способны обрабатывать данные и выполнять задачи значительно быстрее человека, поэтому их использование дает возможность повысить общую производительность и качество жизни.

Реактивная система – простейший тип искусственного интеллекта –воспринимает обстановку и предлагает ответную реакцию, не выходя за рамки этой ситуации, не формируя память, то есть не опираясь на прошлый опыт, чтобы выдать решение. Примером подобного искусственного интеллекта является компьютер для игры в шахматы (Deep Blue), который не может оценивать возможные будущие ходы.

Следующей ступенью эволюции является искусственный интеллект с ограниченной памятью, который учитывает накопленную информацию и дополняет ею запрограммированное ранее видение мира. Созданные к настоящему моменту беспилотные автомобили и чат-боты можно отнести к этому подвиду.

Сильный искусственный интеллект пока не создан, примеры таких систем можно увидеть лишь в кинофильмах, содержащих сцены взаимодействия людей с машинами, обладающими чувствами и сознанием. Человеческий интеллект позволяет мыслить абстрактно, продумывать стратегию, выдвигать творческие идеи, работу этих когнитивных механизмов сложно понять и, соответственно, воспроизвести. Именно этого и не хватает для создания сильного интеллекта. Сильный искусственный интеллект должен обладать сознанием, выносить суждения в условиях неопределенности, интегрировать полученные знания в процесс принятия решений и предлагать новаторские идеи.

Искусственный сверхинтеллект, который будет превосходить человеческий во всех аспектах, вызывает, с одной стороны, интерес из-за выхода на принципиально новый уровень технического развития, с другой стороны, опасения у многих исследователей, видящих в нем угрозу для человечества.

Формы искусственного интеллекта. Искусственным интеллектом может обладать система, демонстрирующая разумное поведение при анализе обстановки и выполнении с определенной степенью автономии действий по достижению конкретных целей.

Возможно наличие искусственного интеллекта в различных формах:

– в виртуальных системах, предназначенных для программного обеспечения компьютеров (по сути – сложных компьютерных программах: голосовых помощниках, программном обеспечении для анализа изображений, поисковых системах, системах распознавания речи);

– в киберфизических системах (физических сущностях любого вида, включая биологические и рукотворные объекты: роботах, киборгах).

И те, и другие системы способны выполнять задачи в изменяющихся и непредсказуемых обстоятельствах без контроля со стороны человека, могут обучаться, совершенствуя свои показатели[7].

Эти системы воспринимают окружающую действительность через датчики (камеры, микрофоны, клавиатуру, датчики температуры, давления, расстояния, тактильные датчики и т.д.), подобным образом собирая и интерпретируя данные, причем данные могут быть как структурированные (упорядоченные на основе определенной модели), так и неструктурированные. Система искусственного интеллекта получает в качестве входных данных информацию, поступающую от датчиков, выбирает вариант решения и производит действия, которые необходимо выполнить для достижения заданной цели.

Робот – это киберфизическая система (искусственный интеллект, имеющий физическое воплощение), по сути – машина, которая демонстрирует возможности, позволяющие ей справляться с динамикой, неопределенностью и сложностью физического мира. Помимо технологий искусственного интеллекта при разработке и функционировании роботов используются и другие технологии (например, технологии машиностроения).

Программы не могут функционировать без оборудования, а роботы – без программного обеспечения, кроме того нередко системы искусственного интеллекта встраиваются в качестве компонентов в более крупные системы, например, при использовании технологии «интернета вещей», поэтому встречается общее обозначение для всех систем искусственного интеллекта – «программно-аппаратные комплексы».

Пути создания искусственного интеллекта. Сформировались два основных подхода к разработке систем искусственного интеллекта: восходящий и нисходящий.

Восходящий (биологический) подход ориентирован на изучение нейронных сетей и эволюционных вычислений, моделирующих интеллектуальное поведение на основе биологических элементов, на создание соответствующих вычислительных систем (нейрокомпьютер).

Сторонники этого подхода моделируют искусственным образом процессы, происходящие в человеческом мозге. Например, путем разработки элементов, подобных нейронам мозга, и объединения их в системы – нейронные сети.

Восходящий подход включает изучение нейрофизиологических и психологических механизмов интеллектуальной деятельности и разумного поведения человека, стремясь воспроизвести эти механизмы с помощью технических средств, с тем, чтобы «поведение» таких устройств совпадало с поведением человека в определенных, заранее заданных пределах.

Нейронная сеть – это математическая модель с ее программным (или аппаратным) воплощением, построенная по принципу организации и функционирования биологических нейронных сетей – сетей нервных клеток живого организма. В основе искусственных нейронных сетей лежат принципы, присущие биологическим нервным системам. Нейронные сети способны производить адаптивное взвешивание входящих сигналов и на основе анализа последовательно улучшать результаты их обработки. Системы представляют собой многослойные структуры, состоящие из искусственных «нейронов» – миниатюрных вычислительных систем, решающих, стоит ли передавать полученную информацию в следующий слой.

Настройка искусственных нейронных сетей на автоматическое решение задач может производиться разными способами машинного обучения (Machine Learning) на основе:

– обучения с учителем (Supervised Learning), подбирающим параметры программы, чтобы ожидаемые от нее предсказания как можно точнее совпадали с результатами обработки тренировочных данных;

– обучения с частичным наблюдением (Semi-Supervised Learning), когда система самостоятельно вырабатывает оптимальную модель, а учитель лишь корректирует направления оптимизации;

– обучения без учителя (Unsupervised Learning) как полностью автоматической выработки алгоритма на основе ранее проведенных тренировок и т.д.

Существует несколько видов нейронных сетей и подходов к машинному обучению. В последние годы значительное распространение получили алгоритмы машинного обучения для моделирования высокоуровневых абстракций с применением многочисленных нелинейных преобразований – глубокое обучение (Deep Learning), когда нейронная сеть имеет несколько «слоев» между входом и выходом. С методами обучения глубоких нейронных сетей можно ознакомиться в специальной литературе[8].

Второй подход – нисходящий (семиотический)[9] – основан на создании экспертных систем, баз знаний и систем логического вывода, имитирующих высокоуровневые психические процессы (речь, мышление и эмоции людей). Данный подход направлен не на построение технического аналога биологической системы, а на адекватное моделирование функционирования системы, то есть на создание средств решения задач, традиционно считающихся интеллектуальными. Подход заключается в моделировании систем искусственного интеллекта путем использования законов формальной логики, теории множеств, графов, семантических сетей и иных достижений науки в области дискретных вычислений[10] для создания экспертных систем, интеллектуальных поисковых систем и т.д.

 

Тема 2. История развития, современное состояние и перспективы искусственного интеллекта

Начало исследований в области искусственного интеллекта можно отнести к первой половине XX века. В течение 1910 – 1913 года Бертраном Расселом и Альфредом Нортом Уайтхедом были опубликованы три тома «Принципов математики» (Principia Mathematica) – работы, посвященной логике и философии математики. На страницах работы авторы стремились показать, что математика сводится к логике с помощью набора аксиом и ряда основных понятий. «Принципы математики» значительно продвинули развитие математической логики и показали, насколько универсальной может быть идея формальных систем. Данный труд оказал влияние на работы других исследователей, в числе которых можно назвать Алана Тьюринга, описавшего в 1936 году абстрактную вычислительную «Машину Тьюринга», которую можно считать моделью компьютера[11].

В 1938 году немецким инженером Конрадом Цузе была создана программируемая механическая цифровая модель компьютера. Первый компьютер, использовавший при работе только электронные компоненты, был разработан и создан в 1941 году при участии компании IBM. С появлением компьютеров – электронных вычислительных машин, обладавших высокой производительностью, возник вопрос: можно ли создать машину, интеллектуальные возможности которой будут тождественны интеллектуальным способностям человека или превосходить их?

В 1943 году американские исследователи Уоррен Маккалок и Уолтер Питтс опубликовали работу «Логическое исчисление идей, присущих нервной деятельности» (Logical Calculus of the Ideas Immanent in Nervous Activity), заложившую основы нейронных сетей. Этих авторов, а также Френка Розенблатта можно считать разработчиками первых систем искусственного интеллекта, появившихся к концу 1950-х годов и смоделировавших процесс взаимодействия глаза человека с мозгом.

Как видим, развитие искусственного интеллекта шло по двум основным направлениям – математическая логика и нейронные сети.

В 50-х годах XX века были созданы экспертные системы, описывающие алгоритм действий по выбору решения в зависимости от конкретных условий, несколько позднее появилось машинное обучение, благодаря чему информационные системы смогли самостоятельно формулировать правила и находить решения на основе анализа зависимостей с использованием исходных наборов данных и без предварительного составления человеком перечня возможных решений.

Сам термин «искусственный интеллект» впервые был употреблен американским информатиком Джоном Маккарти на научном семинаре по вопросам искусственного интеллекта в Дартмутском университете в 1956 году.

Этапы развития искусственного интеллекта. Историю развития исследований в области искусственного интеллекта и процесс совершенствования такого явления как искусственный интеллект проще понять, разбив на определенные этапы. Деление на этапы является в достаточной степени условным, одни исследователи выделяют большее количество относительно обособленных периодов, другие – меньшее, границы этих периодов иногда не совпадают, а наименования различны. В целях более глубокого изучения вопроса можно обратиться к трудам специалистов в области истории информатики и кибернетики. Рассмотрим в общих чертах основные этапы.

Первым (начальным) этапом развития систем искусственного интеллекта может быть признан период, описанный выше (50-е годы XX века), связанный с повышением уровня развития вычислительной техники. Появление ЭВМ создало необходимую аппаратную поддержку для развития информатики и кибернетики как наук. Если информатика – это наука о методах и процессах сбора, хранения, обработки, передачи, анализа и оценки информации с применением компьютерных технологий, то кибернетика – это наука об оптимальном управлении сложными динамическими системами. Кибернетика изучает общие принципы управления и связи, лежащие в основе работы систем, имеющих различную природу (естественную или технологическую).

В 60-е годы XX века к возможностям ЭВМ добавились механизмы поиска, сортировки, операции по обобщению информации, позволяющие автоматизировать определенную деятельность человека. Этот – второй – этап нередко называют «Золотой век искусственного интеллекта» (The Golden Years, 1956–1974), исследователи начинают высказывать предположения о появлении подобных человеку интеллектуальных машин менее чем через 20 лет.

 Следующий – третий этап (70-е годы) – связан с осознанием важности знаний, не носящих формального характера, к которым математические методы ранее не применялись, для синтеза алгоритмов по решению задач. К этим знаниям можно отнести информацию, с которой работали специалисты в различных областях деятельности (врачи, химики и т.д.) – люди, обладающие экспертными знаниями. На основе таких знаний были созданы экспертные системы. Встречающееся в литературе наименование данного этапа – «Первая зима искусственного интеллекта» (The First AI Winter, 1974–1980) – указывает на несбывшиеся завышенные ожидания и финансовые проблемы, последовавшие за этим, когда заинтересованность инвесторов сильно уменьшилась. Весьма ограниченная мощность компьютеров того времени (недостаточный объем памяти, сравнительно небольшая скорость обработки информации), комбинаторный взрыв (эффект резкого роста времени, требующегося системе для решения задачи при увеличении объема входных данных) и ряд иных причин помешали достичь планируемых результатов.

На четвертом этапе в 80-х годах XX века произошел скачок в развитии интеллектуальных технологий через распространение экспертных систем, предлагающих варианты решений, обосновывающих эти решения, способных к обучению и к общению с человеком на естественном языке. Это снова вызвало интерес к искусственному интеллекту (Boom, 1980–1987). Подъем в разработке экспертных систем, появление автоматизированных обрабатывающих центров, создаваемых из-за необходимости решения новых задач вследствие усложнения систем связи, когда потребовалось обеспечение информационной безопасности ресурсов, защиты от несанкционированного доступа, поиск и анализ информации в сетях вызвали вливание огромных инвестиций в разработку соответствующих программ и программно-аппаратных комплексов. С появлением средств для обучения многослойных нейронных сетей вернулся и интерес к нейронным сетям.

Пятый этап – вторая зима искусственного интеллекта (The Second AI Winter, 1987–1993), она была вызвана чрезмерным увлечением бизнес-сообщества искусственным интеллектом, что привело к очередному разочарованию в теме и к закономерному сокращению финансирования. Часть компаний, вложившихся в создание специализированного оборудования, разорилась. Экспертные системы оказались дорогими в обслуживании, в то время как мощности персональных компьютеров, производство которых велось компаниями Apple и IBM, поступательно повышались. Интерес к продуктам компаний-производителей экспертных систем для бизнеса упал. Некоторые исследователи с конца 80-х годов стали настаивать на новом подходе к искусственному интеллекту, основанному на робототехнике, обладающей «телом». Данные исследователи указывали на то, что для того, чтобы показать реальный интеллект, машине нужно иметь свое тело и, воспринимая информацию, перемещаться и контактировать с окружающим миром, для чего необходимы сенсомоторные навыки. Это возродило идеи кибернетики, не востребованные в течение нескольких предыдущих десятилетий.

Шестой этап приходится на 1993 – 2011 годы. Продолжающиеся исследования и разработки в области искусственного интеллекта начинают использоваться в различных сферах: суперкомпьютер Deep Blue выигрывает у человека в шахматах (1997 год), проводятся соревнования автономных автомобилей-роботов DARPA Grand Challenge (с 2004 года), происходит распространение «интеллектуальных агентов» (Intelligent Agents), расширяется использование робототехники на производстве и в быту.

Седьмой этап начался со второго десятилетия XXI века и продолжается в настоящее время. Он связан с начавшимся технологическим переходом – сменой одного технологического уклада на другой и вступлением общества в эпоху Четвертой промышленной революции, меняющей принципы производства, преобразующей производственные процессы, сферу услуг, основы коммуникации в обществе.

Современное состояние. Скорость развития технологий искусственного интеллекта и расширение сферы его применения на практике не позволяет дать точный ответ на вопрос о современном состоянии данной сферы в настоящем учебном пособии, рассчитанном на использование студентами-магистрами при изучении учебного курса в течение последующих нескольких лет. За это время ситуация будет продолжать меняться. Поэтому, здесь будут названы компании-лидеры в области разработок, связанных с искусственным интеллектом. Ознакомление с информацией о данных компаниях и их разработках поможет студентам составить представление о достигнутом уровне развития технологий на момент прочтения данного текста.

К компаниям-лидерам в области искусственного интеллекта относятся американские компании: Microsoft (разработка программного обеспечения), Google (разработка интернет-сервисов), Facebook, Automation Anywhere (платформы, автоматизирующие бизнес-процессы), IBM; китайские компании: Baidu (поисковые системы), DJI-Innovations (беспилотники), Sensetime и Megvii (распознавание лиц), iFlytek (интеллектуальные переводчики).

Среди российских компаний лидерами выступают «Яндекс», «Сбербанк», Mail.ru Group, Cognitive Technologies (разработчик программного обеспечения для беспилотного транспорта), «Айкумен» (анализ больших данных, выявление трендов), «Лаборатория Касперского», ABBYY (технологии распознавания текстов), ЦРТ (распознавание речи).

К примеру, среди продуктов компании Cognitive Technologies можно перечислить: Cognitive Pilot (система управления автономными транспортными средствами), Cognitive Lot (система автоматизации процедур формирования, размещения и исполнения процедур государственного, муниципального и коммерческого заказов), Cognitive Passport (программное обеспечение для распознавания удостоверяющих документов) и т.д. Компанией проводятся исследования и разработки по созданию  систем машинного зрения, искусственных нейронных сетей и другие проекты.

Тенденции развития. Основными тенденциями развития рынка искусственного интеллекта в настоящее время являются[12]:

1. Развитие роботизированных сервисов с помощью искусственного интеллекта с целью избавления от влияния «человеческого фактора» и освобождения человека от монотонной работы. Разработка автономных агентов, которым пользователь может делегировать выполнение определенной задачи или группы задач, в результате чего повысится производительность труда.

2. Расширение вычислительных и функциональных возможностей программных продуктов, увеличение вычислительных возможностей программно-аппаратных комплексов, в том числе в результате использования графических процессоров и распределенных архитектур вычислительных систем.

3. Новые методы машинного обучения, которые ускоряют разработку и реализацию решений в области искусственного интеллекта в условиях ограниченного количества данных. Доступность широкого применения машинного обучения на базе множества вычислительных систем, организованных по принципу нейронных сетей, привела к повышению качества технологических решений.

Рост рынка технологий искусственного интеллекта будет обеспечиваться технологиями машинного обучения и анализа данных. Внедрение систем «интернета вещей» ведет к резкому увеличению массивов данных, из которых можно извлекать полезную информацию.

4. Применение искусственного интеллекта практически во всех отраслях экономики и сферах общественных отношений. Этому способствуют:

– «сквозной» характер применения прикладных технологических решений, разработанных на основе искусственного интеллекта;

– высокая степень влияния таких решений на результативность деятельности организаций и человека, в том числе деятельности, связанной с принятием управленческих решений;

– повышающаяся доступность инструментов для разработки на основе искусственного интеллекта технологических решений.

Развитие технологий искусственного интеллекта сопровождается ростом государственных и частных инвестиций.

Национальная стратегия развития искусственного интеллекта. Согласно прогнозам долгосрочного социально-экономического развития России, в случае недостаточного развития и использования конкурентоспособных технологий искусственного интеллекта реализация приоритетных направлений научно-технологического развития страны замедлится, что впоследствии повлечет за собой ее экономическое и технологическое отставание от других стран.

Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена «Национальная стратегия развития искусственного интеллекта на период до 2030 года» (далее по тексту – Стратегия)[13].

Целями Стратегии являются:

– обеспечение ускоренного развития искусственного интеллекта для вхождения России в группу мировых лидеров глобального рынка искусственного интеллекта;

– создание возможностей для доминирования на рынке и получения долгосрочных конкурентных преимуществ;

– сохранение технологической независимости и конкурентоспособности страны.

Основные принципы развития и использования технологий искусственного интеллекта, соблюдение которых обязательно при реализации Стратегии (пункт 19):

1. Защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики.

2. Безопасность: недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта.

3. Прозрачность: объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта.

4. Технологический суверенитет: обеспечение необходимого уровня самостоятельности Российской Федерации в области искусственного интеллекта, в том числе посредством преимущественного использования отечественных технологий искусственного интеллекта и технологических решений, разработанных на основе искусственного интеллекта.

5. Целостность инновационного цикла: обеспечение тесного взаимодействия научных исследований и разработок в области искусственного интеллекта с реальным сектором экономики.

6. Разумная бережливость: осуществление и адаптация в приоритетном порядке существующих мер, направленных на реализацию государственной политики в научно-технической и других областях.

7. Поддержка конкуренции: развитие рыночных отношений и недопустимость действий, направленных на ограничение конкуренции между российскими организациями, осуществляющими деятельность в области искусственного интеллекта.

Согласно пунктам 21 – 22 Стратегии использование искусственного интеллекта в экономике носит «сквозной» характер и способствует повышению эффективности производства и формированию новых направлений деятельности, а в социальной сфере позволяет создать условия для повышения уровня жизни людей. Это достигается за счет:

– повышения эффективности процессов планирования, прогнозирования и принятия управленческих решений (включая прогнозирование отказов оборудования и его превентивное техническое обслуживание, оптимизацию планирования поставок, производственных процессов и принятия финансовых решений);

– автоматизации рутинных (повторяющихся) производственных операций;

– повышения безопасности сотрудников при выполнении бизнес-процессов (включая прогнозирование рисков и неблагоприятных событий, снижение уровня непосредственного участия человека в процессах, связанных с повышенным риском для его жизни и здоровья);

– оптимизации процессов подбора и обучения кадров, составления оптимального графика работы сотрудников с учетом различных факторов;

– повышения качества услуг в сфере здравоохранения (включая профилактические обследования, диагностику, основанную на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизацию и точность хирургических вмешательств);

– повышения качества услуг в сфере образования (включая адаптацию образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизацию оценки качества знаний и анализа информации о результатах обучения);

–  повышения качества предоставления государственных и муниципальных услуг, а также снижения затрат на их предоставление.

Согласно пункту 24 Стратегии основные задачи развития искусственного интеллекта:

1. Поддержка научных исследований в целях обеспечения опережающего развития искусственного интеллекта.

2. Разработка и развитие программного обеспечения, в котором используются технологии искусственного интеллекта.

3. Повышение доступности и качества данных, необходимых для развития технологий искусственного интеллекта.

4. Повышение доступности аппаратного обеспечения, необходимого для решения задач в области искусственного интеллекта.

5. Повышение уровня обеспечения российского рынка технологий искусственного интеллекта квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий.

6. Создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта.

Для выполнения указанных задач необходимо (пункт 25):

– создавать новые высокопроизводительные рабочие места, повышая уровень занятости населения;

– обеспечить конкурентоспособный уровень материального вознаграждения для специалистов в области искусственного интеллекта, создание благоприятных условий для их работы, в том числе дистанционной;

– обеспечить необходимые условия для привлечения, в том числе из иностранных государств, лучших специалистов в области искусственного интеллекта;

– поддерживать экспорт российских продуктов (услуг), созданных (оказываемых) с использованием искусственного интеллекта, и их продвижение на мировой рынок;

– создавать стимулы для привлечения частных инвестиций в развитие корпоративной науки, научных исследований и разработок в области искусственного интеллекта;

– формировать комплексную систему безопасности при создании, развитии, внедрении и использовании технологий искусственного интеллекта.

Согласно пунктам 29 и 30 Стратегии для развития российских технологий искусственного интеллекта необходимо обеспечить приоритетную поддержку соответствующих научных исследований, которые должны быть направлены на создание принципиально новых научных результатов, в том числе на создание универсального (сильного) искусственного интеллекта.

Для реализации Стратегии требуется создание нормативно-правовой базы, предусматривающей обеспечение защиты данных, полученных при осуществлении экономической и научной деятельности, в том числе их хранение преимущественно на территории Российской Федерации, а также установление приоритетного доступа российских государственных органов и организаций к таким данным (пункт 39).

К 2030 году объем опубликованных на общедоступных платформах наборов данных должен быть достаточным для решения всех актуальных задач в области искусственного интеллекта, в том числе за счет публикации звуковых, речевых, медицинских, метеорологических, промышленных данных и данных систем видеонаблюдения (пункт 41).

В соответствии с пунктами 48 – 51 Стратегии в России должна быть создана комплексная система регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта. Основными направлениями создания системы являются:

– обеспечение благоприятных правовых условий (в том числе посредством создания экспериментального правового режима) для доступа к данным, преимущественно обезличенным, включая данные, собираемые государственными органами и медицинскими организациями;

– обеспечение особых условий (режимов) для доступа к данным, включая персональные, в целях проведения научных исследований, создания технологий искусственного интеллекта и разработки технологических решений на их основе;

– создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирование информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства);

– устранение административных барьеров при экспорте продукции (работ, услуг) гражданского назначения, созданной на основе искусственного интеллекта;

– создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества Российской Федерации по вопросам стандартизации, обеспечение возможности сертификации продукции (работ, услуг), созданной на основе искусственного интеллекта;

– стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий искусственного интеллекта, а также предоставления целевой финансовой поддержки организациям, осуществляющим деятельность по развитию и внедрению технологий искусственного интеллекта (при условии, что внедрение таких технологий повлечет за собой существенные позитивные эффекты для отраслей экономики Российской Федерации);

– разработка этических правил взаимодействия человека с искусственным интеллектом.

К 2024 году должны быть созданы необходимые правовые условия для достижения целей, решения задач и реализации мер, предусмотренных Стратегией, а к 2030 году в России должна функционировать гибкая система нормативно-правового регулирования в области искусственного интеллекта, в том числе гарантирующая безопасность населения и направленная на стимулирование развития технологий искусственного интеллекта.

 

Тема 3. Развитие исследований в области правового регулирования искусственного интеллекта

Воздействие искусственного интеллекта на право. Правоведы начали обсуждать тему взаимовлияния права и искусственного интеллекта еще несколько десятилетий назад, ориентируясь на результаты научных исследований в области Computer Science о возможностях развития искусственного интеллекта. Дискуссии затрагивали в первую очередь применение достижений в области развития искусственного интеллекта к решению вопросов, связанных с правом – задействование искусственного интеллекта в правотворчестве и правоприменении. То есть юристы пытались использовать искусственный интеллект как инструмент для организации и упрощения своей работы, особенно в условиях системы прецедентного права. Эта тематика обсуждается в статье Брюса Бьюкенена и Томаса Хедрика «Некоторые предположения об искусственном интеллекте и юридическом обосновании» (1970 год)[14], статье Торна Маккарти «Размышления о Taxman'e: эксперимент в области искусственного интеллекта и юридического обоснования» (1977 год)[15], статье Ричарда Сусскинда «Экспертные системы в праве: юридический подход к искусственному интеллекту и юридическое обоснование» (1986 год)[16], книгах под редакцией Брайана Ниблетта «Информатика и право» (1980 год)[17], Костантино Чампи «Искусственный интеллект и правовые информационные системы» (1982 год)[18] и т.д.

Примером научного труда, обосновывающего важность работы по данной тематике, может служить статья «Искусственный интеллект и право: ступени к модели юридического обоснования»[19], опубликованная в 1990 году американским исследователем Эдвиной Рисланд, получившей как математическое образование (Массачусетский технологический институт), так и юридическое  (Гарвардский университет). В своей статье Э. Рисланд говорит о достижении синергетического эффекта при взаимодействии права и искусственного интеллекта, но подчеркивает сложность освоения искусственным интеллектом материи права и выстраивания правовой аргументации.

Позднее Э. Рисланд преподавала в Гарвардской школе права, а сегодня является профессором Массачусетского университета и программным директором Artificial Intelligence and Cognitive Science Program Национального научного фонда США, она продолжает заниматься вопросами, связанными с развитием искусственного интеллекта и правом, в том числе киберправом. В свое время Э. Рисланд выступила одним из создателей специализированного научного журнала в данной области – Artificial Intelligence and Law, который издается с 1992 года по настоящее время.

Главный редактор названного выше журнала Кэвин Эшли также на протяжении многих лет занимается темами компьютерного моделирования юридического обоснования и решения правовых вопросов в киберпространстве, примером чего могут служить написанные им в разные годы статьи: «Моделирование юридических аргументов: рассуждения о случаях и гипотезах» (1990 год)[20], «Искусственный интеллект и правовая аналитика: новые инструменты для юридической практики в эпоху цифровых технологий» (2017 год)[21] и т.д.

Исследование возможностей искусственного интеллекта применительно к юридической сфере продолжается, в частности делаются попытки создать машиночитаемое право, когда нормы права, переведенные в программный код, автоматически исполняются с помощью соответствующего программного обеспечения.

Постановка вопроса о необходимости правового регулирования искусственного интеллекта. Искусственный интеллект способен поменять право, но и право способно воздействовать на искусственный интеллект, поэтому юридические исследования не могли ограничиться темой применения искусственного интеллекта к решению правовых вопросов, обратившись к проблеме урегулирования отношений, в которых искусственный интеллект будет задействован.

Наличие дискуссии в научной среде демонстрирует опубликованный в 2016 году материал группы исследователей из Стенфордского университета «Искусственный интеллект и жизнь в 2030 году» с подзаголовком «Столетнее изучение искусственного интеллекта»[22]. В исследовании выявлены области, в которые будет интенсивно вовлечен искусственный интеллект в ближайшем будущем: транспорт, сервис, здравоохранение, образование, общественная безопасность, труд и занятость, домоводство и развлечения. Имеющаяся законодательная база, по мнению авторов исследования, заметно замедляет адаптацию потребностей общества к уровню разработок новых технологий. Закон выполняет ограничительную функцию, он консервативен, что делает его «плохим» инструментом для борьбы с катастрофическими изменениями, которые повлечет быстрое развитие технологий искусственного интеллекта. Новые технологии затронут все аспекты социальной жизни: вопросы занятости и интеллектуального творчества, создания ресурсов, новые способы передачи данных и управления. Если законодательство хочет сохранить актуальность, ему придется быстро адаптироваться к новым задачам.

К примеру, уровень развития технологий искусственного интеллекта и робототехники позволяет внедрение в повседневную жизнь роботов-помощников. Уже сейчас в промышленных цехах работникам нередко приходится трудиться рядом с коллаборативными роботами, на складах используются роботы-погрузчики, а в домашнем хозяйстве – роботы-пылесосы. Начат выпуск автономных транспортных средств, не требующих управления людьми. Фактически роботы, наделенные искусственным интеллектом, начинают участвовать в отношениях с людьми. На данный момент робот является объектом, ответственность за действия которого несет владелец. Вопрос о необходимости формирования специальной правовой базы стоит на повестке дня в США, странах Европейского союза, в Японии, Южной Корее, Китае и т.д.

В свое время писателем-фантастом Айзеком Азимовым были сформулированы «законы робототехники» (1942 год), позднее эти правила признаны универсальными и положены в основу развития робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые отдает человек, кроме случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности, если это не противоречит первому или второму законам.

Данные правила являются негласными этическими нормами для разработчиков робототехники, но чем более совершенными становятся киберфизические и иные системы искусственного интеллекта, тем выше потребность в разработке специальных правовых принципов и норм, регулирующих использование искусственного интеллекта. Важность решения подобных вопросов обосновывается тем, что изменения, связанные с развитием робототехники, с большой степенью вероятности затронут все слои общества.

По мнению ряда правоведов, это подталкивает к созданию новой отрасли права, так называемого «права роботов», призванного объединить нормы, касающиеся участия роботов в жизнедеятельности общества. Право роботов будет включать нормы, регулирующие отношения с роботами, наделенными искусственным интеллектом (киберфизическими системами), то есть определять правовой статус роботов, устанавливая их ответственность за причинение ущерба, защищая интеллектуальную собственность ими созданную, наделяя определенными правами, например, на неприкосновенность тела и кода и т.д.

Профессор Йельского университета Джек Балкин обосновывает пути развития законодательства в области робототехники в своей статье, опубликованной в Калифорнийском юридическом журнале в 2015 году и посвященной «столкновению» права и новых технологий[23]. По мнению автора, технологии будут развиваться независимо от того, как люди их используют в своей жизни и в социальных отношениях. «Замораживание» исследований и новых разработок в любом случае не будет абсолютным. Основные проблемы Дж. Балкин видит в урегулировании двух вопросов: ответственность за последствия действий роботов, когда одни люди будут использовать искусственный интеллект, нарушая права других людей, и «эффект замещения» при замене людьми других людей или живых существ на роботов для определенных целей. Автор статьи считает, что не только первая, общепризнанная, но и вторая проблема коснется различных областей права и вызовет продолжительные трудности в регулировании.

Одним из европейских исследователей в области нормативного регулирования искусственного интеллекта является профессор Университета Льежа Николя Пети, читающий учебный курс «Право и регулирование искусственного интеллекта». В рамках курса акцентируется внимание на дилемме, связанной с внедрением искусственного интеллекта и роботизированных технологий: инженеры опасаются, что жесткие правила могут заглушить инновации, и предлагают предоставить иммунитет для исследования определенных типов роботов. Философы же поднимают этические проблемы и прогнозируют последствия, подталкивающие к полному запрету на исследования. В своей статье «Право и регулирование искусственного интеллекта и роботов: концептуальная основа и нормативные последствия»[24] Н. Пети предлагает «регуляторный компромисс»: соотношение угроз и возможностей, создаваемых введением правового регулирования в контексте технологической эволюции.

Как и многие другие исследователи-юристы, Н. Пети сознательно не делает различий между роботами и искусственным интеллектом, предполагая высокую степень конвергенции между ними и указывая на то, что «интеллектуальные машины в мягкой или жесткой обертке обладают способностью воздействовать на мир». Н. Пети пишет о прогнозируемом распространении искусственного интеллекта и вероятном доминировании его в будущем, что потребует формирования «права людей», которое предоставит права меньшинства людям и защитит человека от интеллектуальных машин.

В статье Н. Пети приводится таблица позитивных и негативных изменений, которые произойдут в результате роботизации. Пример негативного: промышленный робот внезапно перезапускается и убивает работника. Пример позитивного: дрон видит вора на пути к месту доставки и предупреждает правоохранительные органы. Негативным последствием будет и сокращение конфиденциальности, а позитивным – немедленное информирование о стихийных бедствиях и гуманитарных катастрофах.

Риски для человечества, связанные с развитием искусственного интеллекта, высоки. В то же время страны, создавшие сбалансированное законодательство, имеют высокие шансы на опережающий экономический рост за счет инвестиций, привлекаемых «дружественным» к технологиям законодательством.

В качестве примера последствий запрета на развитие технологий Н. Пети приводит британский закон Red Flag Act 1865 года. Великобритания тогда была страной, лидировавшей в разработках автомобильного транспорта. Закон установил ограничение скорости до 2 миль в час для автомобилей в городах и потребовал, чтобы впереди автомобиля на расстоянии 60 ярдов шел сигнальщик с красным флагом, оповещая прохожих об опасности. Данный закон фактически уничтожил зарождающуюся автомобильную промышленность Великобритании, в результате чего вперед вышли другие страны – Франция и Германия.

Большинство исследователей сходятся на том, что основной проблемой правового регулирования в сфере искусственного интеллекта является распределение ответственности за вред, причиненный действиями робота. По современному законодательству не всегда непосредственный причинитель ущерба несет ответственность. Так, за работника ответственность может нести работодатель, за ребенка – родители, вместо владельца вещи вред может возмещать ее производитель (при обнаружении дефекта) и т.д. Имеющаяся юридическая конструкция предлагает потерпевшим от роботов два потенциальных пути для возмещения убытков: претензии к владельцу или к изготовителю. Это вызывает возражения у некоторых стейкхолдеров –  компаний-разработчиков, делая менее привлекательным инвестирование в проекты в области искусственного интеллекта.

В числе первых объемных работ по правовому регулированию искусственного интеллекта можно назвать «Законы роботов: преступления, контракты и правонарушения» профессора Туринского университета Уго Пагалло (2013 год)[25] и «Право роботов» под редакцией Райана Кало, Майкла Фрумкина и ряда других специалистов в области права, инженерии, информатики и философии из университетов Вашингтона, Майами и Оттавы (2016 год)[26]. В этих работах были обозначены правовые проблемы в связи с использованием искусственного интеллекта и робототехники, а также предложены варианты решения некоторых из этих проблем с указанием на неизбежное возрастание роли формирующейся новой области права.

Подходы к правовому регулированию искусственного интеллекта. К настоящему моменту в мире сложились два основных подхода в этой области. Первый, иногда именуемый юридическим или легалистским – Legalistic Approach – состоит в том, чтобы исходить из существующей правовой системы и формулировать перечни проблемных вопросов, возникающих из-за использования роботов и связанных с ответственностью, конфиденциальностью, кибербезопасностью. Второй подход (условно его можно назвать технологическим) предусматривает «движение» от технологических изменений: появления беспилотников, роботов – личных помощников, экзоскелетов и т.д. Сторонники технологического подхода настаивают на вторичности права. Примером такого подхода может служить Стратегия в области искусственного интеллекта, предложенная французским синдикатом Syntec Numérique, объединяющим 1800 компаний (около 80% продаж цифрового сектора). Стратегия включает следующие положения: искусственный интеллект не требует специальной правовой базы; он проникнет во многие сферы, поэтому не стоит принимать общего закона, так как технологий много; они различаются в транспортной сфере, в медицине и т.д. Разработчики данной стратегии считают, что в случае ее реализации Францией страна выйдет вперед в области инноваций.

По мнению сторонников технологического подхода, достаточным будет страхование ответственности роботов за их действия, когда от экономического эффекта при использовании робота в специальный фонд должен отчисляться процент, из чего покрывается нанесенный роботом ущерб. С точки зрения приверженцев легалистского, более консервативного подхода, правильным будет возложение ответственности за действия робота на запустившего его человека. На это сторонники технологического подхода возражают, что в странах, принявших за основу легалистский подход, затормозится развитие робототехники и произойдет серьезное экономическое отставание от стран, придерживающихся технологического подхода.

В связи с тем, что значительное число исследователей не пришли к каким-то законченным выводам, можно выделить и третий подход – комбинированный, разделяющий этику использования роботов и робототехнику. Правовое регулирование будет касаться только первого.

В любом случае, обеспечение баланса интересов – одна из главных задач формирования законодательства в сфере искусственного интеллекта и робототехники[27]. Учитывая значительные различия в построении разных обществ, государствам будет сложно согласовать общую политику. Это означает, что национальные законодательства будут характеризоваться разнообразием регулятивных мер и нормативной конкуренцией в этой сфере. Государства, устанавливающие более «дружественные» к роботам законы, получат положительный экономический эффект в плане привлечения инвестиций, что будет стимулировать другие государства последовать их примеру[28].

Российские исследования и инициативы в области правового регулирования искусственного интеллекта. В России вопрос о создании закона о робототехнике впервые прозвучал в 2016 году. Концепция закона была предложена основателем инвестиционного фонда Grishin Robotics, председателем совета директоров Mail.RuGroup Дмитрием Гришиным. Концепция предполагала создание реестра роботов и ограничение пределов ответственности создателей и владельцев роботов, что смогло бы понизить риски потенциальных инвесторов, стимулируя вложение средств в разработки.

Концепция предусматривала внесение изменений в Гражданский кодекс Российской Федерации, в первой части которого должна была появиться глава, регулирующая статус «роботизированных агентов», которыми выступали бы сложные роботы, зарегистрированные в специальном едином государственном реестре. Согласно концепции, действие закона распространялось бы на робота, если он внесен в реестр. Предусматривалась добровольная регистрация по решению владельца робота, ее отсутствие позволяло бы рассматривать действия робота как действия владельца.

О непроработанности концепции сразу высказались известные российские юристы. К примеру, Антон Иванов, являвшийся председателем Высшего Арбитражного Суда Российской Федерации с 2005 года до момента его упразднения в 2014 году, указал, что введение статуса «роботизированного агента» в Гражданский кодекс Российской Федерации влечет признание роботов субъектами гражданского права, такой робот наделяется всеми признаками юридического лица, кроме организационного единства. Признание роботов субъектами права предполагает, что они обладают сознанием и волей, достаточными для их участия в гражданском обороте.

По мнению А. Иванова, исходя из имеющегося уровня развития робототехники, придание роботам статуса субъекта права, который без постоянного содействия людей может участвовать в гражданском обороте, было бы фикцией, а так как концепция рассматривала роботов и как субъектов, и как объектов права, у которых всегда есть собственник, такой двойственный статус породил бы множество новых теоретических проблем. К примеру, если у роботизированного агента имеется имущество, то каким правом на это имущество он обладает: правом собственности или ограниченным вещным правом (так как сам робот – объект права собственности конкретного человека)?

Таким образом, суть концепции сводится к ограничению ответственности владельца за действия робота. Взыскание по долгам в этом случае могло бы быть обращено только на имущество робота. Более того, предложенное концепцией разграничение собственника и владельца «роботизированного агента» допустило бы возможность того, что владельцем робота может стать другой робот, а это, учитывая ограниченную ответственность владельца по долгам роботов, сделало бы эфемерным реальное возмещение причиненных убытков.

В 2017 году группой юристов, ранее участвовавших в работе над концепцией закона о робототехнике и представлявших Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «Робоправо», был разработан новый проект – Модельная конвенция о робототехнике и искусственном интеллекте, содержащая правила создания и использования роботов и иных систем искусственного интеллекта. Текст конвенции, размещенный на сайте Исследовательского центра «Робоправо»[29], включает:

– Преамбулу, в которой указывается, что достигнутый уровень развития науки и технологий позволяет «находить повсеместное применение киберфизическим системам различного назначения, включая роботов…, которые объективно способны решить многие накопившиеся проблемы и придать новый толчок развитию мирового сообщества», но «нельзя исключить сценарии массового использования роботов и искусственного интеллекта, которые могут иметь катастрофические последствия для существующего мироустройства или всей человеческой расы»;

– Вводные положения (субъекты и объекты робототехники, терминология);

– Правила безопасности роботов, включающие фиксацию роботами информации об условиях своего функционирования и всех совершаемых ими действиях («черный ящик») и обеспечение функцией моментального или аварийного отключения по требованию роботов, физически взаимодействующих с людьми («красная кнопка»);

– Общие правила создания роботов (ответственность, общее благо);

– Общие правила использования роботов (соблюдение прав человека и общепринятых норм морали и нравственности, информированность о функционировании роботов, возможность признания роботов субъектами права);

– Правила разработки искусственного интеллекта (презумпция опасности искусственного интеллекта);

– Ограничения по использованию военных роботов (их применение не должно нарушать общепринятых в мире гуманитарных правил ведения войны и использоваться для причинения вреда мирному населению);

– Развитие правил робототехники и искусственного интеллекта (содействие разработке общепринятых международных правил и созданию наднациональных институтов при уже существующих международных объединениях и организациях).

Среди российских правоведов, исследующих вопрос необходимости правового регулирования искусственного интеллекта, на работы которых следует обратить особое внимание студентам, можно назвать как авторов указанных выше проектов Владислава Архипова (СПбГУ), Виктора  Наумова (СПбГУ)[30], Андрея Незнамова (Исследовательский центр проблем регулирования робототехники и искусственного интеллекта, АНО «Робоправо»)[31], так и иных исследователей: Петра Морхата (Арбитражный суд Московской области), Олега Ястребова (РУДН)[32], Гадиса Гаджиева (Конституционный суд Российской Федерации)[33], Игоря Понкина (РАНХиГС)[34], Антона Иванова (ВШЭ)[35].

Помимо статей вышеуказанных и иных авторов в научных журналах, результаты исследований представлены в значительных по объему работах, таких как диссертация на соискание степени доктора юридических наук П.М. Морхата «Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы»[36] и книга под редакцией А.В. Незнамова «Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта»[37].

 

Тема 4. Международное регулирование искусственного интеллекта

Предпосылки развития международно-правового регулирования искусственного интеллекта. Развитие международно-правового регулирования в любой области важно, так как:

1) оно установит «правила игры» для всех участников глобального рынка;

2) законодательство большинства государств ориентировано на международные нормы и закрепление определенных правил международным правом будет способствовать фиксации аналогичных положений в национальном праве этих государств.

О необходимости наднационального урегулирования общих вопросов, связанных с развитием и использованием искусственного интеллекта, в целях избегания неблагоприятных последствий этого, на протяжении ряда лет говорят как деятели науки, так и некоторые разработчики, представители органов власти различных государств.

В январе 2017 года в г. Азиломар (Калифорния, США) состоялась конференция The Asilomar Conference on Beneficial AI, организованная научно-исследовательским институтом Future of Life Institute (Бостон), работающим над уменьшением экзистенциальных рисков, с которыми сталкивается человечество, в том числе с рисками от развития искусственного интеллекта. Более 100 известных исследователей в области экономики, права, этики и философии являлись участниками данной конференции, итогом которой стало формулирование принципов для исследований в области искусственного интеллекта (Asilomar AI Principles)[38]. Впоследствии под этими принципами подписалось еще несколько тысяч ученых, разработчиков, предпринимателей и экспертов, в том числе Стивен Хокинг, Илон Маск, представители компаний Google, Apple, Facebook, IBM, Microsoft и т.д.

Согласно преамбуле итогового документа конференции, искусственный интеллект уже сделал возможным создание инструментов, по всему миру приносящих пользу тем, кто их использует. Дальнейшая разработка искусственного интеллекта в соответствии с выработанными принципами может открыть новые возможности для помощи людям на десятилетия и даже века вперед.

Азиломарские принципы:

1) Цель исследований искусственного интеллекта должна лежать в области создания не бесцельного разума, а систем, направленных на принесение пользы человечеству.

2) Инвестиции в искусственный интеллект должны сопровождаться субсидированием исследований, направленных на поиск полезных способов применения искусственного интеллекта, в контексте которых рассматриваются непростые вопросы из области компьютерных наук, экономики, права, этики и социальных наук.

Некоторые из таких вопросов:

– как обеспечить надежность будущего искусственного интеллекта таким образом, чтобы системы выполняли свою программу, не подвергаясь угрозе сбоев и хакерских атак?

– как повысить уровень благосостояния с помощью автоматизации процессов, не сократив при этом уровень человеческого труда и сохранив его назначение?

– как, сделав правовую систему более эффективной и справедливой, модифицировать ее в соответствии с развитием искусственного интеллекта и учесть все правовые риски, связанные с его использованием?

– какие ценностные ориентиры должны лежать в основе искусственного интеллекта и каким правовым и моральным статусом он должен обладать?

3) Необходим конструктивный и здоровый диалог между исследователями искусственного интеллекта и политическим руководством.

4) Среди исследователей и разработчиков систем искусственного интеллекта должна поощряться культура взаимодействия, доверия и открытости.

5) Команды разработчиков искусственного интеллекта должны активно взаимодействовать друг с другом во избежание ненадлежащего исполнения стандартов безопасности.

6) Системы искусственного интеллекта должны быть безопасны и защищены на протяжении всего срока эксплуатации, а в ситуациях, где это целесообразно, штатная работа искусственного интеллекта должна быть легко верифицируема.

7) Открытость сбоев в системе: если система искусственного интеллекта причиняет вред, должна быть возможность выяснить причину.

8) Открытость системе правосудия: любое участие автономной системы искусственного интеллекта в принятии судебного решения должно быть удовлетворительным образом обосновано и доступно для проверки компетентным органами.

9) Ответственность: разработчики и создатели продвинутых систем искусственного интеллекта напрямую заинтересованы в моральной стороне последствий использования, злоупотребления и действий искусственного интеллекта, и именно на их плечах лежит ответственность за формирование подобных последствий.

10) Синхронизация ценностей: системы искусственного интеллекта с высокой степенью автономности должны быть разработаны таким образом, чтобы их цели и поведение были согласованы с человеческими ценностями на всем протяжении работы.

11) Устройство и функционирование систем искусственного интеллекта должно быть согласовано с идеалами человеческого достоинства, прав, свобод и культурного разнообразия.

12) Защита личных данных: люди должны иметь право на доступ к персональным данным, их обработку и контроль, при наличии у систем искусственного интеллекта возможности анализа и использования этих данных.

13) Свобода и конфиденциальность: применение систем искусственного интеллекта к персональным данным не должно безосновательно сокращать реальную или субъективно воспринимаемую свободу людей.

14) Совместная выгода: технологии искусственного интеллекта должны приносить пользу максимально возможному числу людей.

15) Совместное процветание: экономические блага, созданные при помощи искусственного интеллекта, должны получить широкое распространение ради принесения пользы всему человечеству.

16) Контроль искусственного интеллекта человеком: люди должны определять процедуру и степень необходимости передачи системе искусственного интеллекта функции принятия решений для выполнения целей, поставленных человеком.

17) Устойчивость систем: те, кто обладает влиянием, управляя продвинутыми системами искусственного интеллекта, должны уважать и улучшать общественные процессы, от которых зависит здоровье социума, а не подрывать таковые.

18)  Гонка вооружений в области искусственного интеллекта: стоит избегать гонки вооружений в области автономного летального оружия.

19) Опасность недооценки возможностей: стоит избегать уверенных предположений относительно верхнего порога возможностей искусственного интеллекта будущего, особенно в отсутствие консенсуса по этому вопросу.

20)  Продвинутый искусственный интеллект может повлечь коренные изменения в истории жизни на Земле, его разработка и управление должны осуществляться при наличии соответствующих ресурсов и в условиях особой тщательности.

21) Риски: потенциальные риски, связанные с системами искусственного интеллекта, особенно опасность катастроф или угроза существованию жизни в целом, должны купироваться действиями по планированию и смягчению рисков, соразмерными возможному масштабу воздействия.

22) Рекурсивное автообучение: системы искусственного интеллекта, разработанные для улучшения эффективности собственных алгоритмов и самовоспроизведения, ведущего к быстрому изменению качества и количества, должны быть объектом применения мер жесткого регулирования и контроля.

23)  Всеобщее благо: сверхразум должен быть разработан исключительно в целях, соответствующих большинству этических идеалов и для пользы всего человечества, а не одного государства или организации.

Современное состояние международно-правового регулирования. Пока отсутствуют многосторонние международные договоры – конвенции, принятые на уровне Организации объединенных наций, которые закрепляли бы общие положения для данной сферы. Приняты лишь отдельные документы, способствующие формированию основ международно-правового регулирования в сфере искусственного интеллекта и носящие рекомендательный характер, то есть присутствует нормативно-правовое регулирование в виде «мягкого права». Среди таких документов:

1. Окинавская хартия глобального информационного общества (Okinawa Charter on Global Information Society) от 22 июля 2000 года[39], которая была подписана представителями восьми ведущих мировых держав – «Большой восьмерки» (G8), включавшей на тот момент Россию, и провозгласила необходимость формирования нормативной базы, содействующей сотрудничеству по оптимизации глобальных сетей и сокращению разрыва в цифровых технологиях.

2. Рекомендации по искусственному интеллекту Организации экономического сотрудничества и развития – ОЭСР (OECD Council Recommendation on Artificial Intelligence) от 22 мая 2019 года[40]  как первый межправительственный стандарт по искусственному интеллекту.

Данный документ включает пять принципов и пять рекомендаций для национальных правительств. Члены Организации экономического сотрудничества и развития – 36 государств, в том числе страны Европейского союза, США, Канада, Австралия, Япония, Турция и т.д. Россия не входит в данное объединение.

Принципы ОЭСР по искусственному интеллекту:

– искусственный интеллект должен приносить пользу людям и планете, стимулируя устойчивое развитие и повышение благосостояния;

– системы искусственного интеллекта должны быть спроектированы таким образом, чтобы уважать верховенство закона, права человека, демократические ценности и разнообразие, они должны включать соответствующие гарантии, например, возможность вмешательства человека в случае необходимости для обеспечения справедливого общественного устройства;

– должна быть прозрачность и ответственное раскрытие информации о системах искусственного интеллекта, чтобы люди понимали основанные на искусственном интеллекте решения и могли их оспаривать;

– системы искусственного интеллекта должны функционировать надежно и безопасно в течение всего их жизненного цикла, постоянно должны присутствовать оценка и управление потенциальными рисками;

– юридические и физические лица, разрабатывающие, внедряющие или эксплуатирующие системы искусственного интеллекта, должны нести ответственность за их надлежащее функционирование в соответствии с вышеуказанными принципами.

В документе содержатся общие рекомендации для национальных правительств по вопросу развития искусственного интеллекта:

– содействовать государственным и частным инвестициям в исследования и разработки, чтобы стимулировать инновации в надежный искусственный интеллект;

– содействовать доступности экосистем искусственного интеллекта с помощью цифровой инфраструктуры, технологий и механизмов для обмена данными и знаниями;

– обеспечить политическую среду, которая откроет путь к развертыванию надежных систем искусственного интеллекта;

– обеспечить людей возможностью получения навыков в области искусственного интеллекта и поддерживать работников для справедливого перехода на труд в новых условиях;

– сотрудничать через границы стран и секторов экономики, чтобы прогрессировать в ответственном управлении заслуживающим доверия искусственным интеллектом.

3. Заявление министров экономики стран – участниц G20 (G20 Ministerial Statement on Trade and Digital Economy) от 9 июня 2019 года[41], в котором от имени государств – участников так называемой «Большой двадцатки» (G20) были одобрены принципы развития искусственного интеллекта, взятые из  предыдущего документа – Рекомендаций по искусственному интеллекту Организации экономического сотрудничества и развития (как приложение к заявлению). Среди стран – участниц G20: Россия, США, Китай, Германия, Франция, Италия, Великобритания, Австралия, Канада, Япония и т.д.

В тексте данного документа содержатся в том числе пункты о:

– совместной работе по созданию устойчивого и инновационного глобального общества (пункт 6);

–  разработке и реализации цифровой политики, способной максимизировать выгоды и минимизировать проблемы, связанные с развитием цифровой экономики, с учетом особого внимания к развивающимся странам и недостаточно защищенным группам населения (пункт 7);

– необходимости построения цифрового общества на доверии между всеми заинтересованными сторонами, включая правительства, гражданское общество, международные организации, ученых и бизнес, путем обмена общими ценностями и принципами, включая равенство, справедливость, прозрачность и подотчетность с учетом глобальной экономики (пункт 11);

– признании необходимости антропоцентричности в развитии искусственного интеллекта и учета рисков возникновения новых социальных проблем, в том числе изменений на рынке труда (пункт 19);

– необходимости продолжать содействовать защите конфиденциальности и личных данных и признании необходимости содействовать наращиванию потенциала искусственного интеллекта (пункт 20);

– признании, что управление в цифровую эпоху должно быть не только благоприятным для инноваций, но и инновационным, не теряя при этом юридической определенности. В этом отношении могут помочь совместимые стандарты, структуры и сотрудничество в области регулирования. Международная политика, а также формулирование национальной политики с участием всех заинтересованных сторон играют важную роль в решении широкого круга социальных проблем и содействуют обсуждению того, как технологии лучше включить в пул инструментов политики (пункт 23);

– поддержке обмена передовым опытом между странами G20 и работы соответствующих международных организаций в целях ознакомления с лучшими подходами и направлениями технологических инноваций (пункт 24).

Международные технические стандарты. Создание международных стандартов – результат деятельности международных организаций по стандартизации, которые разрабатывают и публикуют стандарты, руководства, рекомендации и технические отчеты. К таким организациям можно отнести Международную организацию по стандартизации (ISO), Международную электротехническую комиссию (IEC) и Международный союз электросвязи (ITU). Эти организации признаны всеми странами и, соответственно, обладают полномочиями издавать международные стандарты, их деятельность тесно связана и скоординирована, в том числе через совместную разработку руководств, рассматривающих различные аспекты деятельности по оценке соответствия.

Хотя международные стандарты разрабатываются на основе консенсуса и добровольного признания зафиксированных в них требований, на практике соответствие продукции этим стандартам необходимо, так как выступает критерием конкурентоспособности и допуска на международный рынок. В настоящее время для всех стран обязательным условием является испытание сложной продукции на ее соответствие требованиям технических руководств относительно безопасности, угрозы для жизни и здоровья человека или окружающей среды до поступления продукции на реализацию.

Наиболее крупной из перечисленных выше организаций является Международная организация по стандартизации, членами которой являются 164 государства, в том числе Российская Федерация. Технические стандарты ISO, содержащие передовой научно-технический опыт различных стран, имеют своей целью обеспечение единства требований к продукции в международном товарообмене, включая взаимозаменяемость комплектующих изделий, единые методы испытаний и оценки качества изделий.

В 2017 году в структуре ISO создан технический комитет по искусственному интеллекту (ISO/IEC JTC 1/SC 42 Artificial intelligence). Полноправными членами технического комитета являются 30 государств и еще 14 стран выступают в качестве наблюдателей. Перечни государств – участников и наблюдателей размещены на официальном сайте Международной организации по стандартизации [42].

Среди разработанных данным комитетом стандартов уже опубликованы:

– стандарт ISO/IEC 20546:2019 Information technology Big data Overview and vocabulary (документ содержит набор терминов и определений, необходимых для улучшения коммуникации и понимания этой области);

 стандарт ISO/IEC TR 20547-2:2018 Information technology – Big data reference architecture – Part 2: Use cases and derived requirements;

стандарт ISO/IEC 20547-3:2020 Information technology – Big data reference architecture – Part 3: Reference architecture;

стандарт ISO/IEC TR 20547-5:2018 Information technology – Big data reference architecture – Part 5: Standards roadmap (документ включает «дорожную карту» стандартов).

Согласно установленным правилам, «жизненный цикл» каждого из стандартов составляет пять лет, то есть максимум через пять лет стандарт должен быть пересмотрен. Заседания технического комитета проводятся каждые полгода (в апреле и в октябре), место проведения меняется: выбираются разные страны и континенты.

В разработке находятся следующие стандарты:

стандарт ISO/IEC CD TR 20547-1 Information technology – Big data reference architecture – Part 1: Framework and application process;

стандарт ISO/IEC CD 22989 Artificial intelligence Concepts and terminology (документ посвящен понятиям и терминологии, используемой в сфере искусственного интеллекта);

стандарт ISO/IEC CD 23053 Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML) (документ касается использования машинного обучения для систем искусственного интеллекта);

стандарт ISO/IEC AWI 23894 Information Technology Artificial Intelligence Risk Management;

стандарт ISO/IEC AWI TR 24027 Information technology Artificial Intelligence (AI) Bias in AI systems and AI aided decision making;

стандарт ISO/IEC PRF TR 24028 Information technology – Artificial intelligence – Overview of trustworthiness in artificial intelligence;

стандарт ISO/IEC CD TR 24029-1 Artificial Intelligence (AI) – Assessment of the robustness of neural networks – Part 1: Overview;

стандарт ISO/IEC CD TR 24030 Information technology – Artificial Intelligence (AI) – Use cases;

стандарт ISO/IEC AWI TR 24368 Information technology – Artificial intelligence – Overview of ethical and societal concerns (документ содержит описание этических и социальных проблем в сфере искусственного интеллекта);

стандарт ISO/IEC AWI TR 24372 Information technology – Artificial intelligence (AI) – Overview of computational approaches for AI systems;

стандарт ISO/IEC AWI 24668 Information technology – Artificial intelligence – Process management framework for Big data analytics;

стандарт ISO/IEC AWI 38507 Information technology – Governance of IT – Governance implications of the use of artificial intelligence by organizations[43].

Стоит указать, что технические стандарты в области робототехники принимаются другими комитетами (с 2015 года – специально созданным техническим комитетом по робототехнике – ISO/TC 299 Robotics).

Примерами таких стандартов могут выступать:

– стандарт ISO 10218-1:2011 Robots and robotic devices – Safety requirements for industrial robots – Part 1: Robots;

стандарт ISO 8373:2012 Robots and robotic devices – Vocabulary;

стандарт ISO 13482:2014 Robots and robotic devices – Safety requirements for personal care robots (документ устанавливает требования к безопасности роботов – личных помощников);

стандарт ISO/TS 15066:2016 Robots and robotic devices – Collaborative robots (документ устанавливает требования к безопасности для коллаборативных роботов и рабочей среды);

стандарт ISO/TR 20218-1:2018 Robotics – Safety design for industrial robot systems – Part 1: End-effectors (документ содержит руководство по мерам безопасности при проектировании и интеграции промышленных роботов);

стандарт ISO 18646-2:2019 Robotics – Performance criteria and related test methods for service robots – Part 2: Navigation;

стандарт ISO/TR 23482-2:2019 Robotics – Application of ISO 13482 – Part 2: Application guidelines;

стандарт ISO/TR 23482-1:2020 Robotics – Application of ISO 13482 – Part 1: Safety-related test methods[44].

Тенденции и перспективы в развитии международно-правового регулирования. Стремительный рост применения технологий искусственного интеллекта в различных сферах экономики способствует развитию деятельности субъектов международного права по формированию международно-правовой основы по данному вопросу. Международными организациями все чаще поднимаются вопросы, связанные с обсуждением проектов международных договоров, связанных с регулированием искусственного интеллекта.

Постоянная работа в этом направлении ведется, например, ЮНЕСКО – специализированным учреждением ООН по вопросам образования, науки и культуры.

По итогам проведения в 2019 году конференции ЮНЕСКО «Принципы искусственного интеллекта: в направлении гуманистического подхода» (UNESCO Conference "Principles for AI: Towards a Humanistic Approach?") был достигнут консенсус в отношении необходимости обеспечения ориентированного на человека управления искусственным интеллектом. Присутствующим на конференции представителем ООН Фабрицио Драммондом было отмечено, что «нынешнее предпочтение необязательным международным соглашениям, является этапом перехода от сотрудничества к конкуренции. Это делает более притягательными договоры, не имеющие обязательной силы. Но мы не можем полагаться на то, что все будут действовать правильно. …Если мы позволим невидимой руке рынка действовать свободно, то получим полезные приложения искусственного интеллекта, но наша конфиденциальность будет подорвана, а неравенство возрастет, что будет способствовать поляризации наших обществ»[45]. Указанная конференция являлась частью серии мероприятий ЮНЕСКО, посвященных искусственному интеллекту. Еще одним мероприятием стала 40-я сессия Генеральной конференции ЮНЕСКО, на которой было принято обязательство по разработке этических норм в области развития искусственного интеллекта.

Эксперты, отобранные ЮНЕСКО, будут отвечать за подготовку предварительного текста международного нормативного документа по этике искусственного интеллекта. На 2021 год запланированы два межправительственных совещания для окончательной доработки этических норм на основе фундаментальных прав человека.

При обсуждении возможных вариантов регулирования на большинстве международных дискуссионных площадок наблюдается переход от базовых принципов к согласованию общей структурной и описательной модели систем искусственного интеллекта. Компании – лидеры в разработке продуктов, основанных на технологиях искусственного интеллекта, стремятся повлиять на процессы создания норм права, в результате чего можно наблюдать «конкурентную борьбу за лидерство в продвижении образа искусственного интеллекта как безопасной и позитивной технологии с долгосрочными преимуществами для глобального социально-экономического развития. Для бизнеса становится очевидным, что прибыль и коммерческий успех компаний в области искусственного интеллекта будут в значительной степени зависеть от создания модели управления, в которой важное значение придается профессиональной этике и добропорядочности при продвижении ИИ-продуктов на мировой рынок»[46]. Основными направлениями дальнейшей дискуссии по выработке правового регулирования искусственного интеллекта являются: конкретизация понятийной базы, этики и прав человека в связи с распространением искусственного интеллекта в обществе, соблюдение общественных интересов и методика измерения различных параметров и характеристик систем искусственного интеллекта.

 

Тема 5. Основы национального регулирования искусственного интеллекта

Основы регулирования искусственного интеллекта в России заложены  Указом Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации», утвердившим «Национальную стратегию развития искусственного интеллекта на период до 2030 года», в которой установлены основные принципы развития и использования технологий искусственного интеллекта, основные задачи развития искусственного интеллекта и необходимые действия органов государственной власти для реализации этих задач.

Стратегия предусматривает поэтапное создание нормативно-правовой базы, способной обеспечить формирование и функционирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта. К 2024 году должны быть созданы необходимые правовые условия для решения задач и реализации мер, предусмотренных Стратегией, а к 2030 году – гибкая система нормативно-правового регулирования в области искусственного интеллекта, в том числе гарантирующая безопасность населения и направленная на стимулирование развития технологий искусственного интеллекта. Для этого необходимо устранение административных барьеров, создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, создание экспериментальных правовых режимов и т.д.

Помимо Указа Президента Российской Федерации «О развитии искусственного интеллекта в Российской Федерации» к нормативным правовым актам, регулирующим вопросы, в той или иной степени связанные с искусственным интеллектом, могут быть отнесены приказы Росстандарта (Федерального агентства по техническому регулированию и метрологии) об утверждении национальных стандартов (ГОСТов):

– Приказ Росстандарта от 13 декабря 2011 года № 1242-ст (ГОСТ Р 43.0.7-2011 «Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человекоинформационное взаимодействие. Общие положения»);

– Приказ Росстандарта от 29 ноября 2016 года № 1842-ст (ГОСТ Р 60.0.0.2-2016 «Роботы и робототехнические устройства. Классификация»);

– Приказ Росстандарта от 27 июля 2017 года № 757-ст (ГОСТ Р 43.0.8-2017 «Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения»);

– Приказ Росстандарта от 20 декабря 2019 года № 1429-ст (ГОСТ Р 58776-2019 «Средства мониторинга поведения и прогнозирования намерений людей. Термины и определения»);

– Приказ Росстандарта от 20 декабря 2019 года № 1430-ст (ГОСТ Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей качества распознавания незаконных вложений по теневым рентгеновским изображениям»).

В 2020 – 2021 годах запланирована разработка еще нескольких стандартов, связанных с использованием искусственного интеллекта: «Качество систем искусственного интеллекта», «Прикладные технологии искусственного интеллекта», «Искусственный интеллект в образовании», «Искусственный интеллект в здравоохранении» и т.д.

Первым российским законом, направленным на регулирование вопросов, связанных с искусственным интеллектом, стал Федеральный закон от 24 апреля 2020 года № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»[47]. Данный закон предусматривает проведение пятилетнего эксперимента по установлению экспериментального правового режима в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта.

Второй закон находится в стадии рассмотрения[48], его наименование: «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» (Законопроект № 922869-7)[49]. Он допускает введение «регуляторных песочниц», в рамках которых можно развивать технологии, пока не урегулированные законодательством.

Согласно таблице 9 Дорожной карты развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект» до 2024 года в области нормативного регулирования должны быть достигнуты следующие результаты:

1) обеспечены нормативные условия для доступа к данным;

2) создан упрощенный административно-правовой и нормативно-технический порядок тестирования и внедрения разработок в области искусственного интеллекта;

3) разработан специальный инвестиционный режим для финансово-правового стимулирования инвестиций;

4) обеспечено поддержание эффективного баланса между интересами компаний, разрабатывающих и внедряющих искусственный интеллект, и интересами общества;

5) создана полноценная система нормативно-технического регулирования в области искусственного интеллекта.

К началу 2020 года Министерством экономического развития Российской Федерации был подготовлен проект концепции регулирования искусственного интеллекта и робототехники, основной целью концепции является определение вектора развития законодательства по формированию необходимой регуляторной среды для технологий искусственного интеллекта и робототехники.

В январе 2020 года техническим комитетом «Киберфизические системы» на базе Российской венчурной компании совместно со Всероссийским институтом сертификации и при поддержке Министерства промышленности и торговли Российской Федерации был вынесен на публичное обсуждение проект десяти предварительных национальных стандартов (ПНСТ) в области «умного» производства. В пояснениях к проекту сказано, что разработка документов инициирована в целях формирования полноценной экосистемы нормативно-технического регулирования цифровой промышленности в Российской Федерации.

В ближайшие годы высоковероятным является и начало разработки правил дорожного движения, учитывающих выход на дороги общего пользования беспилотного автомобильного транспорта.

Регулирование искусственного интеллекта в США. Как уже упоминалось в разделе 3 данного учебного пособия, вопросы, связанные с влиянием искусственного интеллекта на право и с необходимостью обратного воздействия права на искусственный интеллект, были подняты американскими правоведами еще в прошлом столетии.

Являясь мировым лидером в области экономики, США стремятся удержать это лидерство, в том числе через развитие технологий искусственного интеллекта. Разработки технологий искусственного интеллекта активно ведутся как в мирных, так и в военных областях, развитие искусственного интеллекта заявлено в качество высшего национального технологического приоритета. Таким образом, искусственный интеллект – важнейшая группа технологий, позволяющая опередить конкурентов и сохранить американское экономическое и технологическое преимущество.

10 мая 2018 года в Белом доме состоялся саммит «Искусственный интеллект для американской промышленности» (Artificial Intelligence For American Industry), по итогам которого был издан доклад[50], содержащий положения, демонстрирующие направление развития: устранение барьеров для технологий искусственного интеллекта, так как чрезмерные ограничения не остановят развитие технологий, а просто «выдавят» их с территории США, что воспрепятствует сохранению американского лидерства в области искусственного интеллекта, поэтому искусственный интеллект является высшим национальным технологическим и бюджетным приоритетом для всех органов власти США.

Американская стратегия развития искусственного интеллекта представлена в Распоряжении Президента США от 11 февраля 2019 года «О сохранении американского лидерства в области искусственного интеллекта»[51], которое подчеркивает: лидерство страны в области искусственного интеллекта имеет первостепенное значение для поддержания экономической и национальной безопасности, так как новые технологии являются движущей силой создания «индустрии будущего», а технологии искусственного интеллекта трансформируют практически все сферы жизни.

Американская ИИ-инициатива (национальная стратегия развития искусственного интеллекта), реализация которой предусмотрена в названном выше Распоряжении Президента США, сосредоточивает ресурсы правительства США на разработке искусственного интеллекта для повышения государственного благосостояния, укрепления национальной и экономической безопасности и улучшения качества жизни людей.

Для достижения целей американской стратегии развития искусственного интеллекта предусмотрено соблюдение пяти важнейших принципов:

– внедрение технологических прорывов;

– содействие разработке технических стандартов;

– обучение работников навыкам разработки и применения технологий искусственного интеллекта;

– защита национальных ценностей, прав и свобод личности, укрепление общественного доверия к технологиям искусственного интеллекта;

– защита технологических преимуществ США при одновременном развитии международной среды, поддерживающей инновации.

Для формирования адекватной правовой базы и обеспечения эффективного регулирования новых технологий должно быть произведено сокращение разрыва между достигнутым уровнем знаний об искусственном интеллекте и представлением об этом у должностных лиц, принимающих решения.

Согласно Распоряжению «О сохранении американского лидерства в области искусственного интеллекта» координация работы по реализации ИИ-инициативы возложена на Национальный комитет по искусственному интеллекту Национального совета по науке и технологиям США. Каждый государственный департамент и государственное агентство должны содействовать:

– устойчивым инвестициям в исследования и разработки в области искусственного интеллекта;

– расширению доступа к данным, моделям и вычислительным ресурсам;

– снижению барьеров на пути использования технологий искусственного интеллекта;

– обеспечению того, чтобы технические стандарты минимизировали уязвимость к атакам злоумышленников;

– обучению исследователей искусственного интеллекта;

– реализации плана действий по защите национальных интересов в области экономики и национальной безопасности.

Работающий с марта 2019 года сайт AI.gov (Artificial Intelligence for the American People)[52] запущен правительством США для упрощения доступа граждан и организаций к информации, касающейся американской ИИ-инициативы. Ознакомление с сайтом показывает, что акцент сделан на влиянии развития искусственного интеллекта на основные сферы: инновации, промышленность, трудовые ресурсы и национальные ценности. Параллельно с запуском сайта AI.gov был сформирован Американский консультативный совет по кадровой политике, задача которого – помочь в формировании национальной стратегии, обеспечивающей всем гражданам возможности получения достойно оплачиваемой работы и успешного преодоления трудностей, связанных с неизбежной трансформацией сферы труда.

За 2017 – 2019 годы на рассмотрение в Конгресс США был внесен ряд соответствующих законопроектов[53]:

– проект закона о будущем искусственного интеллекта (Future of AI Act, 2017);

–  проект закона о Комиссии по национальной безопасности в сфере искусственного интеллекта (National Security Commission Artificial Intelligence Act, 2018, одобрен Конгрессом);

– проект закона об искусственном интеллекте (Artificial Intelligence Reporting Act, 2018);

– проект закона об искусственном интеллекте в государственном управлении (AI in Government Act, 2018);

– проект закона об использовании искусственного интеллекта в сфере труда (AI Jobs Act, 2019)[54];

– проект закона об ИИ-инициативе (Artificial Intelligence Initiative Act, 2019) и т.д.

Это свидетельствует о том, что обсуждение вопросов правового регулирования искусственного интеллекта постоянно присутствует в Конгрессе США.

Положено начало и регулированию на уровне штатов, так, например, с 1 января 2020 года вступил в силу закон штата Иллинойс о проведении видеоинтервью с использованием искусственного интеллекта (Illinois General Assembly, Public Act 101-0260. AN ACT concerning employment. Artificial Intelligence Video Interview Act). Закон касается проведения видеоинтервью с кандидатом на должность и обязывает работодателя уведомлять интервьюируемых об использовании систем искусственного интеллекта.

Основы регулирования искусственного интеллекта в Китае. Главным конкурентом США в области мирового экономического и технологического лидерства выступает Китай. В 2015 году Китаем начата реализация комплексной программы развития КНР "Made in China 2025"[55], а в июле 2017 года опубликован принятый Государственным советом КНР «План развития искусственного интеллекта следующего поколения»[56], официально провозгласивший развитие искусственного интеллекта национальным приоритетом. В первой части данного плана – «Стратегическая ситуация» – указывается, что искусственный интеллект – это двигатель экономического развития, его развитие способствует созданию новых технологий, продуктов, отраслей промышленности, вызывая принципиальные изменения в экономической структуре общества, глубоко меняя производство, образ жизни и мышления людей. План КНР содержит национальную стратегию, направленную на расширение научных исследований, развитие талантов, промышленные преобразования, установление нормативов, стандартов, этических норм и решение вопросов безопасности. Цель, заявленная в «Плане развития искусственного интеллекта следующего поколения» – привести Китай к 2030 году к мировому лидерству в сфере искусственного интеллекта.

План включает три этапа реализации:

1. Занятие конкурентоспособной позиции в сфере искусственного интеллекта на мировом рынке (уравнивание потенциала Китая с основными конкурентами) – до 2020 года.

2. Осуществление прорыва в теории искусственного интеллекта и его использовании на практике в различных секторах экономики – до 2025 года.

3. Достижение глобального лидерства в экономике искусственного интеллекта и связанных с ним технологиях – до 2030 года.

Среди государственных задач КНР:

– построение открытой и расположенной к сотрудничеству инновационной системы технологий искусственного интеллекта;

– создание целостной системы технологий искусственного интеллекта нового поколения;

– ускорение обучения и отбора высококлассных специалистов в области искусственного интеллекта;

– поддержка создания «умных» производств;

– построение «умных» городов, с интеллектуализацией социального управления, сквозной, эффективной интеллектуальной инфраструктурой обеспечения общественной безопасности;

– усиление военно-гражданской интеграции в области искусственного интеллекта (технологии двойного назначения);

– создание этических норм и законодательной базы, способствующих развитию искусственного интеллекта (планом предусмотрено проведение исследований по правовым вопросам, в том числе особое внимание уделено регулированию результатов прикладных технологий, таких как автономное вождение и использование сервисных роботов для создания правовой основы ускоренного применения новых технологий);

– установление национальных стандартов по технологиям искусственного интеллекта;

– расширение использования искусственного интеллекта для профессионального обучения;

– популяризация искусственного интеллекта в обществе и т.д.

«План развития искусственного интеллекта следующего поколения» объединяет усилия органов власти, частных компаний и академических кругов Китая в занятии лидирующей позиции в области технологий искусственного интеллекта и увязан с другими стратегическими документами.

В 2018 году Китайской ассоциации искусственного интеллекта (CAAI) правительством была поручена разработка руководящих этических принципов искусственного интеллекта. Необходимо упомянуть, что ограничениям этического плана в КНР придается гораздо меньше значения, чем в США и, тем более, чем в странах Европейского союза. К примеру, китайское правительство использует технологии распознавания лиц в общественных местах, что признается нарушением прав человека в Европе и в США.

В мае 2019 года были опубликованы «Пекинские принципы искусственного интеллекта» (Beijing AI Principles)[57], сформулированные коалицией, участниками которой выступили Китайская академия наук,  Пекинская академия искусственного интеллекта, Пекинский университет, Университет Цинхуа, Институт автоматизации и Институт вычислительных технологий, компании – лидеры рынка Baidu, Alibaba и ряд других. Принципы призывают к «созданию человеческого сообщества с общим будущим и реализации полезного для человечества и природы искусственного интеллекта» и включают в числе прочих: служение человеческим ценностям, таким как неприкосновенность частной жизни, достоинство и свобода, постоянное внимание к безопасности искусственного интеллекта, инклюзивность, открытость, поддержку международного сотрудничества и долгосрочное планирование.

Регулирование искусственного интеллекта в странах Европейского союза. Германия, Франция, Нидерланды, Бельгия, Италия и другие европейские страны могут претендовать на экономическую мощность, сопоставимую с США и Китаем, только объединившись и выступая «единым фронтом», которым и стало создание Европейского союза. Несмотря на сохранение суверенитета каждого из государств, ряд полномочий передан общеевропейским структурам, поэтому национальное правовое регулирование в странах – членах Европейского союза осуществляется с учетом общих европейских правил. Если национальное законодательство по какому-либо вопросу уже сформировалось ранее, то дальше оно развивается в русле «гармонизации» с общеевропейским нормативным регулированием в данной области. Общеевропейское регулирование относится к международно-правовому регулированию, носящему региональный характер. Если же национальное законодательство в этой области только начинает формироваться в силу новизны регулируемых отношений, то общеевропейские рамки изначально берутся за основу для создания национальных норм права. Таким образом, национальное регулирование искусственного интеллекта в странах членах – Европейского союза сейчас начинает формироваться на основе документов, разработанных представителями этих стран в общеевропейских структурах.

В 2016 году Комитет по правовым вопросам Европейского парламента поручил отделу по правам граждан и конституционным вопросам провести исследование о европейских нормах гражданского права в робототехнике. Отчет по итогам исследования представлен на сайте Европейского парламента[58]. После этого был разработан комплексный документ, посвященный базовому регулированию робототехники.

16 февраля 2017 года Европейским парламентом была одобрена резолюция для Европейской комиссии относительно норм гражданского права о робототехнике[59] с предложением признать специальный правовой статус электронного лица (Electronic Personhood) для сложных роботов, принимающих самостоятельные решения в целях создания возможностей для возложения на роботов ответственности за причинение ущерба (например, причиненного беспилотным автомобилем). Для реализации этого требуется внесение поправок в ряд действующих документов: Венскую конвенцию о дорожном движении, Гаагскую конвенцию о праве, применимом к дорожно-транспортным происшествиям и т.д.

К настоящему моменту в Европейском союзе разработан целый ряд программных документов по развитию искусственного интеллекта. В большинстве из них присутствует акцент на необходимости формирования этических границ. Среди подобных документов:

– Декларация о сотрудничестве в области искусственного интеллекта от 10 апреля 2018 года (Declaration of cooperation on Artificial Intelligence)[60]. Декларация подписана представителями 25 европейских стран, в том числе не являющихся членами Европейского союза, в частности Норвегии. Государства, подписавшие Декларацию, договариваются работать над интегрированным европейским подходом к развитию искусственного интеллекта, проводя согласованную национальную политику в целях повышения конкурентоспособности Европейского союза, и создавать центры цифровых инноваций на общеевропейском уровне;

– Коммюнике «Искусственный интеллект для Европы» от 25 апреля 2018 года (Communication Artificial Intelligence for Europe)[61]. Документ содержит описание стратегии развития искусственного интеллекта в Европейском союзе, в нем говорится о влиянии технологий искусственного интеллекта на экономику и общество (сравнивается с электричеством), о риске отставания от главных конкурентов – США и Китая, а также о необходимости создания единого «цифрового рынка» с общими требованиями к кибербезопасности;

– Согласованный план по искусственному интеллекту от 7 декабря 2018 года (Coordinated Plan on Artificial Intelligence)[62], учитывающий необходимость антропоцентричного подхода к развитию искусственного интеллекта;

– Руководство по этике для надежного искусственного интеллекта от 8 апреля 2019 года (Ethics guidelines for trustworthy AI)[63];

– Политические и инвестиционные рекомендации для надежного искусственного интеллекта от 26 июня 2019 года (Policy and investment recommendations for trustworthy Artificial Intelligence)[64];

– «Белая книга искусственного интеллекта: европейский подход к совершенству и доверию» от 19 февраля 2020 года (White Paper on Artificial Intelligence: a European approach to excellence and trust)[65], опубликованная Европейской комиссией, направленная на развитие европейской экосистемы в рамках политики, позволяющей обеспечить надежное и безопасное развитие искусственного интеллекта при полном уважении ценностей и прав граждан Европейского союза и предназначенная для общественного обсуждения.

 Для реализации общеевропейской стратегии по развитию искусственного интеллекта с 2018 года запущена интернет-платформа AI Alliance.

В 2020 году предполагается принятие Руководящих принципов по этике искусственного интеллекта (Ethics Guidelines for Trustworthy Artificial Intelligence), проект документа был создан еще в 2018 году, после чего доработан и проходит обсуждение, далее последует рассмотрение в Европейской комиссии[66]. В проекте Руководящих принципов перечисляются ключевые требования, основанные на фундаментальных правах и этических принципах, которым должны соответствовать системы искусственного интеллекта: подконтрольность человеку, техническая безопасность, сохранение конфиденциальности, прозрачность, недискриминация и справедливость, общественное и экологическое благополучие и т.д.

Большинство перечисленных документов, составляющих европейскую стратегию развития искусственного интеллекта, подготовлены созданной при Европейской комиссии группой экспертов HLEG (High-Level Expert Group on Artificial Intelligence). Этой группой сформулировано и определение понятия «искусственный интеллект»[67].

Среди стран – участниц Европейского союза Германия и Франция выступают лидерами экономического и технологического развития и,  соответственно, «ключевыми европейскими игроками в глобальной гонке искусственного интеллекта»[68]. 14 ноября 2018 года правительством ФРГ была утверждена стратегия по развитию сферы искусственного интеллекта до 2025 года (KI-Strategie)[69]. Стратегия определяет 12 областей деятельности в сфере искусственного интеллекта.

В конце 2019 года Федеральное объединение немецкой промышленности (BDI) опубликовало документ, содержащий рекомендации для немецкой и общеевропейской стратегий по развитию искусственного интеллекта, указывая на необходимость фокусирования исследований в сфере искусственного интеллекта в той области, в которой страна является мировым лидером, для Германии – это область промышленных технических разработок: «умное» производство и робототехника, создание гибридных систем искусственного интеллекта, комбинирующих экспертные знания человека и адаптивные методы искусственного интеллекта, для которых не требуются больших объемов данных.

Во Франции национальная стратегия развития искусственного интеллекта была представлена Президентом Франции Эммануэлем Макроном во время конференции «Искусственный интеллект для человечества» (IA pour l'humanité), которая состоялась 29 марта 2018 года в Париже. Цель стратегии – продвигать Францию ​​в число лидеров в области искусственного интеллекта, сектора, в котором в настоящее время доминируют США и Китай. Положения стратегии формировались во многом на основе доклада, подготовленного группой экспертов, возглавляемой математиком и депутатом парламента Франции Седриком Виллани, для правительства в 2018 году[70]. Доклад содержит анализ проблем, ставших актуальными в мировом масштабе. Среди этих проблем   несоответствие имеющегося законодательства новым рискам и новым ситуациям, связанным с развитием цифровых технологий и с внедрением искусственного интеллекта в производство.

Французская стратегия направлена на реализацию плана по искусственному интеллекту до 2022 года, включающего четыре основных направления развития:

– усиление во Франции и в Европе экосистемы искусственного интеллекта;

– инициирование политики открытости данных;

– адаптация нормативных рамок, как национальных, так и европейских;

– определение этических и политических проблем искусственного интеллекта.

28 ноября 2018 года в Тулузе министром высшего образования, исследований и инноваций Фредериком Видалем была представлена национальная стратегия исследований в области искусственного интеллекта, период реализации которой совпадает со сроками, установленными в общей стратегии развития искусственного интеллекта (до 2022 года).

Стратегии развития искусственного интеллекта как основа для правового регулирования в иных странах. Национальные стратегии развития искусственного интеллекта к началу 2020 года были приняты более, чем в 30 странах мира: в Японии, Южной Корее, Сингапуре, Великобритании, Канаде, ОАЭ и т.д. В процесс разработки стратегий включаются все новые государства.

Министерство науки, информационных технологий и планирования будущего Южной Кореи (MSIP) сформулировало национальную стратегию развития информационной индустрии искусственного интеллекта еще в 2016 году. 70-страничный доклад назывался «Среднесрочный и долгосрочный генеральный план подготовки к интеллектуальному информационному обществу: управление Четвертой промышленной революцией»[71]. В докладе искусственный интеллект рассматривался наряду с другими конвергентными технологиями, такими как «интернет вещей», облачные вычисления, анализ больших данных и мобильные технологии.

Стратегия, определенная в докладе, нацелена на развитие интеллектуального информационного общества на основе государственно-частного партнерства, где ведущие роли играют бизнес и граждане, а правительство и исследовательское сообщество оказывают поддержку. Упоминается про необходимость установления правовых и этических рамок через принятие рамочного законодательства.

17 декабря 2019 года правительством Южной Кореи была обнародована новая стратегия на ближайшие 10 лет. Стратегия утверждает негативный подход к регулированию – «дерегулирование», предполагающее прекращение регулирования большого числа научно-исследовательских и опытно-конструкторских работ в области искусственного интеллекта и увеличение финансирования разработок, в частности, в «интегрированные модули питания (PIM), которые представляют собой микросхемы искусственного интеллекта, имитирующие человеческий мозг»[72].

Каждый военнослужащий и каждый новый государственный чиновник с 2020 года должен иметь соответствующее образование. Обязательным становится образование в области искусственного интеллекта в начальных и средних школах. К 2030 году планируется создание 2000 «умных» заводов.

В 2017 году Советом по стратегии в области технологий искусственного интеллекта, созданным правительством Японии, была сформулирована «Стратегия в области технологий искусственного интеллекта»[73], основное внимание в которой уделяется содействию развитию искусственного интеллекта, установлению этапов и приоритетов в этой области.

В марте 2019 года правительством Японии были одобрены «Социальные принципы искусственного интеллекта, ориентированные на человека», а в июне появилась Стратегия искусственного интеллекта – 2019 (AI Strategy 2019. AI for Everyone: People, Industries, Regions and Governments)[74], предусматривающая реализацию комплекса программ по развитию искусственного  интеллекта в целях повышения конкурентоспособности промышленности Японии.

Осенью 2019 года стратегию по достижению мирового лидерства в области искусственного интеллекта обнародовал Сингапур. Стратегия рассчитана на период до 2030 года и акцентирует внимание на пяти ключевых областях: транспорт и логистика, муниципальные службы, выявление и лечение хронических заболеваний, индивидуализированное обучение и контроль границ.

К 2025 году предусмотрена полная автоматизация иммиграционного контроля в Сингапуре, а датчики для систем искусственного интеллекта планируется широко использовать для профилактического обслуживания общественной инфраструктуры. Введение автоматизированной сдачи экзаменов студентами по английскому языку запланировано с 2022 года, по остальным предметам – к 2030 году. Кроме того, создано Национальное ведомство по искусственному интеллекту в целях координации научных, промышленных и правительственных усилий.

Одной из первых сформулированных национальных стратегий искусственного интеллекта может быть названа Пан-канадская стратегия искусственного интеллекта, подготовленная по поручению правительства Канады в 2017 году[75]. Заявленные в этой стратегии цели:

– увеличение числа выдающихся исследователей искусственного интеллекта и квалифицированных специалистов в данной области;

– создание взаимосвязанных научных центров;

–  развитие мирового лидерства в вопросах экономического, этического, политического и правового регулирования в области искусственного интеллекта.

Для достижения целей стратегии в Канаде реализуется Программа AI & Society.

В «Белой книге» правительственной промышленной Стратегии Великобритании (UK Industrial Strategy White Paper)[76] 2017 года обеспечение глобального лидерства в революции данных и искусственном интеллекте названо в числе четырех важнейших стратегических задач, стоящих перед Великобританией. В данном документе намечен ряд мер, касающихся искусственного интеллекта, которые позже были конкретизированы в национальной стратегии по искусственному интеллекту, именуемой «Программа секторального государственно-частного партнерства по развитию искусственного интеллекта» (AI Sector Deal), обнародованной в апреле 2018 года. Среди таких мер – создание Совета по искусственному интеллекту, призванного руководить деятельностью по развитию искусственного интеллекта, контролировать осуществление государственной политики, поощрять промышленность и консультировать правительство по вопросам искусственного интеллекта.

Государственно значимой задачей в области развития искусственного интеллекта является подготовка экономики и общества к сопровождающим такое развитие преобразованиям и обеспечение основ для укрепления глобального положения Великобритании как лидера в разработке технологий искусственного интеллекта. Стратегия направлена ​​на улучшение положения Великобритании в следующих пяти ключевых областях:

1) идеи – создание самой инновационной экономики в мире;

2) люди – хорошая работа и большой доход для всех;

3) инфраструктура – серьезное обновление инфраструктуры;

4) бизнес-среда – формирование лучших условий для создания и развития бизнеса;

5) места проживания – создание процветающих сообществ по всей Великобритании.

Правительством Великобритании инициирована разработка руководящих этических принципов для устойчивого, прозрачного, воспроизводимого использования искусственного интеллекта с четкими определениями ответственности, обязательств и вопросов защиты данных. С этой целью создан Центр этики данных и инноваций (Centre for Data Ethics and Innovation).

10 июня 2019 года государственной цифровой службой (Government Digital Service) и Управлением по искусственному интеллекту (Office for Artificial Intelligence)[77] опубликовано Руководство по этике и безопасности искусственного интеллекта (Guidance. Understanding artificial intelligence ethics and safety), ставшее частью комплекса материалов по использованию искусственного интеллекта в государственном секторе. Руководство подготовлено на основе более подробного материала Института Алана Тьюринга и определяет этику искусственного интеллекта через набор ценностей, принципов и методов, которые используют общепринятые стандарты для руководства нравственным поведением при разработке и использовании систем искусственного интеллекта.

 

Тема 6. Искусственный интеллект и публичное право

Конституционное право. Будучи «сквозной» технологией, искусственный интеллект оказывает воздействие практически на все отрасли экономики, влияет на разные сферы жизнедеятельности общества, развивающегося по пути цифровизации. Технологии искусственного интеллекта все чаще применяются для принятия политических и деловых решений с широкими социальными последствиями, при этом данные технологии становятся более сложными, затрудняя определение того, используются ли они в соответствии с законом.

Наступает эра активного применения искусственного интеллекта для управления в экономике, обществе и государстве. Прежнее нормативно-правовое регулирование различных сфер социальной жизни нуждается в существенной модернизации. Как правила дорожного движения, рассчитанные на регулирование езды на лошадях, сменились правилами автомобильного движения, так сегодня зарождается новое право, регулирующее экономические, политические и социальные отношения в контексте мира цифр, больших данных, роботов, искусственного интеллекта[78]. По мнению большинства правоведов, право должно выступать регулятором технологических процессов, «определять социально оправданный коридор вторжения человека в искусственный мир новых технологий»[79].

В конституции каждого государства как нормативном правовом акте, как правило, обладающем высшей юридической силой, фиксируются основы общественного строя и государственного управления. Назрела проблема конституционализации отношений, свойственных цифровому обществу. В ряде стран уже начат процесс внесения дополнений о цифровых правах личности в конституционное законодательство.

Среди принятых законов, регулирующих отношения в условиях цифровизации общества, можно назвать Закон Франции «О цифровой Республике» (Loi pour une République numérique) 2016 года[80]. В 2018 – 2019 годах во Франции началось публичное обсуждение преобразований, связанных с цифровой трансформацией, включающих конституционную реформу и изменение ряда законов[81]. В январе 2020 года в Национальное собрание Франции депутатом Пьером Аленом Рафаном было внесено предложение о принятии Хартии искусственного интеллекта и алгоритмов (Charte de l’intelligence artificielle et des algorithmes), после регистрации оно было передано на рассмотрение в парламентский комитет по конституционному законодательству. Согласно тексту законопроекта, «точно так же как вирусы в течение длительного времени интегрируются в генетическое наследие человека, технологии становятся частью мышления» [82].

Авторами проекта предлагается включить в преамбулу французской конституции ссылку на новый конституционный закон, а в самом законе зафиксировать ряд принципиальных вопросов, например: действия, которые необходимо принимать во внимание для регулярного аудита систем искусственного интеллекта и оценки их эволюции в получении автономии (статья 4); ограничения для предотвращения злонамеренных манипуляций (статья 5) и т.д.

Согласно статье 1 законопроекта, действие закона будет распространяться как на киберфизические системы, так и на виртуальные. «Система… не обладает правосубъектностью и поэтому не может обладать субъективными правами. Однако обязательства, вытекающие из правосубъектности, ложатся на юридическое или физическое лицо», которое использует эту систему, «становясь де-факто ее законным представителем».

Таким образом, в условиях цифровизации начат процесс формирования нового права, регулирующего отношения с учетом развивающейся цифровой реальности и искусственного интеллекта.

Группа европейских исследователей-конституционалистов на страницах «Международного журнала техноэтики» (International Journal of Technoethics) в статье «Роботехнологии и основные права: робототехника бросает вызов европейской конституционной структуре»[83] акцентирует внимание читателей на том, что все более тесное «переплетение» технологий с человеческой жизнью поднимает вопросы, требующие правового регулирования этого взаимодействия. Развитие искусственного интеллекта уже влияет на толкование прав человека.

В своей статье «Конституционная демократия и технология в эпоху искусственного интеллекта»[84] профессор права Европейского колледжа Брюгге Поль Немиц настаивает на том, что, учитывая предсказуемое распространение искусственного интеллекта в современном обществе, пора разрешить вопрос: какие моменты, связанные с распространением искусственного интеллекта, могут быть оставлены  этике, а какие должны решаться с помощью закона?

Поступательное расширение влияния технологий искусственного интеллекта на современное общество ставит вопросы:

– как регулировать фактическое участие искусственного интеллекта в общественных отношениях различной направленности?

– можно и нужно ли будет признать системы искусственного интеллекта следующего поколения (например, так называемых «умных» роботов) субъектами права?

– каким образом использовать возможности, предоставляемые искусственным интеллектом, для совершенствования правового регулирования и правоприменения?

По мнению некоторых исследователей, необходимо формирование новых правовых институтов, носящих комплексный (межотраслевой) характер, для урегулирования принципиальных вопросов об ответственности за действия систем искусственного интеллекта, об этике принятия решений системой искусственного интеллекта и о правах искусственного интеллекта – оспариваемых морально-прагматических основаниях для предоставления искусственному интеллекту правосубъектности[85].

Другие исследователи, например, судья Конституционного Суда Российской Федерации Гадис Гаджиев, настаивают на том, что в конституции в обозримом будущем не должно быть каких-либо разделов об искусственном интеллекте[86].

Выдвигая аргументы «за» или «против» признания искусственного интеллекта субъектом права, исследователи нередко говорят о этической стороне вопроса: имеет ли человек моральное обязательство предоставлять искусственному интеллекту правосубъектность? (ведь если «умные» роботы, способные к социальному общению, будут исключены из общепринятой концепции субъектов морали, это будет подобно ущемлению прав какой-либо группы людей)[87]. Преобладающее мнение – современные системы искусственного интеллекта не имеют достаточно общих с людьми характеристик, чтобы возникло моральное обязательство признавать их субъектами права[88].

Если по вопросу о признании за искусственным интеллектом статуса субъекта права большинство исследователей в настоящее время высказывают отрицательную позицию, то вопрос об использовании возможностей искусственного интеллекта для совершенствования законодательства и законодательного процесса находит поддержку у значительного числа авторов.

Внедрение машинного обучения и использования искусственного интеллекта в законотворческой деятельности уже происходит в некоторых странах. К примеру, в Италии реализуется проект Datafication, включающий оцифровку законотворческого процесса и применение систем искусственного интеллекта, в том числе для автоматизированного анализа частоты использования нормативных правовых актов.

Основным моментом в процессе цифровизации законодательства станет создание машиночитаемого права – описание нормативных правовых актов в машиночитаемой форме – формате, который легко обрабатывается компьютерными программами. Одним из первых национальных законов, предусмотревших машиночитаемость общедоступных активов органов власти, стал Закон США об открытых данных правительства (The Foundations for Evidence-Based Policymaking Act)[89], подписанный Президентом США 14 января 2019 года. В настоящее время работа по «переписыванию» законов в виде программного кода ведется в Германии, Великобритании, Новой Зеландии и иных странах.

Паспорт национальной программы «Цифровая экономика Российской Федерации» включает создание российской концепции машиночитаемого права и поэтапную автоматизацию отдельных процессов нормотворчества, внедрение механизмов создания машиночитаемых норм и использования возможностей современных и перспективных технологий искусственного интеллекта.

В июле 2019 года Министерство экономического развития Российской Федерации анонсировало создание единой цифровой платформы законопроектов, охватывающей все стадии рассмотрения проектов в режиме реального времени, что позволит добавлять комментарии и предлагать изменения онлайн. На 2020 год план изменений включает тестирование перевода нормативных актов в машиночитаемый формат[90].

Административное право. Согласно таблице 9 российской Дорожной карты развития технологий искусственного интеллекта в области нормативного регулирования до 2024 года должен быть получен ряд результатов[91], достижение которых возможно только при условии включения новых положений в отраслевое законодательство.

Вопросы, связанные с изменениями в системе государственного управления, вызванными возрастающим использованием искусственного интеллекта, находятся в центре внимания специалистов по административному праву. Государство все более превращается в цифровую платформу для реализации эффективного контроля и предоставления государственных услуг, а задача построения «цифрового государства» сводится к стандартизации и автоматизации административных процедур[92]. Чтобы не утратить гибкость и лабильность государственно-правовой системы, развитие «цифрового государства» требует разработки и внедрения прорывных технологий, основанных на искусственном интеллекте, причем не только для обработки и анализа накопленных объемов данных, но и для развития системы принятия решений, связанных с юридическим процессом[93].

В рамках национальной программы «Цифровая экономика Российской Федерации» предусмотрена реализация Федерального проекта «Цифровое государственное управление». Технологии искусственного интеллекта могут существенно повысить качество правоприменения в органах исполнительной власти. Искусственный интеллект может значительно ускорить и упростить выполнение возложенных на эти органы публичных правомочий, в том числе правомочий, связанных с правоприменительной деятельностью.

Искусственный интеллект способен оптимизировать многие административные процедуры, ускорив решение вопросов, исключив «человеческий фактор» из процесса, тем самым повысив эффективность результатов работы.

Переход от ручного управления процессами к активному использованию алгоритмического управления на федеральном, региональном и муниципальном уровнях позволит реализовать концепцию «умных» городов с автоматизированными системами управления и контроля и исключить противоречия между многочисленными ведомственными и региональными требованиями по соблюдению безопасности.

Процесс цифровизации в сфере государственного управления идет достаточно давно. Подтверждением этого служит создание нормативной основы для «электронных правительств», под которыми понимается организация деятельности органов публичной власти с широким применением новых технологий для обмена и обработки информации. В настоящее время идея «электронного правительства» воплощается через различные государственные программы развития в США, Франции, Германии, Канаде, России и многих других странах.

Принципиально новые возможности использования технологий возникают при применении систем искусственного интеллекта для реализации полномочий государственных органов по вопросам безопасности, противодействию террористическим угрозам. Это требует нахождения оптимального компромисса между возможностью доступа интеллектуальных систем, используемых правоохранительными органами, к информации и правами граждан на конфиденциальность этой информации.

В Резолюции Генеральной Ассамблеи ООН от 18 декабря 2013 года № 68/167 «Право на неприкосновенность личной жизни в цифровой век» отмечается, что быстрые темпы развития технологий повышают способность правительств перехватывать и собирать информацию, что может нарушать или ущемлять права человека (особенно право на неприкосновенность личной жизни). Необходимость обеспечения общественной безопасности может оправдывать сбор и защиту некоторой конфиденциальной информации, но государства должны гарантировать соблюдение в полном объеме своих международно-правовых обязательств в сфере прав человека.

Внедрение искусственного интеллекта в судопроизводство способно усовершенствовать процессы, но повлечет серьезные изменения: в познавательно-доказательственной базе (работа с электронными доказательствами, новые виды судебных экспертиз), в организации работы суда (электронный документооборот, электронное дело, интеллектуальные системы анализа материалов дел) и т.д. Работа судов с использованием технологий искусственного интеллекта уже присутствует в Китае[94].

По мнению экс-президента Национального совета адвокатов Франции Тьерри Викерса, постепенно обращение в суд должно целиком перейти в онлайн-режим через соответствующие платформы с элементами искусственного интеллекта, которые будут решать юридические вопросы, распределяя судебные процессы, выявляя приоритетные споры, которые заслуживают ускоренного рассмотрения, сводя на нет процессуальные и материальные ошибки, помогая юристам соблюдать процессуальные сроки, напоминая о них и предлагая перечни возможных действий, уравновешивая когнитивные искажения и исключая предвзятость при осуществлении правосудия[95].

Развитие беспилотного транспорта, по мнению специалистов, также потребует внесения поправок в законодательство, в частности, в Кодекс Российской Федерации об административных правонарушениях, а также ряд федеральных законов: «О безопасности дорожного движения», «Об автомобильных дорогах и дорожной деятельности в Российской Федерации и о внесении изменений в отдельные законодательные акты Российской Федерации» и т.д. Сейчас в отношении допуска на дороги общего пользования беспилотников существует правовая неопределенность[96].

Уголовное право. В современных исследованиях по уголовному праву и криминологии активно обсуждаются вопросы применения искусственного интеллекта, правового регулирования общественных отношений, возникающих при разработке, проектировании, производстве, использовании и модификации искусственного интеллекта[97].

Важнейшей проблемой регулирования искусственного интеллекта и робототехники с точки зрения уголовного права является проблема ответственности: кто несет ответственность за действия робота, особенно разумного[98]. Наблюдается запаздывание уголовно-правового реагирования на изменяющиеся общественные отношения, связанные с эксплуатацией достижений науки и техники представителями преступности[99]. Перспективным направлением в области уголовно-правовой охраны становится защита прав по использованию искусственного интеллекта. К примеру, некоторые исследователи считают необходимым внесение в Уголовный кодекс Российской Федерации нового состава преступления, предусматривающего ответственность за применение искусственного интеллекта в преступных целях. При этом указывается, что с появлением «сильного» искусственного интеллекта встанет вопрос о признании его субъектом преступления, пока же регулирование должно касаться искусственного интеллекта как способа совершения преступления, ответственность за такое использование должно нести лицо, его создавшее, и непосредственный исполнитель[100].

В зарубежной, преимущественно американской, доктрине вопрос об уголовно-правовом «вмешательстве» в деятельность искусственного интеллекта ставится в плоскость решения главной проблемы: что надо делать в случае, когда «робот убил человека» либо причинил существенный вред здоровью человека?[101] Габриэль Халлеви, профессор уголовного права юридического факультета Академического колледжа Оно, крупнейшего юридического факультета в Израиле и один из авторитетных специалистов в области «права роботов», указывает на то, что растущее использование искусственного интеллекта в коммерческой, промышленной, военной, медицинской и иных сферах вызвало широкую дискуссию: каковы юридические последствия причинения вреда жизни или здоровью искусственным интеллектом? Предлагаемое им решение – в разработке специальной теории уголовной ответственности за действия искусственного интеллекта и роботов, которая бы охватывала «производителя, программиста, пользователя и всех других вовлеченных лиц»[102].

При этом особое внимание должно уделяться объективной стороне – поведению лица, так или иначе связанного с деятельностью искусственного интеллекта, а также кругу обязанностей, возложенных на такое лицо, несоблюдение либо ненадлежащее исполнение которых привело к причинению искусственным интеллектом вреда. В случае, если применительно к поведению человека не доказано несоблюдение или ненадлежащее соблюдение соответствующей обязанности, констатируется отсутствие причинной связи между поведением искусственного интеллекта и наступившими последствиями, и уголовная ответственность такого лица исключается[103].

Применение искусственного интеллекта как инструмента в уголовном праве и криминалистике может быть связано с прогнозированием совершения преступлений: искусственный интеллект в состоянии делать прогнозы о том, где, когда и кем могут быть совершены определенные преступления, а также оценивать вероятность того, что подозреваемый, обвиняемый или осужденный совершит преступление в дальнейшем.

Таким образом, возрастает потребность включения в уголовное законодательство норм, устанавливающих составы преступлений, связанные с совершением общественно опасных деяний посредством использования нейронных сетей, систем искусственного интеллекта. Деятельность самообучаемых программ может представлять общественную опасность и причинять вред общественным отношениям, охраняемым уголовным законом.

Исследование субъективных признаков позволяет сформировать перечень субъектов преступлений, связанных с искусственным интеллектом: производитель программы, производитель или продавец продукции, оснащенной искусственным интеллектом, пользователь продукции, оснащенной искусственным интеллектом, иные лица[104].

В процессе применения искусственного интеллекта возможны четыре ситуации, требующие уголовно-правового регулирования:

– при создании системы искусственного интеллекта была допущена ошибка, приведшая к совершению преступления;

– в систему искусственного интеллекта был осуществлен неправомерный доступ, повлекший повреждение или модификацию ее функций, вследствие чего было совершено преступление;

– искусственный интеллект, обладающий способностью к самообучению, принял решение о совершении действий/бездействия, квалифицируемых как преступление;

– искусственный интеллект был создан преступниками для совершения преступлений.

Открытым остается вопрос, кто должен нести ответственность за действия искусственного интеллекта, обладающего способностью к самообучению, который принял решение о совершении действий/бездействия, квалифицируемых как преступление. Вследствие этого возникает потребность в формировании системы уголовно-правовых мер противодействия преступлениям, совершаемым с применением искусственного интеллекта. Между тем автономный, способный к самообучению искусственный интеллект существенно отличается от других явлений и объектов, ввиду чего гораздо сложнее обстоит дело с ответственностью искусственного интеллекта, принявшего решение о совершении деяний, квалифицируемых как преступление, самостоятельно[105]. Привлечение искусственного интеллекта к уголовной ответственности может иметь место в обозримом будущем, когда система на основе самостоятельно выработанного алгоритма совершает деяние, влекущее за собой общественно опасные последствия, либо таковые наступают в результате невыполнения системой действий, предусмотренных изначальным алгоритмом, то есть если действие приобретает волевой виновный характер[106].

Финансовое право. Вопрос регулирования искусственного интеллекта финансовым правом будет поднят в ближайшее время в связи с расширяющимся использованием инструментов на основе искусственного интеллекта в сфере налогообложения, где важна точность, эффективность и быстрота в обращении с большим массивом данных. Скоро эту систему будет невозможно представить без технологий искусственного интеллекта[107].

Примеры использования искусственного интеллекта в сфере налогообложения включают:

– обработку налоговых уведомлений, когда сканированная фотография счета преобразуется в текст, считывается роботом и заносится в базу данных;

– прогнозирование остатков по счетам и оборотным ведомостям для точного высчитывания налоговой базы, определения вычетов и внесения корректировок;

– рутинную работу по уплате налогов, например, налога на прибыль, начиная со сбора информации по ведомостям, заканчивая подачей декларации;

– создание чат-ботов, которые, обладая обширной базой данных, будут консультировать по вопросам налогообложения.

Модернизация технологий расширяет возможности налоговых сервисов, постепенно создается некая «адаптивная платформа» налогового администрирования, которая начинает работать исключительно с цифровыми источниками данных и с цифровыми идентичностями налогоплательщиков, оперируя в режиме реального времени и со встроенным налоговым комплаенсом.

Эффективность налогового контроля предполагает максимальное поступление налоговых платежей при минимальных затратах, поэтому вопрос введения автоматизированной информационной системы в свое время решался быстро. Применение разнообразных электронных данных, облачных систем и компьютерных алгоритмов уже признано и оценено налоговыми органами разных государств в качестве эффективных инструментов налогового администрирования.

Искусственный интеллект способен анализировать данные, обрабатывая платежи и документы, оценивать кредитоспособность и риски, что также может быть использовано в мероприятиях налогового контроля. Процесс автоматизации налогового контроля эволюционирует и двигается быстрыми темпами, направление и скорость преобразований налогового администрирования в ближайшем будущем будут совершенствоваться и подстраиваться под новые инновационные технологические процессы[108].

К примеру, Федеральная налоговая служба России уже начала внедрение инструментов на базе искусственного интеллекта, «интернета вещей» и блокчейна для повышения эффективности сбора налогов, их использование потребует отражения и учета в нормах права.

 

Тема 7. Искусственный интеллект и частное право

Гражданское право. В настоящее время продолжается распространение систем искусственного интеллекта на производстве и в быту. К примеру, интеллектуальные компьютерные приложения и роботы-пылесосы покупаются потребителями, промышленные роботы интегрируются в производственную сферу, таким образом системы искусственного интеллекта участвуют в гражданском обороте, являясь объектами гражданского права. Чем более сложной является автономная система, тем больше вопросов к ее статусу, ведь некоторые из этих систем могут самосовершенствоваться, выходя за пределы замысла разработчика, и создавать новые объекты, изобретения, подобных которым ранее не существовало.

Соответственно, среди обсуждаемых специалистами по гражданскому праву проблемных вопросов присутствуют вопросы об ответственности за вред, причиненный искусственным интеллектом, о возможном статусе системы искусственного интеллекта как субъекта гражданского права, способного нести юридическую ответственность за свои действия, о праве интеллектуальной собственности на произведения, созданные с участием искусственного интеллекта.

Искусственный интеллект сейчас не признается субъектом права, хотя вопрос о его правосубъектности уже дискутируется среди исследователей и политиков. К примеру, как уже упоминалось выше, 16 февраля 2017 года Европейским парламентом была одобрена Резолюция относительно норм гражданского права о робототехнике, предлагающая признание специального правового статуса электронного лица (Electronic Personhood) для сложных роботов, принимающих самостоятельные решения. Резолюция была ответом на доклад, подготовленный по итогам исследования о европейских нормах гражданского права в робототехнике отделом по правам граждан и конституционным вопросам Комитета по правовым вопросам Европейского парламента. В докладе прямо указывалось на риск дегуманизации, связанной с распространением «умных» роботов. Авторы доклада выступили против признания за роботами статуса субъекта права, чтобы не допустить уравнивания естественного и искусственного интеллектов (человека и машины).

Вопрос о признании искусственного интеллекта субъектом права изначально был поднят в связи с проблемой возложения ответственности за ущерб, причиненный искусственным интеллектом. Ведь на практике уже встречаются ситуации причинения вреда человеку, например, роботом. Количество таких ситуаций будет увеличиваться с дальнейшим распространением систем искусственного интеллекта. Как и в уголовном, административном праве в гражданском праве тоже возникает вопрос: кто должен нести ответственность: изобретатель, инженер-программист, производитель, владелец/пользователь, сама система искусственного интеллекта? Важно найти разумный баланс между новыми технологиями и конструкциями традиционного права, оставив место и для изменений в будущем[109].

В условиях усложнения технологий искусственного интеллекта установить контроль человека над результатами его деятельности становится все труднее, даже если система искусственного интеллекта управляется человеком, он может иметь ограниченный контроль над возможными действиями и реакциями системы, разработчики также не всегда в состоянии предугадать поведение самообучающихся систем – это требует осмысления единого подхода к определению возможной правосубъектности и юридической ответственности искусственного интеллекта. Факт объективного существования систем искусственного интеллекта, обладающих способностью определенного рода воздействия на окружающий материальный мир, является очевидным[110].

В связи с этим предлагаются разные модели гражданско-правового регулирования искусственного интеллекта, к примеру:

1) его можно рассматривать как особый вид имущества, подобно животным, которые, по закону являясь имуществом, также могут вести себя автономно, тогда отвечать за искусственный интеллект должен владелец. Однако, существующие нормы созданы в первую очередь для домашних питомцев, которые не должны причинять вред при обычных обстоятельствах;

2) его можно рассматривать как электронное лицо, урегулировав статус подобно юридическим лицам. Проблемой останется то, что действия юридических лиц всегда восходят к действиям индивида или группы людей, а действия систем искусственного интеллекта не обязательно будут прямо восходить к действиям человека. Тем не менее, получив особый правовой статус электронного лица, искусственный интеллект может быть наделен обязанностью самостоятельно отвечать за причиненный ущерб.

По мнению одних правоведов, к примеру, уже упомянутого в предыдущих темах Антона Иванова, проблему правового регулирования отношений с участием искусственного интеллекта проще решить без признания его субъектом гражданского права, достаточно признать его имуществом особого рода, подробно урегулировав правовой режим этого имущества, и в любом случае нельзя ограничивать ответственность собственника или владельца робота[111]. С А. Ивановым согласен и Семен Соменков, считающий, что преждевременно ставить вопрос о признании «умных» роботов личностями[112]. Не столь категоричен другой исследователь темы Василий Лаптев, предполагающий, что в «среднесрочной перспективе» сложные системы искусственного интеллекта приобретут правосубъектность и будут выступать участниками отношений, неся юридическую ответственность за свои действия, а ответственность создателя данной системы будет субсидиарной[113]. Его позицию отчасти разделяют Владислав Архипов и Виктор Наумов, отмечая, что даже если вопрос о правосубъектности роботов пока не столь актуален на практике, он интересен для развития теории «на опережение»[114].

Развитие искусственного интеллекта продолжается, в этом направлении работают как люди, так и искусственный интеллект, обладающий способностью саморазвиваться. Остановка процесса невозможна, так как современная цивилизация уже восприняла искусственный интеллект в качестве неотъемлемой своей части: люди не откажутся от смартфонов (по крайней мере, пока не появится что-то еще более «продвинутое» в этой области), от программ-помощников, но технологические продукты способны не просто помогать человеку, а, заменяя его, действовать самостоятельно, что наиболее наглядно сейчас представлено беспилотными автомобилями, начинающими появляться на дорогах. Все это позволяет допустить, что обсуждение вопроса о правосубъектности со временем может сдвинуться в сторону признания за искусственным интеллектом статуса субъекта права[115].

Пока же большинство исследователей критически оценивают эту возможность, но упоминают о том, что «практическая потребность, которая будет подталкивать процесс цивилистической легитимизации признания юридической личности у высокоразвитой робототехники, связана… с необходимостью решения проблемы юридической ответственности», а «гибкость и эластичность гражданско-правовых понятий позволяет сделать вывод, что выбор конкретной модели правосубъектности и распределения ответственности будет зависеть от запросов практики»[116].

Среди сторонников признания искусственного интеллекта субъектом гражданского права есть и зарубежные специалисты. Так, профессор кафедры коммерческого права Оксфордского университета Хорст Айденмюллер считает, что «умные» роботы следующего поколения должны получить правосубъектность, в том числе право на приобретение имущества и владение им и право на заключение договоров[117].

Если постановка проблемы признания роботов субъектами гражданского права считается значительным числом исследователей преждевременно поднятой, то актуальность законодательного регулирования вопросов защиты интеллектуальных прав на созданные искусственным интеллектом произведения не отрицается даже сторонниками консервативного подхода к вопросу правосубъектности искусственного интеллекта[118]. Острота данной проблемы связана с тем, что создатели и владельцы систем искусственного интеллекта заинтересованы в коммерциализации результатов их использования.

Значительное ускорение технологического развития, повлекшее проявление способности искусственного интеллекта осуществлять деятельность, ранее присущую исключительно человеку, а также способности учиться на собственном опыте, привели к тому, что искусственный интеллект теперь в состоянии генерировать «произведения такого разряда, которые традиционно получали защиту как «творческие» или как нечто требующее человеческой выдумки»[119]. Эта позиция уже нашла отражение в Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 года № 490. Согласно подпункту «а» пункта 5 раздела I документа, под искусственным интеллектом понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Пока право интеллектуальной собственности направлено на защиту результатов интеллектуальной деятельности человека, но надо учитывать, что современные методы анализа данных и машинного обучения позволяют создавать программы, становящиеся в процессе самообучения независимыми от своего создателя. Таким образом, уже возможно появление объектов, создаваемых искусственным интеллектом и воспринимаемых человеком как произведения, охрана которых предусмотрена нормами права, содержащимися в статьях главы 70 Гражданского кодекса Российской Федерации.

Разница между произведениями, созданными искусственным интеллектом и человеком, «определяется только законом, который называет правообладателем исключительно человека. В остальном результаты деятельности человека и робота при решении одних и тех же задач будут отвечать единым критериям»[120].

Речь идет не о тех ситуациях, когда объекты создаются по заданию пользователя, а искусственный интеллект выступает инструментом, и не о тех произведениях, в создание которых человек и искусственный интеллект вносят совместный вклад, а о тех случаях, когда произведения создаются исключительно искусственным интеллектом[121].

Возникающие при этом вопросы не могут быть проигнорированы правоведами:

– кто будет считаться автором в случае создания какого-либо произведения системой искусственного интеллекта?

– кому будет принадлежать право на результаты работы программы?

– кому будет принадлежать право на часть программного кода, написанную самой программой в рамках процесса самообучения?[122]

Предлагаемые варианты ответов на вопросы:

1. Результаты, созданные искусственным интеллектом самостоятельно, без вмешательства человека, признаются неохраноспособными.

2. Правообладателем могут быть признаны: автор-разработчик, сама система искусственного интеллекта, пользователь[123].

3. Признается совместное авторство разработчика программы и ее пользователя.

4 Происходит гибридное наделение правами интеллектуальной собственности одновременно искусственного интеллекта и человека и т.д.

Каждое из возможных решений имеет «побочный эффект». Например, урегулирование проблемы с авторством на произведения, созданные искусственным интеллектом, было бы допустимо через одобрение концепции «исчезающего» (нулевого) авторства, формулирующей возможность отсутствия автора на подобное произведение, что по сути означает переход произведений в общественное достояние, но в данном случае возникает другая проблема – торможение развития инноваций, так как компании-инвесторы не получат экономической выгоды и частично утратят интерес.

Признание автором разработчика программы противоречит законам логики, так как искусственным интеллектом созданы результаты, которые не охватывались замыслом разработчика. Это же можно сказать и в отношении совместного авторства разработчика программы и ее пользователя, дополнив затруднением полноценного применения концепции совместного авторства в силу отсутствия заинтересованности пользователя, как и программиста, в совместном авторстве, а также заинтересованности пользователя в отрицании роли программы в творческом процессе[124].

Другим вариантом решения проблемы будет признание самой системы искусственного интеллекта автором со всеми вытекающими правовыми последствиями, но это возвращает к проблеме признания искусственного интеллекта субъектом гражданского права. В качестве еще одного варианта решения проблемы предлагается концепция служебного произведения, когда система искусственного интеллекта уподобляется наемному работнику, создающему результаты интеллектуальной деятельности по заданию работодателя и в рамках трудовых отношений[125]. В любом случае, здесь речь идет о системе искусственного интеллекта как авторе. По мнению британского исследователя Райна Эббота, данный подход защитит моральные права традиционных изобретателей, ведь если разрешить людям присваивать себе авторство чужих изобретений, будет подорвана значимость изобретательской деятельности людей и заслуги человека, просто переложившего решение поставленной задачи на искусственный интеллект, будут приравнены к заслугам изобретателя, который действительно изобрел что-то новое[126].

Трудовое право. Быстрое развитие технологий и внедрение результатов этого развития в производство повышают уровень его автоматизации. Все чаще предпринимателями используются промышленные роботы, в том числе коллаборативные роботы, рассчитанные на работу непосредственно рядом с людьми.

Новые технологии меняют производство, вытесняя часть работников с рабочих мест: роботы берут на себя все больше функций, сложные компьютерные программы интенсивно используются предпринимателями, что обостряет проблемы переобучения и трудоустройства лиц, теряющих прежнюю работу. Масштабность происходящих процессов возрастает, по оценкам крупнейших консалтинговых компаний более 1/3 работников могут лишиться работы в ближайшие два десятилетия, исчезнут целые группы профессий[127]. Рабочее место, управляемое искусственным интеллектом, не является больше футуристической концепцией – это реальность, формирующая перспективные рынки труда.

Цифровизация позволяет интегрировать искусственный интеллект и робототехнику в производство, провоцируя отказ от части интеллектуального труда и от значительной доли физического труда людей. Это влечет изменение роли работников, которые начинают трудиться в условиях прямого контакта с робототехникой, что требует от работников новых навыков, меняет содержание их труда, выстраивая ситуации, подталкивающие работодателя к продолжению процесса замены людей на системы искусственного интеллекта. Фактически происходит вытеснение людей с производства и «встраивание» киберфизических и виртуальных систем на их рабочие места. Чем дальше, тем больше системы искусственного интеллекта, в первую очередь, роботы будут конкурировать с работниками в трудовых отношениях.

Если Четвертая промышленная революция означает переход на полностью автоматизированное производство, управляемое системами искусственного интеллекта, выходящее за границы одного предприятия, с перспективой объединения в глобальную промышленную сеть вещей и услуг, то данный переход кардинально снизит зависимость промышленности от человеческой рабочей силы.

Продолжающаяся интеллектуальная автоматизация и роботизация производства требует реагирования трудового права, например, через:

– ограничение труда, который может выполняться роботами (формулирование перечня работ, осуществляемых только человеком);

– создание правил взаимодействия работников-людей и роботов для работ, где их труд будет совместным;

– установление квот на рабочие места, занимаемые людьми и т.д.

Законодательство, регулирующее условия труда, сформировалось в индустриальном обществе, набор новых рисков и ситуационных моментов, связанных с развитием технологий, не учитывается. Такое законодательство не способно эффективно защищать работников при внедрении систем искусственного интеллекта в производство и профессиональный сервис.

Действующее трудовое законодательство признает за работодателем право принимать решения о приеме на работу и об увольнении работников. С учетом того, что предпринимателю важно получать прибыль, повышая эффективность производства и снижая затраты, как только роботы смогут содействовать решению этой задачи лучше работников, произойдет высвобождение большого количества «ненужных» работников-людей.

С другой стороны, имеющиеся сейчас на рынке труда ресурсы не удовлетворяют потребностям бизнеса, работодателям все труднее найти представителей рабочих специальностей, дефицит касается не только непрестижного для молодежи низкоквалифицированного труда, но и квалифицированного, в связи недостаточной квалификацией претендентов на работу. Если в настоящее время компании готовы платить высокий заработок квалифицированным работникам, то в процессе решения проблемы перейдут к инвестированию в робототехнику, со временем уволив людей, труд которых будет стоить дороже. Начало этому уже положено: происходит внедрение робомобилей, автоматизированных конвейеров и т.д.

Процесс формирования рабочего пространства, в котором взаимодействие с искусственным интеллектом является частью трудового процесса, происходит достаточно быстро. Кай-Фу Ли, бывший исполнительный директор Microsoft и Google и один из основных инвесторов китайских стартапов по внедрению искусственного интеллекта в производство, уверен, что искусственный интеллект в состоянии за ближайшие десять лет «заменить 50% человеческих профессий»[128].

Изменения будут происходить из-за особенностей труда, в том числе в связи с потребностью работника в отдыхе и возможностью замены его на это время роботом, либо из-за усталости работника от рутинных заданий, которые компьютерная программа или робототехника может выполнить уже сегодня.

Подведем итог. Дальнейшее развитие технологий удешевит создание роботов, способствуя продолжению процесса роботизации производства, на который повлияют следующие факторы:

1) способность роботов осуществлять многие из работ, выполняемых людьми, с большей эффективностью (программирование и машинное обучение позволяют быстро расширять спектр доступных роботам работ);

2) потребность в быстром обновлении навыков на производстве, скорость «переобучения» роботов значительно превосходит возможности по обучению людей;

3) упрощение интеграции роботов и их программирования через готовые к использованию приложения, которые становятся привлекательными для предпринимателей;

4) вредность и опасность некоторых видов работ для людей, замена работников робототехникой на подобных производствах является благом для всего человечества;

5) рост нехватки трудовых ресурсов в рабочих профессиях из-за отсутствия желающих выполнять тяжелую и малооплачиваемую работу;

6) увеличение числа незанятых вакансий на квалифицированных рабочих местах из-за недостаточного числа высококвалифицированных кадров, потребность в которых повышается с усложнением производственных процессов;

7) расширение спектра новых отраслей, появляющихся в условиях цифровизации экономики и сразу «заточенных» под применение робототехники, иных технологических достижений.

Уровень развития робототехники позволяет сделать вывод о том, что к 2025 – 2030 году новое поколение роботов будет задействовано работодателями на многих рабочих местах из тех, на которых сегодня трудятся люди. Учитывая, что скорость машинного обучения несопоставима с возможностями совершенствования людей, робототехника будет их вытеснять и дальше. Именно поэтому активно обсуждаются меры социальной поддержки людей, в первую очередь, введение безусловного базового дохода.

Признание за искусственным интеллектом статуса субъектов трудового права в случае их признания субъектами гражданского права – вопрос времени. В ближайшие годы возможным триггером для новой волны дискуссий по этому вопросу могут стать успехи нейропротезирования, позволяющие соединить человека и систему искусственного интеллекта (нейроимплант в виде искусственной конечности, искусственного органа, чипа и т.д.) в единое целое, тогда встанет вопрос о статусе работников, обладающих нейроимплантами (нейропротезами). Нейроимпланты способны устранить некоторые проблемы лиц с ограниченными возможностями, другие люди, не имеющие медицинских показаний, просто захотят «улучшиться», например, путем имплантации чипа, увеличивающего объем памяти и быстроту реакций. С развитием ситуации возникает потребность в создании новых стандартов безопасности труда с участием работников – лиц с нейропротезами, которые могут быть гармонизированы с иными технологическими устройствами на рабочем месте, способны вступать в прямой контакт с робототехникой. Такие работники будут обладать рядом способностей, не присущих остальным, к примеру, возможностью прикасаться к высокотемпературным предметам бионическими руками или наблюдать инфракрасные волны с помощью глазных нейроимплантов.

Неизученные возможности искусственного интеллекта повышают риски совместной работы с ними для работников на соседних рабочих местах, среди рисков: угроза хакерских атак, «взлома» системы искусственного интеллекта нейропротеза (к примеру, с помощью «взлома мозга» могут производиться злонамеренные манипуляции с мозговыми имплантатами); проблема защиты любой конфиденциальной информации, которая может автоматически записываться датчиками подобных систем и т.д.

На необходимость формулирования специального правового статуса для гибридных систем (киборгов) уже указывается рядом исследователей[129].

Помимо киберфизических систем, наделенных искусственным интеллектом, сферу труда меняют и виртуальные системы. Работодатели все чаще применяют интеллектуальный анализ данных в целях создания цифрового профиля каждого работника – набора классифицированных данных, формируемого с помощью анкетирования, анализа поведения лица. Это дает возможность моделировать поведение работника в будущем и снижает риск потенциальных проблем работодателя. Интеллектуальная автоматизация производственных процессов плюс интеллектуальный анализ данных работника позволяют работодателю оптимизировать деятельность предприятия, снизив затраты и повысив результаты этой деятельности, но радикально меняют соотношение сил в сложившейся по действующим нормам трудового права системе «работодатель – работник» в пользу работодателя. Работодатель получил дополнительные возможности по контролю за работником, прогнозированием его поведения, а правовых ограничений по использованию интеллектуального анализа данных трудовым правом пока не установлено. Правда, иски о возможной дискриминации по отношению к претендентам на работу в результате интеллектуального анализа информации роборекрутером, уже рассматриваются судами США[130].

В ближайшие годы весьма вероятным будет внесение изменений в ряд институтов трудового права. К примеру, в институты рабочего времени и времени отдыха, охраны труда. В связи внедрением в производство искусственного интеллекта требуется защита работников от перегрузок: робототехнике не нужны перерывы для сна, отдыха и питания, а работник, в чьи функции входит контроль автоматизированного производственного процесса, будет вынужден отслеживать ситуацию, даже не находясь физически на рабочем месте. Применительно к институту охраны труда становится необходимым введение стандартов безопасности труда для совместной работы людей и роботов. Возникают новые риски для работников, например, такие как сбой в работе робота, непредсказуемое поведение робота после машинного обучения (физические риски), необходимость для человека работать в темпе робота, стресс от контакта с роботом (психосоциальные риски).

Широкое использование работодателями средств мониторинга за выполнением работниками трудовых функций и систем искусственного интеллекта, осуществляющих анализ данных, способных деанонимизировать данные работников за счет сопоставления данных с информацией из внешних источников – баз данных в интернете, социальных сетей, потребует разработки норм по защите персональных данных работников либо, скорее всего, имплементации соответствующих норм, созданных в рамках иных отраслей права, и их конкретизации применительно к трудовым отношениям.

Семейное право. Появление роботов, способных испытывать или убедительно имитировать эмоции, можно считать качественно новым шагом в жизни людей. С такими роботами можно будет дружить, искать и получать у них поддержку. Ожидается, что они смогут скрасить одиночество самых разных людей, в том числе инвалидов, стариков, помогать в уходе за больными и развлекать их общением. Говоря о взаимоотношениях с роботами, сложно не упомянуть такую важную сторону человеческого общения, как секс, который, с одной стороны, является потребностью для живых существ, высшей формой человеческой любви и близости, а с другой стороны может существовать и удовлетворяться совершенно отдельно от любви. Создание подобных «разумных» роботов способно радикально изменить нашу жизнь, включая интимную ее сферу[131].

Развитие индустрии секс-роботов с искусственным интеллектом открывает новую эпоху взаимодействия человека и машины. Китайские компании уже продают десятки тысяч секс-роботов в год. Бывшие секс-куклы наделяются искусственным интеллектом, они не только заменяют людям половых партеров, но становятся спутниками по жизни, со своей памятью, чувствами, характером и эмоциями.

Разработки антропоморфных роботов, наделенных искусственным интеллектом, для обслуживания дома и оказания различных, в том числе интимных, услуг идут очень активно. Внедрение результатов этих разработок на практике со временем сможет повлиять на семейные узы и отношения между мужчиной и женщиной, приводя к изменениям в институте семьи с отражением этих процессов в семейном праве. Понятно, что социально-правовые и морально-психологические последствиями этого пока трудно предсказуемы[132], но, с учетом проведенных маркетинговых исследований, привлекательность для потребителей антропоморфных роботов, способных выполнять, например, разнообразные функции в интимной сфере, высока, поток инвестиций в соответствующие разработки через какое-то время поднимет ряд вопросов, урегулирование которых возможно в рамках семейного права.

 

Раздел II. Планы семинарских занятий

Тема 1. Искусственный интеллект: понятие, значение, виды

1. Понятие искусственного интеллекта.

2. Искусственный интеллект как часть «сквозных» технологий.

3. Область применения искусственного интеллекта.

4. Виды искусственного интеллекта.

5. Формы искусственного интеллекта.

6. Пути создания искусственного интеллекта.

 

Рекомендованная дополнительная литература

  1. Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», разработанная в целях реализации Федерального проекта «Цифровые технологии». Сайт Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации. 2019. https://digital.gov.ru/ru/documents/6658/
  2. Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь. 1992. 256 с. http://aihandbook.intsys.org.ru/index.php/intro/ai-glossary
  3. Боровская Е.В., Давыдова Н.А. Основы искусственного интеллекта. Учебное пособие. М.: БИНОМ. 2019. 127 с.
  4. Масленникова О.Е., Гаврилова И.В. Основы искусственного интеллекта. М.: ФЛИНТА. 2013. 282 с. https://rucont.ru/file.ashx?guid=f6374151-b72a-407b-adc2-887898c2b7a4
  5. Павлов С.Н. Системы искусственного интеллекта: учеб. пособие. В 2-х частях. Томск: Эль Контент. 2011. Ч. 1. 176 c. https://asu.tusur.ru/learning/books/b09.pdf
  6. Петрунин Ю.Ю. Искусственный интеллект как феномен современной культуры // Вестник Московского университета. Серия 7: Философия. 1994. № 2. С. 28–34. https://iphras.ru/uplfile/ai/petrunin.pdf
  7. Созыкин А.В. Обзор методов обучения глубоких нейронных сетей // Вестник ЮУрГУ. Серия: Вычислительная математика и информатика. 2017. Т. 6. № 3. С. 28–59. https://cyberleninka.ru/article/n/obzor-metodov-obucheniya-glubokih-neyronnyh-setey
  8. Stanley K.O. Efficient evolution of neural networks through complexification: Ph.D. Dissertation: Department of Computer Sciences, The University of Texas at Austin. Technical Report~AI-TR-04-39. 2004. http://nn.cs.utexas.edu/downloads/papers/stanley.phd04.pdf

 

Тема 2. История развития, современное состояние и перспективы искусственного интеллекта

1. Начало исследований в области искусственного интеллекта.

2. Этапы развития искусственного интеллекта.

3. Современное состояние.

4. Тенденции развития.

5. Национальная стратегия развития искусственного интеллекта.

 

Рекомендованная дополнительная литература

  1. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
  2. Алпайдин Э. Машинное обучение: новый искусственный интеллект. Пер. с англ. М.: Изд. группа «Точка». 2017. 208 c.
  3. Бахтеев Д.В. Предпосылки становления и этапы развития технологии искусственного интеллекта // Genesis: исторические исследования. 2019. № 8. С. 89–98. https://nbpublish.com/library_read_article.php?id=30382
  4. Винер Н. Кибернетика, или Управление и связь в животном и машине. М.: Наука. 1983. 344 с. https://scisne.net/a-1590
  5. Рассел С., Норвиг П. Искусственный интеллект: современный подход, 2-е изд.: Пер. с англ. М.: Вильямс. 2016. 1408 с. http://i.uran.ru/webcab/system/files/bookspdf/iskusstvennyy-intellekt-sovremennyy-podhod/229021.pdf
  6. Тьюринг А.М. Может ли машина мыслить? Перевод с английского Ю.А. Данилова. М.: Гос.изд-во физико-мат. литературы. 1960. 67 с. http://www.etheroneph.com/files/can_the_machine_think.pdf
  7. Хопкрофт Д., Мотвани Р., Ульман Дж. Введение в теорию машин Тьюринга. Глава 8 в кн.: Введение в теорию автоматов, языков и вычислений (Introduction to Automata Theory, Languages, and Computation). М.: Вильямс. 2002. 528 с.
  8. Фон Нейман Дж. Общая и логическая теория автоматов. М.: УРСС: ЛЕНАНД. 2018. 232 с.

 

Тема 3. Развитие исследований в области правового регулирования искусственного интеллекта

1. Воздействие искусственного интеллекта на право.

2. Постановка вопроса о необходимости правового регулирования искусственного интеллекта.

3. Подходы к правовому регулированию искусственного интеллекта.

4. Российские исследования и инициативы в области правового регулирования искусственного интеллекта.

 

Рекомендованная дополнительная литература

  1. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Тр. СПИИРАН. 2017. Вып. 55. С. 46–62. http://www.mathnet.ru/links/5617d17d5a5bcd36c7921fa7e839f2ec/trspy976.pdf
  2. Архипов В.В. и др. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А.В. Незнамова. М.: Infotropic Media. 2018. 232 с.
  3. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация на соискание уч. степени докт. юрид. наук. Москва. 2018. 414 с. http://dis.rgiis.ru/files/dis/d40100102/Morhat/morhat_p_m_dissertaciya.pdf
  4. Наумов В.Б. Общие вызовы права и государственного управления в цифровую эпоху // Ленинградский юридический журнал. 2019. № 1 (55). С. 43–57. https://cyberleninka.ru/article/n/obschie-vyzovy-prava-i-gosudarstvennogo-upravleniya-v-tsifrovuyu-epohu
  5. Наумов В.Б. Право в эпоху цифровой трансформации: в поисках решений // Российское право: образование, практика, наука. 2018. № 6 (108). С. 4–11. https://cyberleninka.ru/article/n/pravo-v-epohu-tsifrovoy-transformatsii-v-poiskah-resheniy
  6. Незнамов А.В., Наумов В.Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69–90.
  7. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 1. С. 91–109. https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-s-tochki-zreniya-prava
  8. Иванов А.А. О глубине машинизации права // Закон. 2018. № 5. С. 35–41.
  9. Balkin J.M. The Path of Robotics Law // California Law Review. 2015. Vol. 6. P. 45–60. https://digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=6170&context=fss_papers
  10. Buchanan B.G., Headrick T.E. Some Speculation About Artificial Intelligence and Legal Reasoning // Stanford Law Review. 1970. Vol. 23. No. 1. P. 40–62. https://stacks.stanford.edu/file/druid:ms585mf7546/ms585mf7546.pdf
  11. McCarty L.T.  A history of AI and Law in 50 papers: 25 years of the international conference on AI and Law // Artificial Intelligence and Law. 2012. 20 (3) 215–319. https://www.researchgate.net/publication/257449742_A_history_of_AI_and_Law_in_50_papers_25_years_of_the_international_conference_on_AI_and_Law
  12. Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media. 2013. 181 p.
  13. Petit N. Law and Regulation of Artificial Intelligence and Robots – Conceptual Framework and Normative Implications. URL: http://dx.doi.org/10.2139/ssrn.2931339
  14. Rissland E.L. Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning // Yale Law Journal. 1990. Vol. 99. No 8. P. 1957–1981. https://digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=7293&context=ylj

 

Тема 4. Международное регулирование искусственного интеллекта

1. Предпосылки развития международно-правового регулирования искусственного интеллекта.

2. Современное состояние международно-правового регулирования.

3. Международные технические стандарты.

4. Тенденции и перспективы в развитии международно-правового регулирования.

 

Рекомендованная дополнительная литература

  1. Кулешов А., Игнатьев, Абрамова А., Маршалко Г., Федоров М. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта. 20.02.2020. http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html
  2. Окинавская хартия Глобального информационного общества от 22.07.2000. http://www.kremlin.ru/supplement/3170
  3. Asilomar AI Principles. 2017. https://futureoflife.org/ai-principles/?cn-reloaded=1
  4. OECD Council Recommendation on Artificial Intelligence https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
  5. G20 Ministerial Statement on Trade and Digital Economy. https://www.mofa.go.jp/files/000486596.pdf
  6. Каталог стандартов ISO/IEC JTC 1/SC 42 Artificial intelligence. https://www.iso.org/ru/committee/6794475/x/catalogue/p/0/u/1/w/0/d/0
  7. Каталог стандартов ISO/TC 299 Robotics. https://www.iso.org/ru/committee/5915511/x/catalogue/

 

Тема 5. Основы национального регулирования искусственного интеллекта

1. Основы регулирования искусственного интеллекта в России.

2. Регулирование искусственного интеллекта в США.

3. Основы регулирования в странах Европейского союза.

4. Регулирование искусственного интеллекта в Китае.

5. Основы правового регулирования в иных странах.

Рекомендованная дополнительная литература

 

  1. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
  2. Executive Order on Maintaining American Leadership in Artificial Intelligence. https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/
  3. Statement on Artificial Intelligence, Robotics and "Autonomous" Systems. European Group on Ethics in Science and New Technologies. 2018. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf
  4. Ethics Guidelines for Trustworthy AI. Digital Single Market. 8 April 2019. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
  5. Liability for Artificial Intelligence. https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608
  6. New Generation of Artificial Intelligence Development Plan. 2020. https://flia.org/notice-state-council-issuing-new-generation-artificial-intelligence-development-plan/
  7. Beijing AI Principles. https://www.baai.ac.cn/blog/beijing-ai-principles
  8. Бирюков П.Н. Деятельность США в сфере использования искусственного интеллекта // Вестник ВГУ. Серия: Право. 2019. № 3. С. 324–334. http://www.vestnik.vsu.ru/pdf/pravo/2019/03/2019-03-34.pdf
  9. Васильев А.А., Ибрагимов Ж.И. Правовое регулирование робототехники и искусственного интеллекта в Европейском союзе // российско-азиатский правовой журнал. 2019.  № 1. С. 50–54. http://journal.asu.ru/ralj/article/view/6454/5168
  10. Кашкин С.Ю. Искусственный интеллект и робототехника: возможность вторжения в права человека и правовое регулирование этих процессов в ЕС и мире // Lex Russica. 2019. № 7. С. 151–159. https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-robototehnika-vozmozhnost-vtorzheniya-v-prava-cheloveka-i-pravovoe-regulirovanie-etih-protsessov-v-es-i-mire
  11. Лапина М.А. Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений // Административное и муниципальное право.  2019.  № 5. С. 7–14.  http://author.nbpublish.com/pr/article_30567.html
  12. Незнамов А.В. Правовые аспекты реализации Национальной стратегии развития искусственного интеллекта до 2030 года // Вестник Университета им. О.Е. Кутафина. 2019. № 12. С. 82–88. https://cyberleninka.ru/article/n/pravovye-aspekty-realizatsii-natsionalnoy-strategii-razvitiya-iskusstvennogo-intellekta-do-2030-goda

 

Тема 6. Искусственный интеллект и публичное право

1. Конституционно-правовое регулирование.

2. Административное право.

3. Уголовное право.

4. Финансовое право.

 

Рекомендованная дополнительная литература

1.Аверинская С.А., Севостьянова А.А. Создание искусственного интеллекта с целью злонамеренного использования в уголовном праве Российской Федерации // Закон и право. 2019. № 2. С. 94–96. https://cyberleninka.ru/article/n/sozdanie-iskusstvennogo-intellekta-s-tselyu-zlonamerennogo-ispolzovaniya-v-ugolovnom-prave-rossiyskoy-federatsii

2.Андреев В.К., Лаптев В.А., Чуча С.Ю. Искусственный интеллект в системе электронного правосудия при рассмотрении корпоративных споров // Вестник СПбГУ. Право. 2020. Т. 11. Вып. 1. С. 19–34.

3.Денисов Н.Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. № 4. С. 18–20.

4.Козаев Н.Ш. Состояние уголовной политики и вопросы преодоления кризисных явлений в уголовном праве // Юридический вестник ДГУ. 2016. № 1. С. 96–101.

5.Коробеев А.И., Чучаев А.И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex Russica. 2019. № 2. С. 9–28. https://lexrussica.msal.ru/jour/article/view/667/667

6.Малышкин А.В. Интегрирование искусственного интеллекта в общественную жизнь: некоторые этические и правовые проблемы // Вестник СПбГУ. Право. 2019. Т. 10. Вып. 3. С. 444–460.

7.Минбалеев А.В. Проблемы регулирования искусственного интеллекта // Вестник ЮУрГУ. Серия «Право». 2018. Т. 18. № 4. С. 82–87.

8.Михалева Е.С., Шубина Е.А. Проблемы и перспективы правового регулирования робототехники // Актуальные проблемы российского права. 2019. № 12. С. 26–35.

9.Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. № 3. С. 461–476. https://doi.org/10.21638/spbu14.2019.304

10.Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. 91–109.

11.Сергун П.П., Бобров А.М. Субъектно-объектное образование как структурный элемент административного правоотношения // Пермский юридический альманах. 2019. № 2. С. 138–145.

12.Соменков С.А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О.Е. Кутафина. 2019. № 2 (54). С. 75–85.

13.Степанов О.А. О проблеме конкретизации права в условиях цифровизации общественной практики // Право. Журнал Высшей школы экономики. 2018. № 3. С. 4–23.

14.Пашенцев Д.А. Особенности правоприменения в условиях цифровизации общественных отношений // Вестник СПбГУ. Право. 2020. Т. 11. Вып. 1. С. 35–49.

15.Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13. № 4. C. 564–574 http://cj.bgu.ru/classes/pdfDL.ashx?id=23051

16.Холодная Е.В. О перспективных направлениях правового регулирования в сфере технологии искусственного интеллекта // Вестник Университета им. О.Е. Кутафина. 2019. № 12. С. 89–96. https://cyberleninka.ru/article/n/o-perspektivnyh-napravleniyah-pravovogo-regulirovaniya-v-sfere-tehnologii-iskusstvennogo-intellekta

 

Тема 7. Искусственный интеллект и частное право

1. Гражданское право.

2. Сфера труда и трудовое право.

3. Семейное право.

 

Рекомендованная дополнительная литература

1.Алексеев Н.В. Искусственный интеллект и роботизация: правовые проблемы интеллектуальной собственности // Право интеллектуальной собственности. 2019. № 3. С. 42–46.

2.Андреев В.К. Динамика правового регулирования применения искусственного интеллекта // Журнал российского права. 2020. № 3. С. 58–68.

3.Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46–62.

4.Войниканис Е.А., Семенова Е.В., Тюляев Г.С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник Воронежского государственного университета. Серия: Право. 2018. № 4 (35). С. 137–148. http://www.vestnik.vsu.ru/pdf/pravo/2018/04/2018-04-14.pdf

5.Гаджиев Г.А., Войниканис Е.А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24–48. https://law-journal.hse.ru/data/2019/01/14/1146823417/%D0%B3%D0%B0%D0%B4%D0%B6%D0%B8%D0%B5%D0%B2.pdf

6.Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79–102. https://law-journal.hse.ru/data/2019/06/26/1490724087/%D0%BB%D0%B0%D0%BF%D1%82%D0%B5%D0%B2.pdf

7.Морхат П.М. Концепт отсутствия авторов на созданное искусственным интеллектом произведение // Юридический мир. 2019. № 1. С. 33–35.

8.Морхат П.М. Концепт гибридного авторства (юнит искусственного интеллекта как соавтор человека в создании результатов интеллектуальной деятельности) // Бизнес. Образование. Право. 2018. № 3 (44). С. 292–295.

9. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация на соискание уч. степени докт. юрид. наук. Москва. 2018. 414 с. http://dis.rgiis.ru/files/dis/d40100102/Morhat/morhat_p_m_dissertaciya.pdf

9.Морхат П.М. Особенности развития права интеллектуальной собственности в контексте использования искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С. 65–69.

10.Наумов В.Б., Тытюк Е.В. К вопросу о правовом статусе «творчества» искусственного интеллекта // Правоведение. 2018. Т. 62. № 3. С. 531–540.

11.Филипова И.А. Искусственный интеллект в системе трудовых отношений с учетом концепции служебного произведения // Право интеллектуальной собственности. 2020. № 1 (59).

12.Харитонова Ю.С. К вопросу об охраноспособности результата деятельности искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С. 52–64. https://cyberleninka.ru/article/n/k-voprosu-ob-ohranosposobnosti-rezultata-deyatelnosti-iskusstvennogo-intellekta-statya

13.Цуканова Е.Ю., Скопенко О.Р. Правовые аспекты ответственности за причинение вреда роботом с искусственным интеллектом // Matters of Russian and International Law. 2018. Вып. 8. № 2 A. С. 42–47. http://publishing-vak.ru/file/archive-law-2018-4/5-tsukanova-skopenko.pdf

14.Шестак В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13. № 2. С. 197–206. https://cyberleninka.ru/article/n/sovremennye-potrebnosti-pravovogo-obespecheniya-iskusstvennogo-intellekta-vzglyad-iz-rossii

 

Примерный перечень вопросов к зачету

  1. Понятие искусственного интеллекта, области применения искусственного интеллекта
  2. Виды искусственного интеллекта
  3. Формы искусственного интеллекта
  4. Пути создания искусственного интеллекта
  5. Понятие и значение «сквозных» технологий
  6. История развития искусственного интеллекта
  7. Современное состояние и тенденции развития искусственного интеллекта
  8. Воздействие искусственного интеллекта на право
  9. Необходимость правового регулирования искусственного интеллекта
  10. Подходы к правовому регулированию искусственного интеллекта
  11. Российские исследования и инициативы в области правового регулирования искусственного интеллекта
  12. Иностранные исследования и инициативы в области правового регулирования искусственного интеллекта
  13. Предпосылки развития международно-правового регулирования искусственного интеллекта
  14. Значение Азиломарских принципов искусственного интеллекта
  15. Современное состояние международно-правового регулирования
  16. Международные технические стандарты
  17. Тенденции развития международно-правового регулирования
  18. Российская национальная стратегия развития искусственного интеллекта
  19. Основные принципы развития и использования технологий искусственного интеллекта по российской стратегии, роль правового регулирования
  20. Регулирование искусственного интеллекта в США
  21. Основы регулирования искусственного интеллекта в Китае
  22. Регулирование искусственного интеллекта в странах Европейского союза
  23. Стратегии развития искусственного интеллекта как основа для правового регулирования в разных странах мира
  24. Тенденции в конституционно-правовом регулировании искусственного интеллекта
  25. Административно-правовое регулирование и искусственный интеллект
  26. Уголовно-правовое регулирование и искусственный интеллект
  27. Искусственный интеллект и финансовое право
  28. Проблемы регулирования искусственного интеллекта в гражданском праве
  29. Применение искусственного интеллекта в сфере труда и трудовое право
  30. Перспективы урегулирования искусственного интеллекта семейным правом

 

Список использованной литературы

  1. Аверинская С.А., Севостьянова А.А. Создание искусственного интеллекта с целью злонамеренного использования в уголовном праве Российской Федерации // Закон и право. 2019. № 2. С. 94–96.
  2. Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь. 1992. 256 с.
  3. Алексеев Н.В. Искусственный интеллект и роботизация: правовые проблемы интеллектуальной собственности // Право интеллектуальной собственности. 2019. № 3. С. 42–46.
  4. Архипов В.В. и др. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А.В. Незнамова. М.: Infotropic Media. 2018. 232 с.

  5. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46–62.
  6. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157–170.

  7. Бахтеев Д.В. Предпосылки становления и этапы развития технологии искусственного интеллекта // Genesis: исторические исследования. 2019. № 8. С. 89–98.

  8. Бегишев И.Р., Латыпова Э.Ю., Кирпичников Д.В. Искусственный интеллект как правовая категория: доктринальный подход к разработке дефиниции // Актуальные проблемы экономики и права. 2020. Т. 14. № 1. С. 79–91.
  9. Бирюков П.Н. Деятельность США в сфере использования искусственного интеллекта // Вестник ВГУ. Серия: Право. 2019. № 3. С. 324–334.

  10. Бондарь Н.С. Информационно-цифровое пространство в конституционном измерении: из практики Конституционного Суда Российской Федерации // Журнал российского права. 2019. № 11. С. 25–42.
  11. Войниканис Е.А., Семенова Е.В., Тюляев Г.С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник Воронежского государственного университета. Серия: Право. 2018. № 4 (35). С. 137–148.
  12. Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24–48.
  13. Гаджиев Г.А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 15–30.

  14. Денисов Н.Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. № 4. С. 18–20.

  15. Дремлюга Р.И., Дремлюга О.А. Искусственный интеллект – субъект права: аргументы за и против // Правовая политика и правовая жизнь. 2019. № 2. С. 120–125.

  16. Иванов А.А. О глубине машинизации права // Закон. 2018. № 5. С. 35–41.

  17. Иванов А. Мечтают ли андроиды об электроовцах? 2017 // Закон.ru. URL: https://zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_elektroovcah (дата обращения: 20.04.2020)
  18. Зорькин В. Размышление на полях Петербургского международного юридического форума. URL: https://rg.ru/2018/05/29/zorkin-zadacha-gosudarstva-priznavat-i-zashchishchat-cifrovye-prava-grazhdan.html (дата обращения: 20.04.2020)

  19. Камалова Г.Г. Вопросы правосубъектности роботов и систем искусственного интеллекта // Информационное право. 2019. № 2. С. 35–39.

  20. Кашкин С.Ю. Искусственный интеллект и робототехника: возможность вторжения в права человека и правовое регулирование этих процессов в ЕС и мире // Lex russica. 2019. № 7 (152). С. 151–159.

  21. Кибальник А.Г., Волосюк П.В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Вестник Нижегородской академии МВД России. 2018. № 4. С. 173–178.

  22. Козаев Н.Ш. Состояние уголовной политики и вопросы преодоления кризисных явлений в уголовном праве // Юридический вестник ДГУ. 2016. № 1. С. 96–101.

  23. Колин К.К. Новый этап развития искусственного интеллекта: национальные стратегии, тенденции и прогнозы // Стратегические приоритеты. 2019. № 2 (22). С. 4–12.

  24. Коробеев А.И., Чучаев А.И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex Russica. 2019. № 2. С. 9–28.

  25. Кулешов А., Игнатьев, Абрамова А., Маршалко Г., Федоров М. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта. 20.02.2020. URL: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html (дата обращения: 20.04.2020)

  26. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79–102.
  27. Майленова Ф.Г. Любовь и роботы. Станет ли человечество дигисексуальным? // Вестник РУДН. Серия: Философия. 2019.  Вып. 23 № 3. С. 312–323.
  28. Малышкин А.В. Интегрирование искусственного интеллекта в общественную жизнь: некоторые этические и правовые проблемы // Вестник СПбГУ. Право. 2019. Т. 10. Вып. 3. С. 444–460.
  29. Минбалеев А.В. Проблемы регулирования искусственного интеллекта // Вестник ЮУрГУ. Серия «Право». 2018. Т. 18. № 4. С. 82–87.
  30. Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация на соискание ученой степени доктора юридических наук. Москва. 2018. 414 с.

  31. Морхат П.М. Концепт отсутствия авторов на созданное искусственным интеллектом произведение // Юридический мир. 2019. № 1. С. 33–35.
  32. Морхат П.М. Особенности развития права интеллектуальной собственности в контексте использования искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С. 65–69.
  33. Морхат П.М. Концепт гибридного авторства (юнит искусственного интеллекта как соавтор человека в создании результатов интеллектуальной деятельности) // Бизнес. Образование. Право. 2018. № 3 (44). С. 292–295.
  34. Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. № 3. С. 461–476.

  35. Наумов В. Б. Общие вызовы права и государственного управления в цифровую эпоху // Ленинградский юридический журнал. 2019. № 1 (55). С. 43–57.

  36. Наумов В.Б. Право в эпоху цифровой трансформации: в поисках решений // Российское право: образование, практика, наука. 2018. № 6 (108). С. 4–11.

  37. Наумов В.Б., Тытюк Е.В. К вопросу о правовом статусе «творчества» искусственного интеллекта // Правоведение. 2018. Т. 62. № 3. С. 531–540.
  38. Незнамов А.В., Наумов В.Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69–90.

  39. Незнамов А.В. Правовые аспекты реализации Национальной стратегии развития искусственного интеллекта до 2030 года // Вестник Университета им. О.Е. Кутафина. 2019. № 12. С. 82–88.

  40. Огородникова И.И. Цифровая трансформация налогового контроля: эволюция и тенденции // Вестник Томского государственного университета. Экономика. 2019. № 46. С. 152–162.

  41. Основы государственной политики в сфере робототехники и технологий искусственного интеллекта / под ред. А.В. Незнамова. Инфотропик Медиа. 2019. 184 с.

  42. Павлов С.Н. Системы искусственного интеллекта: учеб. пособие. В 2-х частях. Томск: Эль Контент, 2011. Ч. 1. 176 c.

  43. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 1. С. 91–109.

  44. Понкин И.В., Редькина А.И. Цифровая формализация права // International Journal of Open Information Technologies. 2019. Вып. 7. № 1. С. 39–48.

  45. Созыкин А.В. Обзор методов обучения глубоких нейронных сетей // Вестник ЮУрГУ. Серия: Вычислительная математика и информатика. 2017. Т. 6. № 3. С. 28–59.

  46. Соменков С.А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О.Е. Кутафина. 2019. № 2 (54). С. 75–85.

  47. Трофимов Е.В., Мецкер О.Г. Искусственный интеллект в праве и публичном управлении: опыт разработок и исследований. В сборнике: Актуальные проблемы науки и практики: Гатчинские чтения–2019. Сборник научных трудов по материалам VI Международной научно-практической конференции. 2019. С. 84–90.

  48. Филипова И.А. Искусственный интеллект, трудовые отношения и право: влияние и взаимодействие // Государство и право. 2019. № 11. С. 69–77.

  49. Филипова И.А. Искусственный интеллект в системе трудовых отношений с учетом концепции служебного произведения // Право интеллектуальной собственности. 2020. № 1 (59).
  50. Филипова И.А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право. 2018. № 9. C. 79–88.

  51. Филипова И.А. Трансформация правового регулирования труда в цифровом обществе. Искусственный интеллект и трудовое право. Нижний Новгород: Нижегородский госуниверситет, 2019. 89 с.

  52. Харитонова Ю.С. К вопросу об охраноспособности результата деятельности искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С. 52–64.
  53. Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13. № 4. C. 564–574.

  54. Хопкрофт Д., Мотвани Р., Ульман Дж. Введение в теорию машин Тьюринга. Глава 8 в кн.: Введение в теорию автоматов, языков и вычислений (Introduction to Automata Theory, Languages, and Computation). М.: Вильямс, 2002. 528 с.

  55. Цуканова Е.Ю., Скопенко О.Р. Правовые аспекты ответственности за причинение вреда роботом с искусственным интеллектом // Matters of Russian and International Law. 2018. Вып. 8. № 2A. С. 42–47.
  56. Шестак В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13, № 2. C. 197–206.

  57. Шестак В.А., Волеводз А.Г., Ализаде В.А. О возможности доктринального восприятия системой общего права искусственного интеллекта как субъекта преступления: на примере уголовного законодательства США // Всероссийский криминологический журнал. 2019. Т. 13. № 4. С. 547–554.

  58. Щукина Т.В. Административное усмотрение и его проявление в административных процедурах: новые трансформации в условиях цифрового государства и информационного общества // Юридическая наука. 2018. № 2. С. 137–141.

  59. Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. Т. 13. № 2. С. 36–55.

  60. Abbott R. The Reasonable Robot: Artificial Intelligence and the Law. Cambridge University Press. 2020.

  61. Ashley K.D. Modeling Legal Argument: Reasoning with Cases and Hypotheticals. Cambridge, Massachusetts: MIT Press. 1990. 329 p.

  62. Ashley K.D. Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age. Cambridge University Press. 2017. 450 p.

  63. Balkin J.M. The Path of Robotics Law // California Law Review. 2015. Vol. 6. P. 45–60.

  64. Barfield W., Williams A. Law, Cyborgs, and Technologically Enhanced Brains. Philosophies. 2017. Vol. 2. No 6. URL: https://www.researchgate.net/publication/313836493_Law_Cyborgs_and_Technologically_Enhanced_Brains (дата обращения: 20.04.2020)

  65. Barr A., Cohen P.R., Feigenbaum E.A. The Handbook of Artificial Intelligence. 1st ed. Stanford University: HeurisTech Press. 1981. 397 p.

  66. Buchanan B.G., Headrick T.E. Some Speculation About Artificial Intelligence and Legal Reasoning // Stanford Law Review. 1970. Vol. 23. No 1. P. 40–62.

  67. Buiten M.C. Towards Intelligent Regulation of Artificial Intelligence // European Journal of Risk Regulation. 2019. No 10. P. 41–59.

  68. Calo R., Froomkin A.M., Kerr I. Robot Law. Edward Elgar Publishing. 2016. 424 p.

  69. Cath C. Governing artificial intelligence: ethical, legal and technical opportunities and challenges // Philosophical Transactions of the Royal Society a Mathematical Physical and Engineering Sciences. 2018. P. 376.

  70. Chae Y. U.S. AI Regulation Guide: Legislative Overview and Practical Considerations // Robotics, Artificial Intelligence & Law. 2020. Vol. 3. No 1. P. 17–40.

  71. Christensen C.M. The Innovator's Dilemma: When New Technologies Cause Great Firms to Fail. Boston, MA: Harvard Business School Press. 1997. 228 p.

  72. Ciampi C. Artificial Intelligence and Legal Information Systems. Vol. I: Edited Versions of Selected Papers from the International Conference on “Logic, Informatics, Law”. Florence, Italy. April 1981. North-Holland, Amsterdam. 1982. 476 p.

  73. Eidenmueller H. The rise of robots and the law of humans. Oxford. 2017. № 27. URL: http://dx.doi.org/10.2139/ssrn.2941001 (дата обращения: 20.04.2020)
  74. Erdelyi O.J., Goldsmith J. Regulating Artificial Intelligence Proposal for a Global Solution. 2018. URL: https://www.aies-conference.com/2018/contents/papers/main/AIES_2018_paper_13.pdf (дата обращения: 20.04.2020)

  75. Eun-jin K. Korean Government to Repeal Regulations in AI Industry December 18, 2019. URL: http://www.businesskorea.co.kr/news/articleView.html?idxno=39324 (дата обращения: 20.04.2020)

  76. Foerst A. Artificial sociability: from embodied AI toward new understandings of personhood // Technology in Society. 1999. Vol. 21. Iss. 4. P. 373–386.

  77. Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England. 2013. С. 177–178.

  78. Koops E.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework // International Journal of Technoethics. Vol. 4. 2013. No 2. P. 1198–1219.

  79. McCarty L.T. Finding the Right Balance in Artificial Intelligence and Law. In book: Research Handbook on the Law of Artificial Intelligence. Chapter: 3. Publisher: Edward Elgar Publishing. 2017. P.55–87.

  80. McCarty L.T. Reflections on "Taxman": An Experiment in Artificial Intelligence and Legal Reasoning // Harvard Law Review 1977. Vol. 90. P. 837–893.

  81. Moravec H.P. Mind children. The future of robot and human intelligence. Cambridge: Harvard University Press, 1988. 224 p.

  82. Nemitz P. Constitutional Democracy and Technology in the Age of Artificial Intelligence. Philosophical Transactions of the Royal Society. Mathematical, Physical and Engineering Sciences. 18 August 2018. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3234336 (дата обращения: 20.04.2020)

  83. Nagele-Piazza L. How is artificial intelligence changing the workplace? Society for human resource management, November 2018. URL: https://www.shrm.org/resourcesandtools/legal-and-compliance/employment-law/pages/artificial-intelligence-is-changing-the-workplace.aspx (дата обращения: 20.04.2020)
  84. Nevejans N. Règles européennes de droit civil en robotique. Étude.  Bruxelles : Departement thematique C : Droits des citoyens et affaires constitutionnelles. 2016. URL: http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU%282016%29571379_FR.pdf (дата обращения: 20.04.2020)

  85. Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media. 2013. 181 p.

  86. Petit N. Law and Regulation of Artificial Intelligence and Robots – Conceptual Framework and Normative Implications. URL: http://ssrn.com/abstract=2931339 or http://dx.doi.org/10.2139/ssrn.2931339 (дата обращения: 20.04.2020)

  87. Rissland E.L. Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning // Yale Law Journal. 1990. Vol. 99. No 8. P. 1957–1981.

  88. Scherer M.U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies // Harvard Journal of Law & Technology. 2016. Vol. 29.  Nо 2. P. 353–400.

  89. Smuhaa N.A. From a "Race to AI" to a "Race to AI Regulation": Regulatory Competition for Artificial Intelligence. Working Paper. 2019.

  90. Southwell A.H., Vandevelde E.D., Walther M. 2019 Artificial Intelligence and Automated Systems Annual Legal Review. Gibson, Dunn & Crutcher LLP. 2020. 45 p.

  91. Stone P. et al. Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015–2016. Stanford. Stanford University. 2016. 52 p.

  92. Susskind R.E. Expert systems in law: a jurisprudential approach to artificial intelligence and legal reasoning // Modern Law Review. 1986. Vol. 49. Iss. 2. P. 168–194.

  93. Turner J. Robot Rules. Regulating Artificial Intelligence. Palgrave Macmillan. 2019. URL: https://www.palgrave.com/gp/book/9783319962344 (дата обращения: 20.04.2020)

  94. Villani C. «Donner un sens à l'intelligence artificielle». Paris: Direction de l'information légale et administrative. 2018. 233 p.

  95. Yadong C. Artificial Intelligence and Judicial Modernization. Springer. 2020. 224 p.

  96. Wickers Th. L’intelligence artificielle et la justice. Les applications possibles et le cadre de déploiement // Cahiers de droit de l’entreprise. 2019. No 4. P. 33–36. 

  97. Xavier B. Chapitre 7. Vers un statut juridique des androïdes ? Journal International de Bioéthique. 2013. Vol. 24. No 4. P. 85–98.
  98. Yan S. Artificial intelligence will replace half of all jobs in the next decade, says widely followed technologist. 27 April 2017. URL: https://www.cnbc.com/2017/04/27/kai-fu-lee-robots-will-replace-half-of-all-jobs.html (дата обращения: 20.04.2020)
  99. Yukdowsky E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. Global Catastrophic Risks. New York: Oxford University Press. 2008. 46 p.
  100. Zogg B. L’Europe et la course à l’Intelligence Artificielle // Politique de sécurité: analyses du CSS. 2019. No 247. P. 1–4.

 


                                                   

Ирина Анатольевна Филипова

 

ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

 

УЧЕБНОЕ ПОСОБИЕ

 

Федеральное государственное автономное образовательное учреждение высшего профессионального образования «Нижегородский государственный университет им. Н.И. Лобачевского»

603950, г. Нижний Новгород, пр. Гагарина, 23.

 

Формат 60×84 1/16.

Бумага офсетная. Печать цифровая. Гарнитура Таймс.

Усл. печ. л. …. Заказ …. Тираж 100 экз.

 

Отпечатано в типографии

Нижегородского госуниверситета им. Н.И. Лобачевского

603600, г. Нижний Новгород, ул. Большая Покровская, 37



[1] Stanford University Explore Courses. LAW 4039: Regulating Artificial Intelligence. URL: https://explorecourses.stanford.edu/search?view=catalog&filter-coursestatus-Active=on&q=LAW%204039:%20Regulating%20Artificial%20Intelligence&academicYear=20182019 (дата обращения: 20.04.2020)

[2] Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь. 1992. 256 с.

[3] Barr A., Cohen P.R., Feigenbaum E.A. The Handbook of Artificial Intelligence. 1st ed. Stanford University: HeurisTech Press. 1981. 397 p.

[4] Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», разработанная в целях реализации Федерального проекта «Цифровые технологии», включенного в Паспорт национальной программы «Цифровая экономика Российской Федерации» (создан Минкомсвязи России во исполнение Указа Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года»).

[5] Данные группы технологий упоминались как самостоятельные в первом варианте программы «Цифровая экономика Российской Федерации», утвержденном Распоряжением Правительства РФ от 28.07.2017 №1632-р и утратившем силу согласно Распоряжению Правительства РФ от 12.02.2019 № 195-р в связи с принятием скорректированного варианта программы – реализуемой в настоящее время национальной программы «Цифровая экономика Российской Федерации».

[6] Christensen C.M. The Innovator's Dilemma: When New Technologies Cause Great Firms to Fail. Boston: Harvard Business School Press. 1997. 228 p.

[7]  A definition of AI: Main capabilities and scientific disciplines. High-Level Expert Group On Artificial Intelligence. European Commission. URL: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341 (дата обращения: 20.04.2020)

[8] Например: Созыкин А.В. Обзор методов обучения глубоких нейронных сетей // Вестник ЮУрГУ. Серия: Вычислительная математика и информатика. 2017. Т. 6. № 3. С. 28-59.

[9] От термина «семиотика» – наука, исследующая свойства знаков и знаковых систем.

[10] Павлов С.Н. Системы искусственного интеллекта: учеб. пособие. В 2-х частях. Томск: Эль Контент. 2011. Ч. 1. 176 c.

[11] Хопкрофт Д., Мотвани Р., Ульман Дж. Введение в теорию машин Тьюринга. Глава 8 в кн.: Введение в теорию автоматов, языков и вычислений (Introduction to Automata Theory, Languages, and Computation). М.: Вильямс. 2002. 528 с.

[12] Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», разработанная в целях реализации Федерального проекта «Цифровые технологии», включенного в Паспорт национальной программы «Цифровая экономика Российской Федерации» (создан Минкомсвязи России во исполнение Указа Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года»).

 

[13] Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.

[14] Buchanan B.G., Headrick T.E. Some Speculation About Artificial Intelligence and Legal Reasoning // Stanford Law Review. 1970. Vol. 23. No. 1. P. 40-62.

[15] McCarty L.T. Reflections on "Taxman": An Experiment in Artificial Intelligence and Legal Reasoning // Harvard Law Review 1977. Vol. 90. P. 837-893.

[16] Susskind R.E. Expert systems in law: a jurisprudential approach to artificial intelligence and legal reasoning // Modern Law Review. 1986. Vol. 49. Iss. 2. P. 168-194.

[17] Computer Science and Law. An Advanced Course. Edited by Bryan Niblett. Cambridge: Cambridge University Press. 1980. 232 p.

[18] Ciampi C. Artificial Intelligence and Legal Information Systems. Vol. I: Edited Versions of Selected Papers from the International Conference on "Logic, Informatics, Law". Florence, Italy, April 1981, North-Holland, Amsterdam. 1982. 476 p.

[19] Rissland E.L. Artificial Intelligence and Law: Stepping Stones to a Model of Legal Reasoning // Yale Law Journal. 1990. Vol. 99. No 8. P. 1957-1981.

[20] Ashley K.D. Modeling Legal Argument: Reasoning with Cases and Hypotheticals. Cambridge, Massachusetts: MIT Press. 1990. 329 p.

[21] Ashley K.D. Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age. Cambridge University Press. 2017. 450 p.

[22] Stone P. et al. Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016. Stanford. Stanford University. 2016. 52 p.

[23] Balkin J.M. The Path of Robotics Law // California Law Review. 2015. Vol. 6. P. 45-60.

[24] Petit N. Law and Regulation of Artificial Intelligence and Robots – Conceptual Framework and Normative Implications. URL: http://dx.doi.org/10.2139/ssrn.2931339 (дата обращения: 20.04.2020)

[25] Pagallo U. The Laws of Robots: Crimes, Contracts, and Torts (Law, Governance and Technology Series). Springer Science & Business Media. 2013. 181 p.

[26] Calo R., Froomkin A.M., Kerr I. Robot Law. Edward Elgar Publishing. 2016. 424 p.

[27] McCarty L.T. Finding the Right Balance in Artificial Intelligence and Law. In book: Research Handbook on the Law of Artificial Intelligence. Chapter: 3. Publisher: Edward Elgar Publishing. 2017. P.55-87.

[28] Филипова И.А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право. 2018. № 9. C. 79-88.

[29] РОБОПРАВО. Исследовательский центр проблем регулирования робототехники и искусственного интеллекта. Сайт. URL: http://robopravo.ru/modielnaia_konvientsiia (дата обращения: 20.04.2020)

[30] Наумов В. Б. Общие вызовы права и государственного управления в цифровую эпоху // Ленинградский юридический журнал. 2019. № 1 (55). С. 43-57; Наумов В.Б. Право в эпоху цифровой трансформации: в поисках решений // Российское право: образование, практика, наука. 2018. № 6 (108). С. 4-11; Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.

[31] Незнамов А.В., Наумов В.Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69-90.

[32] Ястребов О.А. Правосубъектность электронного лица: теоретико-методологические подходы // Труды Института государства и права РАН. 2018. Т. 13. № 2. С. 36-55.

[33] Гаджиев Г.А. Является ли робот-агент лицом? (поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1 (253). С. 15-30.

[34] Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 1. С. 91–109; Понкин И.В., Редькина А.И. Цифровая формализация права // International Journal of Open Information Technologies. 2019. Вып. 7. № 1. С. 39-48.

[35] Иванов А.А. О глубине машинизации права // Закон. 2018. № 5. С. 35-41.

[36] Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация на соискание ученой степени доктора юридических наук. Москва. 2018. 414 с.

[37] Архипов В.В. и др. Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / под ред. А.В. Незнамова. М.: Infotropic Media. 2018. 232 с.

[38] Asilomar AI Principles. 2017. URL: https://futureoflife.org/ai-principles/?cn-reloaded=1 (дата обращения: 20.04.2020)

[39] Окинавская хартия Глобального информационного общества от 22 июля 2000 года. URL: http://www.kremlin.ru/supplement/3170 (дата обращения: 20.04.2020)

[40] OECD Council Recommendation on Artificial Intelligence. URL:  https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (дата обращения: 20.04.2020)

[41] G20 Ministerial Statement on Trade and Digital Economy. URL: https://www.mofa.go.jp/files/000486596.pdf (дата обращения: 20.04.2020)

[42] Международная организация по стандартизации. Официальный сайт. URL:  https://www.iso.org/ru/committee/6794475.html?view=participation (дата обращения: 20.04.2020)

[43] Данные представлены по состоянию на апрель 2020 года. Для обновления указанной информации рекомендуется обращение к электронной странице официального сайта ISO. URL: https://www.iso.org/ru/committee/6794475/x/catalogue/p/0/u/1/w/0/d/0 (дата обращения: 20.04.2020)

[44] Каталог стандартов ISO/TC 299 Robotics. URL: https://www.iso.org/ru/committee/5915511/x/catalogue/ (дата обращения: 20.04.2020)

[45] Участники Глобальной конференции ЮНЕСКО по искусственному интеллекту призывают к управлению искусственным интеллектом на правовой основе. Сайт UNESCO. 06.03.2019/ URL: https://ru.unesco.org/news/uchastniki-globalnoy-konferencii-yunesko-po-iskusstvennomu-intellektu-prizyvayut-k-upravleniyu (дата обращения: 20.04.2020)

[46] Кулешов А., Игнатьев, Абрамова А., Маршалко Г., Федоров М. Актуальные задачи международного взаимодействия по развитию и регулированию искусственного интеллекта. 20.02.2020. URL: http://d-russia.ru/aktualnye-zadachi-mezhdunarodnogo-vzaimodejstviya-po-razvitiyu-i-regulirovaniyu-iskusstvennogo-intellekta.html (дата обращения: 20.04.2020)

[47] Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // Официальный интернет-портал правовой информации. Государственная система правовой информации. URL: http://publication.pravo.gov.ru/Document/View/0001202004240030 (дата обращения: 25.04.2020)

[48] Информация дана по состоянию на 25 апреля 2020 года.

[49] Законопроект № 922869-7. URL: https://sozd.duma.gov.ru/bill/922869-7 (дата обращения: 20.04.2020)

[50] Summary of The 2018 White House Summit on AI for American Industry. URL:  https://www.whitehouse.gov/wp-content/uploads/2018/05/Summary-Report-of-White-House-AI-Summit.pdf (дата обращения: 20.04.2020)

[51] Executive Order on Maintaining American Leadership in Artificial Intelligence. URL: https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/ (дата обращения: 20.04.2020)

[52] Artificial Intelligence for the American People. URL: https://www.whitehouse.gov/ai/ (дата обращения: 20.04.2020)

[53] AI Legislation Tracker – United States. URL: https://www.datainnovation.org/ai-policy-leadership/ai-legislation-tracker/ (дата обращения: 20.04.2020)

[54] AI Jobs Act. URL: https://www.congress.gov/116/bills/hr827/BILLS-116hr827ih.pdf (дата обращения: 20.04.2020)

[55] Made in China 2025. URL: http://www.cittadellascienza.it/cina/wp-content/uploads/2017/02/IoT-ONE-Made-in-China-2025.pdf (дата обращения: 20.04.2020)

[56] New Generation of Artificial Intelligence Development Plan. URL: https://flia.org/notice-state-council-issuing-new-generation-artificial-intelligence-development-plan/ (дата обращения: 20.04.2020)

[57] Beijing AI Principles. URL: https://www.baai.ac.cn/blog/beijing-ai-principles (дата обращения: 20.04.2020)

[58] Nevejans N. Règles européennes de droit civil en robotique. Étude.  Bruxelles : Departement thematique C : Droits des citoyens et affaires constitutionnelles. 2016. URL: http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU%282016%29571379_FR.pdf (дата обращения: 20.04.2020)

[59] European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2013(INL). URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//EN (дата обращения: 20.04.2020)

[60] Declaration of cooperation on Artificial Intelligence. URL: https://ec.europa.eu/jrc/communities/en/community/digitranscope/document/eu-declaration-cooperation-artificial-intelligence (дата обращения: 20.04.2020)

[61] Communication Artificial Intelligence for Europe. URL: https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe (дата обращения: 20.04.2020)

[62] Coordinated Plan on Artificial Intelligence. URL: https://ec.europa.eu/knowledge4policy/publication/coordinated-plan-artificial-intelligence-com2018-795-final_en (дата обращения: 20.04.2020)

[63] Ethics guidelines for trustworthy AI. URL: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (дата обращения: 20.04.2020)

[64] Policy and investment recommendations for trustworthy Artificial Intelligence. URL: https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence (дата обращения: 20.04.2020)

[65] White Paper on Artificial Intelligence: A European approach to excellence and trust. URL:https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (дата обращения: 20.04.2020)

[66] Ethics Guidelines for Trustworthy AI. Digital Single Market. 8 April 2019. URL: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (дата обращения: 20.04.2020)

[67] A definition of AI: Main capabilities and scientific disciplines. URL: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341 (дата обращения: 20.04.2020)

[68] Zogg B. L’Europe et la course à l’Intelligence Artificielle // Politique de sécurité: analyses du CSS. 2019. No 247. P. 1-4. https://css.ethz.ch/content/dam/ethz/special-interest/gess/cis/center-for-securities-studies/pdfs/CSSAnalyse247-FR.pdf (дата обращения: 20.04.2020)

[69] Strategie Künstliche Intelligenz der Bundesregierung. URL: https://www.bmbf.de/files/Nationale_KI-Strategie.pdf (дата обращения: 20.04.2020)

[70] Villani C. «Donner un sens à l'intelligence artificielle». Paris: Direction de l'information légale et administrative. 2018. 233 p.

[71] Mid-to Long-term Master Plan in Preparation for the Intelligent Information Society: Managing the Fourth Industrial Revolution. URL:

https://english.msit.go.kr/cms/english/pl/policies2/__icsFiles/afieldfile/2017/07/20/Master%20Plan%20for%20the%20intelligent%20information%20society.pdf (дата обращения: 20.04.2020)

[72] Eun-jin K. Korean Government to Repeal Regulations in AI Industry December 18, 2019. URL: http://www.businesskorea.co.kr/news/articleView.html?idxno=39324 (дата обращения: 20.04.2020)

[73] Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). URL: https://www.nedo.go.jp/content/100865202.pdf (дата обращения: 20.04.2020)

[74] AI Strategy 2019. AI for Everyone: People, Industries, Regions and Governments. URL: https://www8.cao.go.jp/cstp/english/humancentricai.pdf (дата обращения: 20.04.2020)

[75] Pan-Canadian Artificial Intelligence Strategy. URL:  http://www.jaist.ac.jp/~bao/AI/OtherAIstrategies/Pan-Canadian%20Artificial%20Intelligence%20Strategy.pdf (дата обращения: 20.04.2020)

[76] UK Industrial Strategy White Paper. URL: https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/664563/industrial-strategy-white-paper-web-ready-version.pdf (дата обращения: 20.04.2020)

[77] Understanding artificial intelligence ethics and safety. Guidance. URL: https://www.gov.uk/guidance/understanding-artificial-intelligence-ethics-and-safety (дата обращения: 20.04.2020)

[78] Зорькин В. Размышление на полях Петербургского международного юридического форума. URL: https://rg.ru/2018/05/29/zorkin-zadacha-gosudarstva-priznavat-i-zashchishchat-cifrovye-prava-grazhdan.html (дата обращения: 20.04.2020)

[79] Бондарь Н.С. Информационно-цифровое пространство в конституционном измерении: из практики Конституционного Суда Российской Федерации // Журнал российского права. 2019. № 11. С. 25-42.

[80] Loi pour une République numérique. No 2016-1321. 7 Octobre 2016. URL: https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000033202746&categorieLien=id (дата обращения: 20.04.2020)

[81] Notre stratégie pour la transformation de l’action publique 2018-2022. 2018. URL:  https://www.gouvernement.fr/sites/default/files/document/document/2018/10/action_publique_2022_-_notre_strategie_pour_la_transformation_de_laction_publique_-_29_octobre_2018.pdf (дата обращения: 20.04.2020)

[82] Proposition de loi constitutionnelle relative à la Charte de l’intelligence artificielle et des algorithmes. URL: http://www.assemblee-nationale.fr/dyn/15/textes/l15b2585_proposition-loi (дата обращения: 20.04.2020)

[83] Koops E.-J., Di Carlo A., Nocco L., Casamassima V., Stradella E. Robotic Technologies and Fundamental Rights: Robotics Challenging the European Constitutional Framework // International Journal of Technoethics. Vol. 4. 2013. No 2. P. 1198-1219.

[84] Nemitz P. Constitutional Democracy and Technology in the Age of Artificial Intelligence. Philosophical Transactions of the Royal Society. Mathematical, Physical and Engineering Sciences. 18 August 2018. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3234336 (дата обращения: 20.04.2020)

[85] Turner J. Robot Rules. Regulating Artificial Intelligence Palgrave Macmillan. 2019. URL: https://www.palgrave.com/gp/book/9783319962344 (дата обращения: 20.04.2020)

[86] Конституция не будет защищать искусственный интеллект — судья КС Гаджиев. URL: http://rapsinews.ru/judicial_analyst/20181212/292414283.html (дата обращения: 20.04.2020)

[87] Foerst A. Artificial sociability: from embodied AI toward new understandings of personhood // Technology in Society. 1999. Vol. 21. Iss. 4. P. 373-386.

[88] Дремлюга Р.И., Дремлюга О.А. Искусственный интеллект – субъект права: аргументы за и против // Правовая политика и правовая жизнь. 2019. № 2. С. 120-125.

[89] The Foundations for Evidence-Based Policymaking Act (OPEN Government Data Act). URL: https://www.congress.gov/bill/115th-congress/house-bill/4174 (дата обращения: 20.04.2020)

[90] Минэкономразвития анонсировало единый сайт законотворческой деятельности. 8 июля 2019. URL: https://pravo.ru/news/212944/?desc_news_34=&utm_source=ip_club%2C+facebook&utm_term=ip%2Bclub&utm_campaign=IP_CLUB (дата обращения: 20.04.2020)

[91] См. страницы 41 – 42 настоящего учебного пособия.

[92] Щукина Т.В. Административное усмотрение и его проявление в административных процедурах: новые трансформации в условиях цифрового государства и информационного общества // Юридическая наука. 2018. № 2. С. 137-141.

[93] Трофимов Е.В., Мецкер О.Г. Искусственный интеллект в праве и публичном управлении: опыт разработок и исследований. В сборнике: Актуальные проблемы науки и практики: Гатчинские чтения – 2019. Сборник научных трудов по материалам VI Международной научно-практической конференции. 2019. С. 84-90.

[94] Yadong C. Artificial Intelligence and Judicial Modernization. Springer. 2020. 224 p.

[95] Wickers Th. L’intelligence artificielle et la justice. Les applications possibles et le cadre de déploiement // Cahiers de droit de l’entreprise. 2019. No 4. P. 33-36.

[96] Коробеев А.И., Чучаев А.И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex Russica. 2019. № 2. С. 9-28.

[97] Бегишев И.Р., Латыпова Э.Ю., Кирпичников Д.В. Искусственный интеллект как правовая категория: доктринальный подход к разработке дефиниции // Актуальные проблемы экономики и права. 2020. Т. 14. № 1. С. 79-91.

[98] Денисов Н.Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. № 4. С. 18-20.

[99] Козаев Н.Ш. Состояние уголовной политики и вопросы преодоления кризисных явлений в уголовном праве // Юридический вестник ДГУ. 2016. № 1. С. 96-101.

[100] Аверинская С.А., Севостьянова А.А. Создание искусственного интеллекта с целью злонамеренного использования в уголовном праве Российской Федерации // Закон и право. 2019. № 2. С. 94-96.

[101] Кибальник А.Г., Волосюк П.В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Вестник Нижегородской академии МВД России. 2018. № 4. С. 173-178.

[102] Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England. 2013. С. 177-178.

[103] Кибальник А.Г., Волосюк П.В., там же.

[104] Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. № 3. С. 461-476.

[105] Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13. № 4. C. 564-574.

[106] Шестак В.А., Волеводз А.Г., Ализаде В.А. О возможности доктринального восприятия системой общего права искусственного интеллекта как субъекта преступления: на примере уголовного законодательства США // Всероссийский криминологический журнал. 2019. Т. 13. № 4. С. 547-554.

[107] How Tax is leveraging AI – Including machine learning – in 2019. PwC. 2019. URL: https://www.pwc.com/gx/en/tax/publications/assets/how-tax-leveraging-ai-machine-learning-2019.pdf (дата обращения: 20.04.2020)

[108] Огородникова И.И. Цифровая трансформация налогового контроля: эволюция и тенденции // Вестник Томского государственного университета. Экономика. 2019. № 46. С. 152-162.

[109] Цуканова Е.Ю., Скопенко О.Р. Правовые аспекты ответственности за причинение вреда роботом с искусственным интеллектом // Matters of Russian and International Law. 2018. Вып. 8. № 2A. С. 42-47.

[110] Шестак В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13. № 2. С. 197-206.

[111] Иванов А. Мечтают ли андроиды об электроовцах? 2017. 15 февраля // Закон.ru. URL:    https://zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_elektroovcah (дата обращения: 20.04.2020)

[112] Соменков С.А. Искусственный интеллект: от объекта к субъекту? // Вестник Университета имени О.Е. Кутафина. 2019. № 2 (54). С. 75-85.

[113] Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79-102.

[114] Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6 (55). С. 46-62.

[115] Филипова И.А. Искусственный интеллект в системе трудовых отношений с учетом концепции служебного произведения // Право интеллектуальной собственности. 2020. № 1 (59).

[116] Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24-48.

[117] Eidenmueller H. The rise of robots and the law of humans. Oxford. 2017. № 27. URL: http://dx.doi.org/10.2139/ssrn.2941001 (дата обращения: 20.04.2020)

[118] Харитонова Ю.С. К вопросу об охраноспособности результата деятельности искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С. 52-64.

[119] Морхат П.М. Концепт отсутствия авторов на созданное искусственным интеллектом произведение // Юридический мир. 2019. № 1. С. 33-35.

[120] Морхат П.М. Особенности развития права интеллектуальной собственности в контексте использования искусственного интеллекта / Сб. «Право будущего: Интеллектуальная собственность, инновации, Интернет». М.: РАН. ИНИОН. 2018. Вып. 1. С.  65-69.

[121] Наумов В.Б., Тытюк Е.В. К вопросу о правовом статусе «творчества» искусственного интеллекта // Правоведение. 2018. Т. 62. № 3. С. 531-540.

[122] Алексеев Н.В. Искусственный интеллект и роботизация: правовые проблемы интеллектуальной собственности // Право интеллектуальной собственности. 2019. № 3. С. 42-46.

[123] Войниканис Е.А., Семенова Е.В., Тюляев Г.С. Искусственный интеллект и право: вызовы и возможности самообучающихся алгоритмов // Вестник Воронежского государственного университета. Серия: Право. 2018. № 4 (35). С. 137-148.

[124] Морхат П.М. Концепт гибридного авторства (юнит искусственного интеллекта как соавтор человека в создании результатов интеллектуальной деятельности) // Бизнес. Образование. Право. 2018. № 3 (44). С. 292-295.

[125] Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: диссертация. 2018. 414 с.

[126] Abbott R. The Reasonable Robot: Artificial Intelligence and the Law. Cambridge University Press. 2020.

[127] What the future of work will mean for jobs, skills, and wages. Report McKinsey Global Institute, November 2017. URL: https://www.mckinsey.com/global-themes/future-of-organizations-and-work/what-the-future-of-work-will-mean-for-jobs-skills-and-wages (дата обращения: 20.04.2020)

[128] Yan S. Artificial intelligence will replace half of all jobs in the next decade, says widely followed technologist. 27 April 2017. URL: https://www.cnbc.com/2017/04/27/kai-fu-lee-robots-will-replace-half-of-all-jobs.html (дата обращения: 20.04.2020)

[129] Barfield W., Williams A. Law, Cyborgs, and Technologically Enhanced Brains. Philosophies. 2017. Vol. 2. No 6. URL: https://www.researchgate.net/publication/313836493_Law_Cyborgs_and_Technologically_Enhanced_Brains (дата обращения: 20.04.2020); Xavier B. Chapitre 7. Vers un statut juridique des androïdes ? Journal International de Bioéthique. 2013. Vol. 24. No 4. P. 85-98; Камалова Г.Г. Вопросы правосубъектности роботов и систем искусственного интеллекта // Информационное право. 2019. № 2. С. 35-39.

[130] Nagele-Piazza L. How is artificial intelligence changing the workplace? Society for human resource management, November 2018. URL: https://www.shrm.org/resourcesandtools/legal-and-compliance/employment-law/pages/artificial-intelligence-is-changing-the-workplace.aspx (дата обращения: 20.04.2020)

[131] Майленова Ф.Г. Любовь и роботы. Станет ли человечество дигисексуальным? // Вестник РУДН. Серия: Философия. 2019.  Вып. 23 № 3. С. 312-323.

[132] Кашкин С.Ю. Искусственный интеллект и робототехника: возможность вторжения в права человека и правовое регулирование этих процессов в ЕС и мире // Lex Russica. 2019. № 7. С. 151-158.

Рекомендуется Вам: