Регулирование робототехники: введение в «робоправо» - Пробная глава

Глава 1. О ПРЕДМЕТЕ «РОБОПРАВА» 1

§ 1. Текущее состояние вопроса В России проблематика робототехники и технологий искусственного интеллекта (ИИ) 2 становится все более актуальной 3. Еще в конце 2016 г. была опубликована концепция первого в России законопроекта о робототехнике 4. Данный документ был разработан для инициирования дискуссии о системном законодательном регулировании этой области 5. В дальнейшем проблема регулирования робототехники не раз освещалась в прессе и в выступлениях представителей органов государственной власти 6.

1

2

3

4

5

6

Над главой работали А. Незнамов и В. Бакуменко, при участии С. Сарбаша и В. Наумова. Здесь и далее в ряде случаев мы говорим о робототехнике, подразумевая и технологии ИИ. Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон. № 2. Февраль. 2018. См.: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России Закона о робототехнике // Труды СПИИРАН. 2017. № 6. С. 46–62. URL: http://robopravo.ru, https://vk.com/ page‑135261864_52392566 (дата обращения: 21.02.2018) Подробнее о субъектах в сфере робототехники, вопросах их воли и правосубъектности см.: Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157–170. См., напр.: Замахина Т. Госдума подготовит закон об отношениях робота и человека // РГ. 2017. 25 сент. URL: https://rg.ru/2017/09/25/gosduma-podgotovit-zakonob-otnosheniiah-robota-i-cheloveka.html; https://rbc.ru/technology_and_media/20/1 1/2017/5a0ef3ac9a79474efac57ea3; Кантышев П. Роботов хотят приравнять к животным и юридическим лицам // Ведомости. 2017. 6 июля. https://vedomosti. ru/technology/articles/2017/07/06/711134-robotov-zhivotnim; Обухов А. Госдума задумалась о судебном преследовании роботов // МК. 2017. 5 дек.http://mk.ru/ politics/2017/12/05/gosduma-zadumalas-o-sudebnom-presledovanii-robotov.html (дата обращения: 22.02.2018) 3

Глава 1. О предмете «робоправа»

Думается, что можно без особого преувеличения сказать: с точки зрения юридической науки проблематика киберфизических систем на отечественном уровне практически не исследована. Это обусловлено, на наш взгляд, относительной новизной общественных отношений, связанных с использованием роботов и искусственного интеллекта, а также относительно низким практическим использованием соответствующих киберфизических систем (КФС) 7. Как следствие, фундаментальных исследований по данной теме нет. Большинство правовых публикаций либо являются публицистическими 8, либо посвящены отдельным правовым проблемам, возникающим в разных отраслях права в связи с развитием робототехники. Так, ряд работ посвящен аспектам роботизации в отдельных сферах, например, в сфере налогообложения 9, или трудовом праве 10, либо в информационном праве 11, или же конкретным проблемам — ​например, ответственности за действия киберфизической системы 12 или принципам регулирования 13. Отдельный пласт публикаций затрагивает проблематику прав на результаты интеллектуальной деятельности в связи с развитием робототехники и искусственного

7 8

9

10

11

12

13

4

О том, что означает данный термин, мы поговорим далее. См., напр.: Сарбаш С. Гражданский оборот в цифровую эпоху // Закон.ру. 2017. 21 окт. URL: https://zakon.ru/blog/2017/10/21/grazhdanskij_oborot_v_cifrovuyu_epohu; Афанасьев С. Роботы по закону // Известия. 2017. 9 окт. URL: https://iz.ru/651717/ robot-v-zakone (дата обращения: 21.02.2018); Незнамов А. Может ли робот стать президентом // Ведомости. 2017. 20 дек. См.: Мочалин А. Ю., Асанов Т. М., Пронин К. В. Перспективные направления роботизации в налогах // Налоговая политика и практика. 2017. № 11. С. 76–80. См.: Филипова И. А. Искусственный интеллект и трудовые отношения: социальные перспективы и тенденции правового регулирования // Российская юстиция. 2017. № 11. С. 65–67. Архипов В. В., Наумов В. Б. Информационно-правовые аспекты формирования законодательства о робототехнике // Информационное право. 2017. № 1. С. 19–27. См.: Ибрагимов Р., Сурагина Е. Право машин. Как привлечь робота к ответственности // Корпоративный юрист. 2017. № 11; Лаптев В. А. Ответственность «будущего»: правовое существо и вопрос оценки доказательств // Гражданское право.

2017. № 3. С. 32–35. См.: Ибрагимов Р., Чиркова Т. Принципы регулирования разработки и оборота программ и роботов // Legal Insight. 2017. № 9. С. 10–15.

§ 1. Текущее состояние вопроса

интеллекта 14, уголовно-правовые аспекты проблемы 15, будущее нотариата в контексте развития современных технологий 16 и т. д. В зарубежной литературе ситуация иная. Можно утверждать, что в работах зарубежных ученых «робоправо», или «право роботов» (или «право о роботах»), формируется если не в самостоятельную межотраслевую подотрасль права, то по меньшей мере в отдельную предметную область исследования. Об этом наглядно свидетельствуют труды Р. Кало 17, У. Пагалло 18, исследование коллектива авторов «Робоправо: основы регулирования робототехники в Европе» 19 и др. Между тем было бы преувеличением говорить, что в иностранной литературе существуют сложившиеся представления о «робоправе». Степень проработанности данной области обусловлена тем, что соответствующие общественные отношения возникли в зарубежных странах существенно раньше. В юрисдикциях, где робототехника и искусственный интеллект развиваются медленнее, научные исследования в правовом поле, по существу, не проводятся либо ограничиваются прикладными аспектами применения технологий. В странах, где роботы стали более активно применяться в обществе, правовые исследования постепенно стали более детальными и углубленными. Несмотря на наличие ряда локальных проблем в области регулирования рассматриваемых отношений, одним из самых сложных вопросов 14

15

16 17

18 19

См.: Гурко А. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7–18; Фабричный С. Ю., Рузакова О. А. Коммерциализация интеллектуальной собственности: проблемы регулирования // Патенты и лицензии. 2017. № 7. С. 41–48. На уровне обозначения проблематики вопрос отражен здесь: Некрасов В. Н. Актуальные вопросы уголовно-правовой охраны инновационной деятельности в России // Актуальные проблемы российского права. 2017. № 7. С. 108–114. См.: Ралько В. В. Будущее нотариата // Нотариус. 2016. № 8. С. 8–11. См.: Robot Law / ed. by R. Calo, A. M. Froomkin, I. Kerr. Edward Elgar Publishing, 2016; Calo R. Robots in American Law: Legal studies research paрer № 2016–04. School of Law University of Washington, 2016 // [Электронный ресурс] URL: https://papers. ssrn.com/sol3/papers.cfm?abstract_id=2737598 (дата доступа: 04 июля 2018 г.)

Pagallo U. The Laws of Robots Crimes, Contracts, and Torts. Dordrecht, 2013.

Palmerini E., Bertolini A., Koops B.-J. et al. RoboLaw: Towards a European framework for robotics regulation. Salvini Pericle, 2016.

5

Глава 1. О предмете «робоправа»

верхнего уровня была и остается проблема принципиального определения подходов к регулированию 20. Другими словами, ее можно описать через простой вопрос: как регулировать робототехнику и/или искусственный интеллект?

§ 2. Некоторые исследования К самым актуальным и наиболее часто обсуждаемым вопросам в зарубежной литературе относятся проблемы договорной и деликтной ответственности, защиты персональных данных, модификации существующих страховых институтов, возможной правосубъектности киберфизических систем, принципы и подходы к регулированию отрасли и т. д. Анализ доктринальных источников, зарубежного опыта регулирования и исследование специфики предметных общественных отношений позволяет, на наш взгляд, наметить стратегию регулирования робототехники и искусственного интеллекта 21. Данная стратегия состоит из четырех уровней внутригосударственного регуляторного воздействия, а также наднационального регулирования 22. Вместе с тем в некоторых исследованиях отмечается, что наиболее эффективным подходом является анализ каждого конкретного случая использования того или иного вида роботов. Для этого необходимо учитывать различные критерии, помимо технических аспектов: рыночные риски, влияние на конкуренцию, новизну технологии, ее потенциальное непосредственное и долгосрочное применение, повторное использование. Для многих таких аспектов актуальность внимательного прикладного этического анализа является существенной. В функциональной перспективе один и тот же признак или характеристика устройства могут быть 20

21

22

6

Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон. № 2. Февраль. 2018. В настоящей работе мы для удобства восприятия не разделяем вопросы регулирования робототехники и искусственного интеллекта. Но следует понимать, что определенная специфика регулирования, безусловно, имеется. См.: Незнамов А. В., Наумов В. Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. 2017. № 8. С. 14–25. URL: http://e-notabene.ru/lr/article_23292.html (дата доступа: 04 июля 2018 г.)

§ 2. Некоторые исследования

проблематичными. В то же время очень разные типы/виды роботов могут привести к возникновению одной идентичной юридической проблемы, а именно ответственности — к ​ то должен нести ответственность в случае неисправности устройства, приводящей к несчастному случаю 23. В целях представления систематического и комплексного анализа в рамках европейского проекта Robolaw («Робоправо») была разработана методология анализа существующих нормативных положений, которая позволяет определить дальнейшие шаги по структурированию регулирования в сфере робототехники 24. Данная методология состоит из двух частей: • определения и краткого описания норм регулирования робототехники, что позволяет: – найти нормы не только в законодательстве, но и в «мягком праве», определить социальные и этические нормы; – определить тип и статус норм в их иерархии; – определить контекст и цель установления таких норм.

• классификации и сравнения норм: – потенциально важными аспектами классификации норм являются регулирование, диапазон и возможность применения; являются ли и в какой степени нормы связаны с фундаментальными правовыми концепциями и ценностями; и какие (возможно, скрытые) ограничения и перспективы (например, культурные или языковые рамки или традиции) лежат в основе норм; – впоследствии нормы могут быть сопоставлены методом сравнительно-правовых исследований, в которых должны учитываться все «форманты», составляющие правовую систему разных юрисдикций.

23

24

Leroux, C., R. Labruto, C. Boscarato, F. Caroleo, J.-P. Günther, S. Löffler, F. Münch, S. Beck, E. May, H.-S. Corinne, M. De Cock Buning, L. Belder, R. De Bruin, A. Bonarini, M. Matteucci, P. Salvini, B. Schafer, A. Santosuosso and E. Hilgendorf (2012). Suggestion for a Green Paper on Legal Issues in Robotics. Contribution to Deliverable D.3.2.1 on ELS Issues in Robotics. Цитируетс. по исследованию Robolaw. [Электронный ресурс] URL: http://www.robolaw.eu/RoboLaw_files/documents/ robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf 7

Глава 1. О предмете «робоправа»

Авторы рекомендуют постоянно сопоставлять различные последствия развития робототехники с существующим регулированием, в том числе адресуя действующей регуляторной системе потенциальные вопросы и задачи, связанные с тем или иным этапом развития конкретного вида роботов. В итоге в рамках европейского проекта были определены пять общих ключевых правовых тем, которые наиболее тесно связаны с регулированием робототехники: 1. Регулирование в области охраны здоровья, безопасности, потребительских отношений и защиты окружающей среды: различия в рисках безопасности и уровнях обучения пользователей будут влиять на характер требований безопасности и, следовательно, на дизайн роботов. Существует сложное взаимодействие между различными нормами, которые предусматривают различные режимы для разных этапов жизненного цикла роботов.

2. Ответственность (включая ответственность производителей и ответственность в определенных секторах). Ущерб может также быть результатом множества факторов, учитывая сложность функционирования роботов и их взаимодействие с окружающей средой. Это затрудняет оценку рисков ответственности, что может привести к правовой неопределенности; закон должен тщательно отслеживать противоречивые интересы производителей, пользователей и третьих лиц, а также сохранять баланс между регулированием рисков и стимулированием инноваций.

3. Права интеллектуальной собственности (как в отношении самого робота, так и в отношении объектов, созданных роботом). Нет никаких правовых положений, которые конкретно относятся к робототехнике, но существующие правовые режимы и доктрины могут относительно четко применяться к робототехнике; основной вопрос в контексте интеллектуальной собственности заключается в том, способны ли сами роботы иметь авторские права.

4. Конфиденциальность и защита персональных данных. Обработка и сбор персональных данных роботами должны осуществляться на действующих принципах (прозрачность, законность и др.). Различия регулирования в разных юрисдикциях могут 8

§ 2. Некоторые исследования

затруднить для производителей, обслуживающих международный рынок, разработку конкретных правил защиты данных.

5. Способность совершать юридические операции (например, могут ли интеллектуальные агенты заключать контракты). Теоретически можно признать правосубъектность роботов и распространить на них требования регистрации (включая требования о том, что только так роботы могут подтвердить свою зарегистрированную идентификацию). Вопрос представительства роботов в судебном процессе, если признать их субъектами права. Аналогичную методологию используют в Германии в процессе создания правовой базы для развития робототехники. Так, Министерство юстиции Германии сформировало рабочую группу, которая должна была разрешить только один вопрос: необходимо ли вносить изменения в гражданское законодательство. В целом рабочая группа пришла к выводу о том, что немецкое гражданское право достаточно гибкое для решения большинства задач цифровизации. Однако в вопросе ответственности при использовании роботов была найдена область для вмешательства национального законодателя 25. Еще одна ключевая общая тема, а именно фундаментальная защита прав, была выделена для отдельного изучения, поскольку она является всеобъемлющей, затрагивающей все аспекты регулирования робототехники. Спектр существующего регулирования, относящегося к приложениям для робототехники, демонстрирует, что в большинстве юрисдикций не существует специального регулирования. Нормативное регулирование состоит в основном из широкого описания правовых областей в целом, в которых элементы и доктрины соответствующих областей должны применяться к конкретным формам робототехники. Следовательно, вторым важным элементом в отношении руководящих принципов регулирования робототехники является анализ роли основных прав и свобод.

25

[Электронный ресурс] URL: https://www.justiz.nrw.de/JM/schwerpunkte/digitaler_ neustart/zt_bericht_arbeitsgruppe/bericht_ag_dig_neustart.pdf (дата доступа: 04 июля 2018 г.). В отчете также рассмотрены вопросы о заключении договора с использованием робота (с. 12, 99–109); вопросы ответственности в сфере Интернета вещей (с. 13, 24, 109–119), защиты персональных данных (с. 270–321).

9

Глава 1. О предмете «робоправа»

§ 3. Основные проблемы «робоправа» На данный момент вслед за европейским проектом «Робоправо» можно выделить ряд ключевых правовых тем, которые наиболее тесно связаны с регулированием робототехники. Каждая из них содержит свои специфические правовые проблемы и потенциальные пути их решения.

• Понятия и классификация: что является роботом, разумным роботом, искусственным интеллектом, киберфизической системой. Этот вопрос предполагает принципиальную идентификацию исследуемой проблематики.

• Безопасность: обеспечение безопасности жизни и здоровья граждан — ​потребителей робототехнических продуктов, сохранение окружающей среды в связи с развитием робототехники. В качестве примера проблем, обсуждаемых в рамках данной проблематики, можно привести минимальные требования к обеспечению безопасности и контролируемости роботов, например «красная кнопка» или «черный ящик».

• Ответственность: определение основных подходов к проблеме ответственности за действия/бездействие роботов, степени ответственности участников соответствующих правоотношений.

• Правосубъектность: при каких условиях интеллектуальные агенты способны совершать юридические операции, и можно ли признать их субъектами права.

• Право интеллектуальной собственности: способны ли сами роботы иметь соответствующие права. Данный вопрос традиционно выделяется рядом авторов как самостоятельный объект исследования. По существу он является вторичным к проблеме правосубъектности. Господствующая позиция гражданского права состоит в том, что только акт творчества человека порождает новые объекты интеллектуальных прав. В отсутствие статуса субъекта права у роботов на данном этапе преждевременно признавать творческим актом деятельность робота.

• Конфиденциальность и защита персональных данных, использование «больших данных»: какие требования должны применяться к роботам для обеспечения конфиденциальности 10

§ 4. Подходы к регулированию роботов и ИИ

используемой информации и, шире, в принципе к использованию информации в контексте развития робототехники.

• Помимо этих проблем может быть выделен целый ряд иных, которые не являлись основным объектом нашего исследования, однако выделяются в качестве специфичных целым рядом исследователей. К ним можно отнести, например, проблему обеспечения информационной безопасности киберфизических систем.

• Целый ряд проблем возникает и в контексте развития технологий искусственного интеллекта, среди которых проблема экзистенциальных рисков искусственного интеллекта и их урегулирования.

§ 4. Подходы к регулированию роботов и ИИ В целом в ряде юрисдикций можно говорить о формировании своеобразного «права киберфизических систем». Его предмет составляют общественные отношения, возникающие в связи с разработкой, развитием, внедрением и использованием киберфизических систем, прежде всего робототехники и технологий искусственного интеллекта 26. При этом регулирование соответствующей отрасли, как правило, объединяет в себе комплекс общих базовых принципов (безопасность жизни и здоровья людей; конфиденциальность; контролируемость; содействие развитию; создание общего блага и т. д.) и классические правовые проблемы (правосубъектность, ответственность и др.). Детальное отраслевое регулирование самых разных видов КФС предполагает взаимодействие практически со всеми отраслями права. Соответственно рекомендуется применить соответствующий подход в рамках российского регулирования, с использованием существующих правовых институтов и общих правовых принципов, учитывая 26

Следует учитывать, что далее термин «киберфизические системы» будет уточнен, и в данной книге мы говорим о самом общем определении. Как будет показано, киберфизические системы объединяют в себе довольно большой спектр явлений и технологий. В связи с этим в настоящей работе мы в большей степени изучали правовые аспекты робототехники и искусственного интеллекта. В этом контексте более правильно говорить о формировании «Робоправа».

11

Глава 1. О предмете «робоправа»

специфику как всей отрасли КФС, так и отдельных видов/категорий роботов и систем ИИ. Регулирование сферы робототехники и ИИ должно быть комплексным и включать 27: 1) Наднациональное регулирование, которое объединило бы в себе общие нормы, действующие в сфере робототехники и ИИ (на самых различных уровнях международного взаимодействия — о ​ т ЕАС до ООН).

2) Концепцию или стратегию развития регулируемой отрасли (регуляторный аспект с учетом будущего развития технологий). Этот документ является базовым и определяет все ключевые направления, в том числе регуляторную реформу. Такие концепции в том или ином виде есть во всех ведущих странах мира (ЕС — проект «SPARC», Япония — ​«Robot Revolution Initiative» и т.д. 28). Несмотря на некоторые различия, ведущие державы в сфере робототехники обнаружили целый ряд общих черт в вопросах концепции развития робототехники и ИИ: существуют официальные государственные или хотя бы оформленные общественные программы (концепции) развития робототехники; развитие роботов рассматривается всегда как будущее общества, как фактор создания рабочих мест, а также решение локальных местных проблем; во всех случаях считается, что роботы могут вывести страну в лидеры промышленного производства; финансирование проектов в сфере робототехники является только частью программ и т. д. В России такой программы, однако, на настоящий момент нет. Остается актуальным вопрос создания государственной концепции развития робототехники и систем искусственного интеллекта в нашей стране.

3) Основы законодательства регулируемой отрасли (развитие и внедрение рамочных нормативных документов). Если 27

28

12

Модель была впервые описана в следующей работе: Незнамов А. В., Наумов В. Б. Вопросы развития законодательства о робототехнике в России и в мире // Юридические исследования. 2017. № 8. С. 14–25. URL: http://e-notabene.ru/lr/article_23292. html (дата доступа: 04 июля 2018 г.) См. подробнее книгу, посвященную анализу существующих регуляторных актов, — «Новые законы робототехники».

§ 4. Подходы к регулированию роботов и ИИ

в области государственных концепций развития зарубежные страны обнаруживают больше сходства, чем различий, то в ситуации с правовой реформой все обстоит ровным счетом наоборот. Скорее, единственное, что объединяет большинство стран, — э​ то совершенно уникальный подход к проблемам адаптации правовой системы для применения новых технологий. Причина этого, как кажется, кроется в специфике правовой системы каждой конкретной страны. Сравнение становится еще более сложным из-за того, что страны-лидеры принадлежат к разным правовым семьям. Таким образом, Россия при адаптации правовой системы прежде всего будет вынуждена ориентироваться на собственный правоприменительный опыт и состояние соответствующих общественных отношений, что, однако, не мешает учесть ошибки или, наоборот, преимущества отдельных зарубежных решений. По нашему мнению, эффективное регулирование отношений, возникающих в связи с использованием киберфизических систем, предполагает создание основ законодательства в этой сфере. Их основная задача заключается в том, чтобы обозначить общее направление правовой регламентации киберфизических систем, создать фундамент для будущих изменений иных нормативно-правовых актов, заложить принципы регулирования и служить ориентиром для дальнейшей регуляторной реформы.

4) Отраслевые законы и подзаконные акты (развитие норм непосредственного действия, направленных на регулирование как отдельных категорий КФС/роботов, так и отдельных отраслей их применения). Создание основ законодательства позволит подготовить достаточную почву для «пакетных» изменений в конкретных отраслях, где внедряются или ожидается внедрение киберфизических систем. По существу речь идет обо всех основных законах и кодексах, так как любая отраслевая корректировка затрагивает целый пласт регулирования.

5) Пакетные изменения подзаконных актов. Данный уровень является продолжением предшествующего уровня и предполагает изменение норм непосредственного действия: административных и технических регламентов, указов, приказов 13

Глава 1. О предмете «робоправа»

и постановлений и т. д. Пакетные изменения могут вноситься в связи с любым аспектом развития киберфизических систем. Вот лишь несколько примеров возможных направлений для изменений, основанных, в том числе, на зарубежной практике: • регулирование высокоавтоматизированных (беспилотных) автомобилей; • регулирование беспилотных летательных аппаратов; • регулирование роботов-курьеров; • регулирование технологий искусственного интеллекта в финансовой сфере; • регулирование технологий автоматизации, роботизации и применения ИИ в государственном управлении, законодательной деятельности, при отправлении правосудия; • регулирование применения военных роботов; • регулирование применения роботов и роботизированных устройств, а также имплантатов в медицине, а равно систем ИИ, применяемых в медицине, и т. д. Во всех случаях разработки нормативных актов приоритетом должно стать соблюдение баланса между интересами максимального развития отрасли и минимально необходимыми ограничениями для обеспечения безопасности. Рекомендуется исходить из того, что принятие любых НПА в этой сфере в ближайшие 5 лет по возможности должно не тормозить, а способствовать развитию индустрии. Подчеркнем, что наиболее оптимальным являлось бы постепенное развитие регулирования во всех направлениях. При этом гармоничное развитие отраслевого законодательства возможно при условии предварительного принятия основ законодательства о робототехнике. Данные основы, в свою очередь, в самом общем виде могли бы предварительно обозначаться на уровне общей концепции развития регулируемой отрасли. В то же время основы законодательства и концепция развития отрасли не являются жестко связанными документами. Кроме того, реалии развития индустрии предполагают, что целый ряд сфер может потребовать отраслевых корректировок до разработки основ законодательства о робототехнике. Вопрос о согласовании международных документов является открытым и займет, очевидно, достаточно много времени.

14

§ 4. Подходы к регулированию роботов и ИИ

Также представляется важным проведение постоянного анализа действующего законодательства (в т. ч. гражданского) с целью определения того, какие нормы действующего закона негативным образом препятствуют или сдерживают развитие общественных отношений, связанных с роботами, прежде всего конкретных типов, и с учетом динамики их развития. При этом необходимо определить и обосновать с научной точки зрения, (1) какие нормы объективно необходимо разработать и включить в действующее законодательство с учетом текущего уровня развития робототехники, (2) адаптировать действующие нормы или (3) убедиться в том, что релевантное регулирование, предусмотренное для подобных отношений, вполне способно эффективно применяться к общественным отношениям, связанным с роботами.

15