ВСТУПИТЕЛЬНОЕ СЛОВО А.В. ДВОРКОВИЧА
Б
еспрецедентный технический прогресс в области робототехники и, особенно, искусственного интеллекта ярко демонстрирует скорость развития технологий в современном мире. Сегодня роботы уже задействованы во все более широком спектре сложных видов деятельности, осуществление которых до недавнего времени без участия человека не представлялось возможным. Современные киберфизические системы и алгоритмы все более активно воздействуют на окружающий мир, позволяя технологиям выполнять как полезные, так и опасные задачи в различных условиях и обстоятельствах. В этой связи особую актуальность приобретают вопросы определения правовых и этических границ такого воздействия, которые позволили бы продолжать стремительный технический прогресс без ущерба интересам личности, общества и государства. Важность разрешения данных вопросов бесспорна и для нашей страны. Анализ уже существующего опыта в обозначенных областях является одной из важных задач, решение которых необходимо для дальнейшего развития конкурентоспособности России на мировом уровне. Формирование задела для технологического прорыва на базе отечественных достижений в области науки и техники неразрывно связано с формированием необходимой регуляторной основы для развития новых технологий в нашей стране. Фонд «Сколково», реализуя проект создания одноименного Инновационного Центра, формирует благоприятные условия для инновационного процесса в России. Одним из таких условий является наличие адекватного и современного правового регулирования. По заказу Фонда в рамках программы «Цифровая экономика Российской Федерации» в 2018 году было проведено большое исследование правовых аспектов развития киберфизических систем. Результаты этой работы XIII
Вступительное слово А.В. Дворковича
могут стать основой для дальнейших исследований — как стали основой для создания этой книги. Настоящая книга, как и вся последующая серия, представляет собой одну из первых попыток обобщить накопленный правовой опыт регулирования робототехники, технологий искусственного интеллекта и новых технологий, проанализировать некоторые существующие правовые проблемы и рассмотреть варианты их решения. Представленный в ней материал содержит обширный анализ и систематизацию наиболее актуальных подходов правового регулирования робототехники и искусственного интеллекта во всем мире, которые в дальнейшем могут учитываться при формировании законодательства в России. Возможно, это позволит не только переосмыслить сложившиеся подходы в правовом регулировании с критической точки зрения, но и выработать концептуально новые рамки для проведения исследований и регулирования новых технологий в будущем. Аркадий Владимирович Дворкович, Председатель Фонда «Сколково»
XIV
ВВЕДЕНИЕ В.Б. НАУМОВА РОБОТЫ И ПРАВО: ПЕРВЫЕ РЕЗУЛЬТАТЫ Окружающий нас мир стремительно меняется. Мы стараемся привыкнуть к происходящим изменениям, но часто не осознаем их причины и не хотим оценивать их последствия, а также не знаем, какие драматические или прогрессивные события ожидают человечество в ближайшие десятилетия. В числе ключевых факторов, влияющих сейчас на развитие планеты, бесспорно, лидирующим по объему своего воздействия являются новые цифровые технологии. Несмотря на всю их привлекательность, они являются вызовом для права, общества и государства. Чтобы реагировать на него, необходимо понять природу связанных с ними новых правоотношений и договориться о моделях их регулирования. Сделать это необходимо в условиях открытой междисциплинарной дискуссии, в которую должны быть вовлечены многие профессии. В ней юристам отводится почетная экспертная, но далеко не самая главная роль. Если взять все современные прорывные технологии, самыми узнаваемыми в обществе и самыми востребованными в мире в условиях четвертой промышленной революции являются технологии, связанные с созданием и использованием роботов и искусственного интеллекта. Активно развивающаяся робототехническая отрасль, обширные исследования технологий искусственного интеллекта и ожидаемое активное проникновение роботов во многие сферы общественной жизни, включая военную, сейчас повсеместно требуют от мирового сообщества, государства, правовой науки и юридической практики дать ответы на многочисленные прикладные и теоретические вопросы. Предлагаемая книга позволит сформировать представление об основных направлениях развития регулирования робототехники в тех странах мира, которые сделали ставку на повсеместное вовлечение XV
ВВЕДЕНИЕ В.Б. Наумова
роботов и искусственного интеллекта в экономику и общественную жизнь и претендуют на мировое лидерство в этой области. России потребуется выбрать из широкой палитры уже реализуемых в мире стратегических государственных решений те направления и механизмы регулирования, которые с учетом национальных экономических, научных и технологических возможностей приведут к созданию условий массового использования указанных технологий и укреплению собственной производственной базы. Уже сейчас можно учитывать при разработке программ развития соответствующих технологий и нормотворчества терминологическую базу и обсуждаемую в мире систему принципов регулирования, организационно-правового и технического обеспечения безопасности роботов и искусственного интеллекта. Отдельного внимания заслуживают подтвердившие свою эффективность в разных странах меры государственной поддержки отрасли, а также идеи координации и организации государственного управления и распределения властных полномочий. Много внимания сейчас в мире уделяется этическим аспектам развития робототехники и искусственного интеллекта. При этом, в условия жесткой конкуренции между странами и регионами за технологическое лидерство практически отсутствует международно-правовое регулирование. Два последних обстоятельства должны быть использованы Россией для активного позиционирования страны на геополитической карте цифровой трансформации. Команде Dentons была оказана честь и предоставлена возможность продолжить исследовательскую и прикладную деятельность по регулированию робототехники — в середине-второй половине 2018 года Dentons по заказу Фонда «Сколково». В рамках программы «Цифровая экономика» было выполнено уникальное «Исследование в области развития законодательства о робототехнике и киберфизических системах, в том числе, в части определения понятия киберфизических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности»1. 1
XVI
Отчет о научно-исследовательской работе, выполнен ООО «Дентонс Юроп» в соответствии с пунктом 01.02.001.004.001 Плана мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика Российской Федерации». Руководители НИР ₋ советник Dentons А.В. Незнамов, управляющий партнер
ВВЕДЕНИЕ В.Б. Наумова
В ходе проведения исследования важную методологическую и экспертную поддержку авторскому коллективу оказали д. ю. н. С. Сарбаш, а также А. Конюховская и А. Ефимов. В процессе совершенствования результатов работ большую роль сыграли представители центра компетенции Сколково (C. Израилит, А. Соколов), эксперты ТРГ «Киберфизические системы» и члены рабочей группы по нормативному регулированию АНО «Цифровая экономика» (руководитель Р. Ибрагимов). В результате исследования можно выделить несколько групп вопросов и идей, которые целесообразно учитывать для формирования системы государственной поддержки и управления развитием робототехники в России. Ключевой идеей является примат стимулирования, когда в ближайшей перспективе приоритет в регулировании должен отдаваться разнообразным по своей природе мерам развития робототехники и искусственного интеллекта. При этом важно, по возможности, избегать необоснованного регулирования отрасли, не создавая и так мешающие сейчас цифровой трансформации и существующие в разнообразных формах административные барьеры. Представляется, что сейчас не требуется кардинального изменения действующих правовых институтов для сферы робототехники и технологий искусственного интеллекта и на перспективу ближайших трех лет будет достаточно ряда последовательных специальных изменений законодательства — о т совершенствования терминологии до разрешения проблемы ответственности за использование роботов и введения механизмов страхования. Отдельного внимания заслуживает задача оперативной координации полномочий органов исполнительной власти, а также особого порядка управления формирующейся отрасли экономики. Уже появляются прецеденты создания соответствующих министерств в мире, и России необходимо предложить создать, как минимум, координирующую существующие инициативы развития структуру. Санкт-Петербурского офиса Dentons В.Б. Наумов, исполнители ₋ советник Dentons В.В. Архипов, сотрудники ₋ Dentons В.В. Бакуменко, А.Д. Волынец, Е.П. Побрызгаева, К.М. Смирнова, Е.В. Тытюк. XVII
ВВЕДЕНИЕ В.Б. Наумова
Несомненно, что робототехническая отрасль остро нуждается в комплексном документе стратегического планирования, аналоги которого существуют во всех ведущих странах. Их опыт и примеры планирования и регулирования наглядно демонстрируют состав актуальных для бизнеса, государства и общества задач в сфере предметного нормотворчества. Проанализировав источники из нескольких десятков стран мира, в условия разнообразия предметной информации и ее большого объема, авторы подготовили материал, который носит аналитический и обзорно-справочный характер, и можно надеяться, что он и другие современные сравнительно-правовые исследования иностранного опыта регулирования робототехники и искусственного интеллекта будут служить основой для формирования национальной стратегии развитии робототехнической отрасли и основ отечественного законодательства о робототехнике, а также специального регулирования создания и использования отдельных видов роботов и технологий искусственного интеллекта. Виктор Борисович Наумов, Партнер, руководитель российской практики юридической фирмы Dentons по интеллектуальной собственности, информационным технологиям и телекоммуникациям
XVIII
ВСТУПЛЕНИЕ В 2018 г. в рамках программы «Цифровая экономика» по заказу Фонда «Сколково» было проведено комплексное исследование различных аспектов регулирования киберфизических систем. Это исследование проведено авторским коллективом на базе международной юридической фирмы Dentons. В исследовании было выделено три больших раздела. Первый из них посвящен существующему нормативному опыту. Второй — правовым аспектам развития киберфизических систем. Третий — регуляторным аспектам. Настоящая книга подготовлена на основе этого исследования. Она представляет собой дополненную и расширенную версию основных результатов этого исследования. Книга выполнена тем же авторским коллективом. *** Для многих из нас законы о роботах кажутся чем-то из области фантастики. Это весточка из нашего далекого будущего, где любой человек будет окружен роботами всю свою жизнь. Реальность такова, что роботы уже среди нас. И во многих странах мира о них уже принимаются различные нормативные акты. Следует признать, что исследование правовой проблематики развития киберфизических систем началось в целом ряде зарубежных стран довольно давно. Как будет показано далее, в зарубежной доктрине существуют правовые исследования на тему робототехники и искусственного интеллекта, датированные еще 1990-ми годами. Одновременно в целом ряде юрисдикций существуют нормативные документы, разработанные и принятые десять лет назад и более. А начиная с 2017 г. проблематика стала актуальной в большом количестве стран мира. 1
Вступление
Поэтому на сегодняшний день человечеством накоплен довольно обширный опыт регулирования робототехники, технологий искусственного интеллекта и киберфизических систем. Он включает в себя исследования государственных органов и экспертных групп, законы и подзаконные акты, стратегии и концепции, публикации ученых и исследователей. Поэтому мы хотели бы познакомить читателя с тем, что уже есть в мире на сегодняшний день. Наш анализ представлен в виде обобщения ключевых источников в конкретной стране с комментариями авторов книги. В нашем фокусе были только робототехника и технологии искусственного интеллекта. Лишь в некоторых случаях в качестве примера мы приводим опыт регулирования высокоавтоматизированного транспорта, о днако этой теме будет посвящено отдельное издание. В дальнейшем мы неоднократно будем обращаться к зарубежному опыту целого ряда стран. Всего нами было проанализировано более 50 стран мира. Мы выяснили, что в ряде стран регулирование либо отсутствует, либо является исключительно фрагментарным. Ключевые юрисдикции (чуть более десятка) были отражены в итоговом отчете исследовательской группы. В настоящей книге мы приводим информацию по большинству проанализированных нами стран. Мы, безусловно, не претендуем на исчерпываемость источников и проанализированного количества стран с наличием регулирования по рассматриваемой проблематике. Мало того что законы постоянно находятся в движении, правовая система любой страны настолько сложна, что даже национальные юристы не всегда хорошо ориентируются во всем комплексе правовых норм. Мы же смотрели на зарубежные страны совсем со стороны. Поэтому было бы неправильно претендовать на безусловную достоверность. Тем не менее мы попытаемся представить хотя бы общий взгляд на проблематику. Мы начнем со своеобразной «большой пятерки»: Европейского союза, Китая, США, Японии и Кореи. Это страны — лидеры в области роботизации и разработок в сфере искусственного интеллекта. Одновременно они обладают явно выраженной спецификой регулирования. 2
Вступление
Далее страны будут представлены в алфавитном порядке. Не удивляйтесь, если где-то описание будет совсем коротким — на данный момент регулирование действительно есть не во всех странах мира. Но для составления регуляторного ландшафта это тоже важно. Ведь такое обширное картографирование проводится, пожалуй, впервые в мире. Андрей Незнамов Руководитель Исследовательского центра проблем регулирования робототехники и ИИ, советник Dentons, к. ю. н.
3