ВСТУПИТЕЛЬНОЕ СЛОВО С.А. ЖИГАРЕВА
Р
азвитие робототехники и искусственного интеллекта являются одним из ключевых направлений в рамках Четвертой промышленной революции. Именно эта сфера уже в ближайшие годы начнет определять место национальных экономик в глобальной системе координат. «Умные роботы», киберфизические системы открывают для человечества огромные возможности в таких областях, как транспорт, медицина, промышленное производство, сфера услуг, другие сферы и просто в повседневной жизни. Мир меняется, и в скором будущем именно робототехника станет ядром новой экономической модели. Уверен, уже недалек тот день, когда роботы на улицах, беспилотные такси, роботы-хирурги, высокоавтоматизированные заводы будут частью повседневной жизни. Этот момент не настанет мгновенно, но человечество приближается к такому будущему быстрыми темпами. Уже сегодня вокруг нас множество умных устройств, которые обладают признаками киберфизических систем. Мы не замечаем их, но используем каждый день. И наша жизнь продолжает меняться все быстрее и быстрее с развитием технологий. В то же время, робототехника, киберфизические системы, беспилотный транспорт уже достигли такой точки, когда отсутствие профильного законодательства сдерживает их развитие. Необходимо уже сейчас приступать к решению тех правовых и этических вызовов, которые ставят перед нами новейшие технологии. Нам необходимо обеспечить, чтобы действующее отечественное законодательство позволяло эффективно разрешать различные правовые проблемы в рассматриваемой сфере, а также могло обеспечить необходимые условия для стимулирования инноваций в секторе робототехники в целом. VIII
Вступительное слово С.А. Жигарева
В этом смысле, книга, которую уважаемый читатель держит в руках, является примером системного подхода к рассмотрению и осмыслению уже произошедших технологических изменений сквозь призму права. Авторы аккумулируют большинство наработок, которые существуют в области регулирования робототехники, искусственного интеллекта, киберфизических систем. Выражаю надежду, что такие исследования в ближайшем будущем станут основой прозрачного и эффективного профильного законодательства, которое будет стимулировать, а не тормозить прогресс. Сергей Александрович Жигарев, Председатель Комитета Государственной Думы РФ по экономической политике, промышленности, инновационному развитию и предпринимательству
IX
Вступительное слово С .В . Сарбаша
ВСТУПИТЕЛЬНОЕ СЛОВО С.В. САРБАША
С
егодня мы можем наблюдать, как роботы со страниц фантастических произведений все больше и больше входят в нашу реальность. Стремительное технологическое развитие дает основания полагать, что они скоро будут использоваться во всех аспектах жизнедеятельности человечества. На первый взгляд робот как киберфизическая система ничем не отличается от любого другого технического устройства, механизма, т. е. является объектом гражданского права — вещью. Тот факт, что по внешней видимости некоторые роботы способны выполнять те или иные единичные действия или даже осуществлять деятельность без непосредственного участия человека, не отнимает у робота титула вещи. Однако, чем более автономен робот, чем сложнее его внутреннее устройство и возможности функционирования, чем разнообразнее виды роботов и вовлечение их в ту или иную деятельность, тем больше правовых вопросов начинает возникать у юристов. Необходимо отграничить роботов от других видов вещей, установив для первых специальный правовой режим; нужно провести классификацию роботов, относящихся к различным видам; требуется определить юридические аспекты деятельности людей по созданию роботов, их безопасной эксплуатации; следует разрешить вопросы ответственности за действия роботов и пределы их функционирования по отношению к правам человека (здесь знаменитые базовые законы Айзека Азимова кажутся уже недостаточными) — и этот перечень задач далеко не закончен и может быть продолжен. Как уже указывалось, робот относится к устройствам и является вещью. Робот не обладает свободной волей и своим интересом, а потому не может относиться к субъектам гражданского права, ибо X
Вступительное слово С.В. Сарбаша
последние согласно фундаментальному принципу частного права действуют в гражданском обороте, приобретая права и обязанности, своей волей и в своем интересе. Однако развитие робототехники может достичь таких высот, когда у общества, быть может, возникнет потребность приравнять робота к субъектам гражданского права. Подобная методология уже была использована в процессе эволюции науки гражданского права — э то известная нам под именем юридического лица фикция субъекта гражданского права. Представляется, что превращение робота в подобие юридического лица, обладающего собственным обособленным от создателя имуществом, автономно действующего согласно заложенной программе, самообучающегося и рационально приспосабливающегося к внешним обстоятельствам, для достижения тех или иных хозяйственных целей, не противоречит теории права. Движение в этом направлении уже намечается в современной практике. Например, уже широко представлены биржевые роботы, самостоятельно осуществляющие сделки на фондовом рынке, для их функционирования может быть открыт отдельный брокерский счет, снабженный необходимым финансированием, в пределах которого совершаются сделки, и за счет которого робот отвечает по «своим» обязательствам. Более того, богатое футурологическое воображение творческой личности вполне способно представить себе (и это уже сделано в многочисленных произведениях) возникновение в будущем нового вида разумного существа — Homo roboticus (или лучше: Robot sapiens?), которое сосуществует вместе со своими первоначальными создателями — Homo sapiens. Если развитие технологии приведет к тому, что роботы будут обладать свободной волей и собственным интересом — д ля гражданского права это будет означать появление нового субъекта права. Считается, что человеческий разум не в состоянии заглянуть далее приближающейся технологической сингулярности, поскольку после ее наступления базовые постулаты цивилизации и некоторые физические законы почти полностью изменяются кардинальным образом. Тем не менее, рискну предположить, что позитивный сценарий будущего не исключает сосуществование робота и человека (который сам к тому времени станет отчасти киборгом) как двух видов субъектов. Как бы то ни было науке права требуется XI
Вступительное слово С.В. Сарбаша
дальнейшее развитие с тем, чтобы право, как ars boni et aequi, смогло гармонично вписать в нашу повседневность такой феномен как робот, чем бы или кем бы он ни был. С. В. Сарбаш, д. ю. н., начальник отдела общих проблем частного права Исследовательского центра частного права им. С. С. Алексеева при Президенте РФ
XII
Введение В .Б . Наумова
ВВЕДЕНИЕ В.Б. НАУМОВА РОБОТЫ И ПРАВО: В ПОИСКАХ НОВЫХ ГОРИЗОНТОВ Вашему вниманию предлагается вторая книга серии, создаваемой юридической фирмой Dentons и ее сотрудниками, в сфере исследований прорывного регулирования цифровых технологий в России и в мире. Как и первое издание, оно посвящено индустрии робототехники. Процессы нормотворчества в сфере использования роботов и искусственного интеллекта начались в мире более десяти лет назад, и уже сейчас накопленный регуляторный опыт и формирующаяся правовая доктрина в разных юрисдикциях являются достойным предметом для исследований и основой для становления российской правовой системы 1. Для того чтобы очертить ее предметную сферу, определить нормотворческие и научные приоритеты, построить иерархию теоретических и прикладных правовых проблем, предложить непротиворечивый терминологический аппарат, а также провести сравнительно-правовой анализ нового законодательства о робототехнике в мире, в книге было использовано условное собирательное понятие «робоправо». Его не следует воспринимать в качестве самостоятельной отрасли в системе юридической науки и регулирования. При этом авторы в рамках проводимых исследований старались применять имеющийся методологический аппарат к бурно развивающейся индустрии и выделять ключевые задачи и проблемы, которые на современном этапе развития технологий и глубине их проникновения представлялись им наиболее актуальными и значимыми. 1
См. подробнее об иностранном опыте регулирования в книге «Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий искусственного интеллекта». Под ред. А. В. Незнамова — М.: Инфотропик Медиа, Москва, 2018. XIII
Введение В.Б. Наумова
На фоне происходящих в мире изменений российский предметный опыт законотворчества является на настоящий день очень ограниченным: из числа примеров регулирования на уровне подзаконных актов можно выделить только сферу беспилотного транспорта. Первым же «пробным шаром» в сфере регулирования роботов и искусственного интеллекта в стране стал «законопроект Дмитрия Гришина», выполненный в декабре 2016 года российской практикой Dentons по интеллектуальной собственности, информационным технологиям и телекоммуникаций (авторы А. Архипов, В. Наумов) по заказу известного бизнесмена и евангелиста в сфере информационных технологий и основателя компании Grishin Robotics. Широкий отклик науки и бизнеса, волны разнообразной по своим причинам критики, возникшие после опубликования законопроекта и не стихающие до сих пор, послужили толчком для формирования устойчивого интереса у юридического сообщества и ведущих научных школ страны к рассматриваемой сфере. В ноябре 2017 года российская практика Dentons сосредоточилась на правовых и этических принципах и требованиях для создания роботов и искусственного интеллекта, разработав в ноябре 2017 года проект «Модельной конвенции о робототехнике и искусственном интеллекте» (авторы А. Незнамов, В. Наумов). Ключевой вехой, определившей государственный и общественный интерес к регулированию робототехники в стране, стали принятие и реализация программы «Цифровая экономика Российской Федерации» в 2017 году. Командой Dentons в 2018 году по заказу Фонда «Сколково» в рамках программы «Цифровая экономика» было выполнено комплексное «Исследование в области развития законодательства о робототехнике и киберфизических системах, в том числе, в части определения понятия киберфизических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности» 2.
2
XIV
Отчет о научно-исследовательской работе, выполнен ООО «Дентонс Юроп» в соответствии с пунктом 01.02.001.004.001 Плана мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика Российской Федерации». Руководители НИР — советник Dentons А. В. Незнамов, управляющий партнер Санкт-Петербурского офиса Dentons В. Б. Наумов, исполнители — советник
Введение В.Б. Наумова
В ходе проведения исследования важную методологическую и экспертную поддержку авторскому коллективу оказали д. ю. н. С. Сарбаш, а также А. Конюховская и А. Ефимов. В процессе совершенствования результатов работ большую роль сыграли представители центра компетенции Сколково (C. Израилит, А. Соколов), эксперты ТРГ «Киберфизические системы» и члены рабочей группы по нормативному регулированию АНО «Цифровая экономика» (руководитель Р. Ибрагимов). Материалы упомянутого исследования были взяты за основу при работе над этой и рядом других книг. Их авторы не претендуют на полноту представления проблематики и выражают надежду, что труд всех участвовавших в исследованиях и разработках лиц будет использован для продолжения комплексного творческого и критического диалога между учеными и практиками, проводимого через призму междисциплинарных знаний и национальных интересов. В грядущем 2019 году будет важно оперативно консолидировать экспертные усилия не только и не столько юристов, сколько национального бизнеса, производящего и эксплуатирующего соответствующие технологии, государства, науки, а также существующих инициатив и проектов АНО «Цифровая экономика» и НТИ для разработки стратегии развития робототехники и искусственного интеллекта в России, которая может стать основным специальным документом планирования и определять ключевые направления развития и регулирования индустрии. При его написании нужно будет ответить на ключевые вопросы, какие технологии в этой сфере для страны являются приоритетными, что возможно без системных рисков использовать из уже имеющихся иностранных решений, каковы перспективы массового внедрения отечественных решений, в каких сферах робототехнической отрасли страна может и будет претендовать на лидерство в мире, и какие для этого потребуются ресурсы. Возможными позициями будущего плана действий могут стать разработка и реализация мер поддержки и развития участников рынка, формирование специального федерального органа (или наделение предметными полномочиями существующего) по координации Dentons В. В. Архипов, сотрудники Dentons В. В. Бакуменко, А. Д. Волынец, Е. П. Побрызгаева, К. М. Смирнова, Е. В. Тытюк. XV
Введение В.Б. Наумова
и поддержке развития отрасли, участие в международном сотрудничестве и регулировании, пакетные изменения законодательства сообразно уровню и перспективам развития и внедрения собственных и иностранных робототехнических устройств и искусственного интеллекта в стране. В отношении последних в краткосрочной перспективе в системе «Цифровая экономика Российской Федерации» представляется актуальным разработать основы законодательства о робототехнике и искусственном интеллекте, в которых будут определены терминология и принципы регулирования, раскрыт статус основных участвующих в правоотношениях субъектов, установлены основы государственной политики и система функций уполномоченных органов власти. Особое внимание должно быть обращено на обеспечение физической и информационной безопасности систем и технологий, регулирование условий доступа и обработки конфиденциальной информации при их эксплуатации, использование отдельных разновидностей роботов и технологий искусственного интеллекта и, конечно, определение ответственности за действия, связанные с их созданием и использованием. В рамках поправок в действующее законодательство также нужно внедрить систему налоговых и неналоговых льгот, специальные регуляторные режимы для тестирования систем и обязательное страхование в сфере использования специальных категорий роботов. Эта книга, наряду с другими публикациями и исследованиями, которые стали выходить в последнее время в стране и в мире, поможет консолидировать государственные и правовые идеи и решения для целей обеспечения успешного технологического и социально-экономического развития России за счет использования новых технологий — р обототехника, действительно, может многое поменять, вопрос в готовности к изменениям, опережающем планировании и целенаправленной поддержке выбранных успешных и важных технологий. В. Б. Наумов, Партнер, руководитель российской практики юридической фирмы Dentons по интеллектуальной собственности, информационным технологиям и телекоммуникациям XVI
ВСТУПЛЕНИЕ
В 2018 г. в рамках программы «Цифровая экономика» по заказу Фонда «Сколково» было проведено комплексное исследование различных аспектов регулирования киберфизических систем. Это исследование проведено авторским коллективом на базе международной юридической фирмы Dentons. В исследовании было выделено три больших раздела. Первый из них посвящен существующему нормативному опыту. Второй — правовым аспектам развития киберфизических систем. Третий — регуляторным аспектам. Настоящая книга подготовлена на основе этого исследования. Она представляет собой дополненную и расширенную версию основных результатов этого исследования. Книга выполнена тем же авторским коллективом. *** Проблематика правовых аспектов развития робототехники и искусственного интеллекта, без преувеличения, изучена крайне слабо. В зарубежных странах существует большое количество эмпирического материала для исследования, а уровень развития технологий позволяет оценить правовые последствия внедрения роботов на конкретных примерах. Однако даже несмотря на это полноценных правовых исследований в иностранных юрисдикциях не так уж много. Ситуация в России в этом отношении совершенно исключительная. Помимо общей неразвитости соответствующих общественных отношений в научной среде практически отсутствуют правовые публикации отечественных ученых. Соответствующие исследования проводит буквально считаное количество экспертов. Поэтому при изучении различных правовых проблем мы ориентировались не только на отечественные реалии, но принимали во внимание иные источники, как нормативные, так и доктринальные. 1
Вступление
При этом мы подчеркиваем, что авторы не претендуют на безусловную полноту и глубину исследования всех описываемых вопросов. Скорее наоборот: на данным этапе нами были выявлены и обозначены основные направления для изучения, которые в дальнейшем, вне всяких сомнений, будут расширяться и прорабатываться экспертным сообществом. Именно поэтому настоящая книга называется «Введением в робоправо». Мы не претендуем на то, что изучаемые правовые проблемы свидетельствуют о формировании самостоятельной отрасли права. Безусловно, об этом пока рано говорить. Под «робоправом» мы понимаем тот большой пласт юридических вопросов, которые возникают в обществе в связи с активным развитием двух относительно новых технологий: робототехники и искусственного интеллекта. Несомненно, в будущем могут быть предложены более удачные термины для исследуемой области права. Благодарим за участие в работе над этой книгой в качестве эксперта-рецензента доктора юридических наук, заведующего кафедрой, профессора, начальника отдела общих проблем частного права Исследовательского центра частного права им. С. С. Алексеева при Президенте РФ Сергея Сарбаша. А.В. Незнамов, Руководитель авторского коллектива, директор Исследовательского центра проблем регулирования робототехники и ИИ, советник Dentons, к. ю. н.
2