ГЛАВА 1
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПОД ХОДЫ К ОПРЕДЕЛЕНИЮ В ДОКТРИНЕ И ЗАКОНОД АТЕЛЬСТВЕ
1.1. И скусственный интеллект: научное осмысление в разных областях знания Научное осмысление и разработка категории искусственного интеллекта начались в мире с середины XX века. Основоположником теории искусственного интеллекта считается Алан Тьюринг, уже в 1947 г. в докладе «Интеллектуальные машины» задавшийся вопросом, может ли машина обнаруживать разумное поведение и рассмотревший искусственный интеллект в статье «Вычислительные машины и разум» в 1950 г., где также был описан тест (впоследствии получивший имя автора), позволяющий сравнить машинный интеллект с человеческим 1. Развитие искусственного интеллекта началось с появления в 1950-х гг. экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных условий (см. рис. 1). На смену экспертным системам пришло машинное обучение, самостоятельно создающее модели путем автоматического поиска взаимосвязи между данными и результатом (см. рис. 2).
1
См.: Turing A. Computing Machinery and Intelligence // Mind, New Series. 1950. Vol. 59, no. 236. P. 433–460. 1
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
ПРАВИЛА / ШАБЛОНЫ
ДАННЫЕ
ЭКСПЕРТНАЯ СИСТЕМА
РЕЗУЛЬТАТЫ
Рис. 1. Экспертная система ПРАВИЛА / ШАБЛОНЫ
ДАННЫЕ
МАШИННОЕ ОБУЧЕНИЕ
РЕЗУЛЬТАТЫ
Рис. 2. Машинное обучение С конца 1950-х годов до середины 1970-х годов исследования в области искусственного интеллекта переживали эпоху расцвета, что было обусловлено увеличением производительности, объемов памяти компьютеров, развитием алгоритмов машинного обучения. Однако к концу 1970-х годов научное сообщество столкнулось с проблемой нехватки вычислительных мощностей, и до середины 1980-х годов темп исследований искусственного интеллекта снизился. Интерес к проблематике возродился в конце 1980-х годов в связи с проектом по созданию «компьютера пятого поколения», инвестиции в который были вложены японским правительством 2. C 1950-х годов начинает формироваться специальная терминология в этой области, развитие которой прошло путь от употребления представителями разных научных школ многочисленных синонимов, которыми обозначались одни и те же явления, процессы и технологии, до ее 2
2
См.: Бегишев И. Р., Хисамова З. И. Криминологические риски применения искусственного интеллекта // Всероссийский криминологический журнал. 2018. Т. 12. № 6. С. 769.
1.1. Искусственный интеллект: научное осмысление в разных областях знания
унификации. Основная терминология (преимущественно англоязычная) была сформирована в первой половине 1980-х годов 3. В толковом словаре по искусственному интеллекту 1992 года он определяется как: «1. научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными; 2. свойс тво интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека» 4. Первоначально исследования искусственного интеллекта велись в области кибернетики, впоследствии же они были сконцентрированы в двух направлениях: программно-прагматическом (создание программ, выполняющих задачи, которые ранее решал человек) и бионическом (изучение проблем искусственного воспроизведения интеллектуальных функций) 5. Вместе с тем развитие и повсеместное применение технологии искусственного интеллекта получают именно в последние годы, что связано с провозглашенной многими государствами, включая Россию, задачей цифровизации экономики и всех сфер жизнедеятельности, переходом многих развитых государств к шестому технологическому укладу, вступлению общества в постиндустриальную фазу своего развития. Искусственный интеллект и робототехника наряду с био-, нано- и когнитивных технологиями составляет инфраструктуру наступающего технологического уклада 6. Известно, что в мире в целом пройдено пять технологических укладов, и начинается переход к шестому. Временные рамки пятого уклада обычно ограничиваются в литературе 1970–2020 годами 7, его характерной чертой является автоматизация производства, а приоритетными 3
4
5 6
7
Толковый словарь по искусственному интеллекту / Авторы-составители А. Н. Аверкин, М. Г. Гаазе-Рапопорт, Д. А. Поспелов. М., 1992. URL: http://www.raai.org/library/ tolk/aivocpred.html (дата обращения — 1 июня 2020 г.). Толковый словарь по искусственному интеллекту. URL: http://www.raai.org/library/ tolk/aivoc.html#L208 (дата обращения — 1 июня 2020 г.). Там же. См.: Запесоцкий А. С. Культурологическое осмысление процессов глобализации // Мировое развитие: проблемы предсказуемости и управляемости: XIX Международные Лихачевские научные чтения, 22–24 мая 2019 г. СПб., 2019. С. 116. При этом надо иметь в виду, что изменения технологических укладов происходят в разных государствах по-разному и не всегда одновременно. 3
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
направлениями стали «микроэлектроника, информатика, компьютерные, космические, биологические, генно-инженерные технологии, телекоммуникационное оборудование, робототехника» 8. Это — время господства техносферы — техногенеза 9. Признаки пятого технологического уклада представлены ниже в таблице 1. Таблица 1 Признаки пятого технологического уклада 10 ПРИЗНАК
ОСОБЕННОСТИ В ЭПОХУ ШЕСТОГО ТЕХНОЛОГИЧЕСКОГО УКЛАДА Электронизированное производство Человек Атомная энергия Микроэлектроника
Технологический способ производства Рабочая сила Преобладающий вид энергии Ключевой фактор (прорывная технология) Электронная промышленность, электронно- Технологии на стадии широкого распространения (база технологического вычислительные машины, программное обеспечение, уклада) — с редства производства информатика, телекоммуникации, Интернет, космические технологии, ядерные технологии Функционирование хозяйственного Переход к единой сети крупных и мелких компаний, механизма соединенных сетью Интернет, глобализация Технологические лидеры Япония, США, страны ЕС, Тайвань, Южная Корея Социальные последствия Глобализация, повышение мобильности (качество передвижений), качества связи, международный технологический обмен
Если предыдущие четыре технологических уклада характеризовались долгосрочностью своего существования, то пятому технологическому укладу свойс твенны более краткосрочные временные рамки. К настоящему времени его потенциал практически исчерпан, а мировое сообщество находится на пороге вступления в шестой технологический уклад и постиндустриальный период своего развития. Несмотря на то что даже развитые государства только вступают в шестой 8
9
10
4
Асеева И. А. Аксиологические приоритеты VI технологического уклада // Эпистемология и философия науки. 2017. Т. 51. № 1. С. 128. Каргин И. Ф., Каргин Ю. И. Эволюция технологических укладов: ретроспектива и современность // Экономическая история. 2014. № 2. С. 98. См.: Вдовина А. А. Понятие «технологический уклад» в системе экономических категорий и новые технологические уклады общественного развития // Креативная экономика. 2019. Том 13. № 4. С. 615–616.
1.1. Искусственный интеллект: научное осмысление в разных областях знания
технологический уклад и его протяженность пока неизвестна, можно прогнозировать, что его временные контуры также будут ограничены непродолжительным периодом, поскольку учеными отмечена закономерность: каждый последующий уклад является более коротким и более интенсивным по сравнению с предыдущим 11. Так, предполагается, что для завершения формирования шестого уклада и создания заделов седьмого потребуется от 15 до 20 лет 12. Ядро шестого технологического уклада, по прогнозам ученых, составят «конвергирующие друг с другом, создающие сложные самоорганизующиеся комплексы нано-, био-, инфотехнологии, направленные на дальнейшее радикальное сращивание антропо- и техносред» 13. Основные признаки шестого технологического уклада представлены в таблице 2. Таблица 2 Признаки шестого технологического уклада 14 ПРИЗНАК Технологический способ производства Рабочая сила Преобладающий вид энергии Ключевой фактор (прорывная технология) Технологии на стадии широкого распространения (база технологического уклада) — с редства производства Функционирование хозяйственного механизма Технологические лидеры Социальные последствия
11
12
13 14
ОСОБЕННОСТИ В ЭПОХУ ШЕСТОГО ТЕХНОЛОГИЧЕСКОГО УКЛАДА Гибкие автоматизированные системы, индивидуализация производства и потребления Человек Возобновляемые источники энергии (ВИЭ) Информационные технологии Нанотехнологии (моделирование свойств материалов), наноэлектроника, нанобиотехнологии, генная инженерия, роботостроение, облачные вычисления Государственно-частное партнерство, стратегические альянсы США, страны ЕС, АТР (Япония, Китай) Снижение энерго- и материалоемкости производства
Глазьев С. Ю. Современная теория длинных волн в развитии экономики // Экономическая наука современной России. 2012. № 2. С. 30; его же. О неравномерности современного экономического роста как процесса развития и смены технологических укладов // Социология. 2013. № 4. С. 42–53. Рязанцев А. П., Рязанцева Д. А. Интеграционные процессы и технологические уклады // Национальные интересы: приоритеты и безопасность. 2014. № 16. С. 54. Асеева И. А. Аксиологические приоритеты VI технологического уклада. С. 129. См.: Вдовина А. А. Понятие «технологический уклад» в системе экономических категорий и новые технологические уклады общественного развития. С. 615–616. 5
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
Отличительными признаками присущей шестому укладу новой парадигмы научно-технического развития станут междисциплинарность и человекомерность 15. Структура шестого технологического уклада, разработанная С. Ю. Глазьевым, представлена на рис. 3. Солнечная энергетика
Авиа-, судо-, автомобиле-, приборо-, станкостроение Электроника
Электротехника
Атомная промышленность
Ядерная энергетика
Наноэлектроника Сканирующие микроскопы
НАНО БИО ИКТ
Нанометрология
Нанофотоника Наноматериалы Нанопорошки
КЛЮЧЕВОЙ ФАКТОР
Нанофабрика Наносистемная техника
Светодиоды
Генная инженерия Клеточные технологии
ЯДРО Телекоммуникации
Образование
Ракетно-космический комплекс
Химико-металлургический комплекс
Растениеводство
Здравоохранение
НЕСУЩИЕ ОТРАСЛИ
Рис. 3. Структура нового (VI) технологического уклада 16 Заключительной стадией общественного развития в рамках шестого технологического уклада является информационное общество. Программно-стратегические ориентиры его формирования в России заложены в Стратегии развития информационного общества в Российской Федерации на 2017–2030 годы, утвержденной Указом Президента Российской Федерации от 9 мая 2017 г. № 203 (далее — Стратегия развития информационного общества). 15 16
6
Асеева И. А. Аксиологические приоритеты VI технологического уклада. С. 129. Глазьев С. Ю. Перспективы становления в мире нового VI технологического уклада // МИР (Модернизация. Инновации. Развитие). 2010. № 2. С. 7.
1.1. Искусственный интеллект: научное осмысление в разных областях знания
В контексте теории технологических укладов связующим звеном между экономикой и инновационным развитием является научно- технический прогресс (процесс поступательного развития науки, техники, производства и сферы потребления), одним из состояний которого как процесса являются научно-технические революции и технические перевороты. Именно научно-техническая революция является отправной точкой для развития и смены технологических укладов. С 2011 года в научном сообществе заговорили о «четвертой промышленной революции» (Индустрия 4.0)17, обслуживающей целостный автоматизированный комплекс «производство — п отребитель», в которой вещи взаимодействуют между собой и с людьми в рамках так называемой концепции «Интернет вещей» 18. Интернет вещей представляет собой концепцию вычислительной сети, соединяющей вещи (физические предметы), оснащенные встроенными информационными технологиями для взаимодействия друг с другом или с внешней средой без участия человека 19. Все более важной в Интернете вещей становится роль искусственного интеллекта. С появлением Индустрии 4.0, или четвертой промышленной революции, основной отличительной чертой которой являются киберфизические системы, особое внимание уделяется инновационному применению передовой робототехники и искусственного интеллекта для осуществления цифровой трансформации в бизнесе 20. Термин «искусственный интеллект был впервые сформулирован еще в 1950-е годы американским ученым в области информатики Джоном Маккарти, согласно мнению которого он представлял собой 17 18
19
20
Шваб К. Четвертая промышленная революция. М., 2016. С. 12. Чеклецов В. В. Философские и социо-а нтропологические проблемы конвергентного развития киберфизических систем (блокчейн, Интернет вещей, искусственный интеллект) // Философские проблемы информационных технологий и киберпространства. 2016. № 1(11). C. 65–79. См.: Стратегия развития информационного общества в Российской Федерации на 2017–2030 годы, утвержденная Указом Президента Российской Федерации от 9 мая 2017 г. № 203. M. Haenlein, A. Kaplan. A brief history of artificial intelligence: On the past, present, and future of artificial intelligence // California Management Review, 2019. 61 (4), pp. 5–14; Sivarajah, U., Kamal, M.M., Irani, Z., & Weerakkody, V. (2017). Critical analysis of Big Data challenges and analytical methods. Journal of Business Research, 70, pp. 263–286. 7
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
свойство роботов, компьютерных программ и систем решать задачи, формулировать выводы, принимать решения, выполняя творческие и интеллектуальные функции человека 21. Искусственный интеллект — п рикладное технологическое решение — п рименяется во многих сферах в целях: — освобождения человека от монотонной работы, — автоматизации опасных видов работ, — повышения результативности деятельности организаций и человека, — обеспечения эффективности принимаемых управленческих решений, — обработки больших массивов информации (данных). Определения понятия «искусственный интеллект» и в настоящее время формулируются преимущественно в правовой доктрине (отечественной и зарубежной), при этом во многих случаях они опережают легальные трактовки этого понятия, а во многих случаях конструируются в отсутствие правового режима функционирования искусственного интеллекта. Специалистами в разных отраслях знания (в IT‑сфере, биологами, философами, юристами) это понятие определяется по-разному. Однако даже в одной профессиональной среде нет единого мнения относительно определения понятия «искусственный интеллект», разграничения технологий робототехники и искусственного интеллекта, которые могут «как сочетаться в одной киберфизической системе (становясь, например, разумным роботом), так и применяться совершенно раздельно» 22. Во многом это объясняется наличием различных видов искусственного интеллекта: реактивные машины, системы с ограниченной памятью (например, используемые в беспилотных автомобилях), разумные машины, а также системы с искусственным самосознанием 23. 21
22
23
8
Нагродская В. Б. Новые технологии (блокчейн / искусственный интеллект) на службе права: научно-методическое пособие / под ред. Л. А. Новоселовой. М., 2019 // СПС «КонсультантПлюс». Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // Закон. 2018. № 2. С. 69–89 // СПС «КонсультантПлюс». Шестак В. А., Волеводз А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всероссийский криминологический журнал. 2019. Т. 13, № 2. С. 199–200.
1.1. Искусственный интеллект: научное осмысление в разных областях знания
В зарубежной литературе искусственный интеллект определяется как «способность системы правильно интерпретировать внешние данные, извлекать знания из этих данных и использовать их для достижения конкретных целей и задач посредством гибкой адаптации» 24. Как и в российской литературе, подчеркивается человекоподобность искусственного интеллекта, который запрограммирован думать как человек и имитирует его разумное поведение 25. Искусственный интеллект — э то не единый монолитный термин, применимый к одному объекту. Понимание его может быть достигнуто либо путем рассмотрения через призму стадий развития (узкий (слабый) искусственный интеллект, общий (сильный) искусственный интеллект и искусственный суперинтеллект) либо путем фокусирования на различных типах систем искусственного интеллекта (аналитический, вдохновленный человеком и гуманизированный искусственный интеллект) 26. В Международном словаре по искусственному интеллекту понятие «искусственный интеллект» определяется как область знаний, предусматривающая разработку технологий, позволяющих вычислительным системам действовать таким образом, которое напоминает разумное поведение, в том числе, поведение человека 27. Так, согласно одному из определений искусственный интеллект представляет собой искусственную сложную кибернетическую компьютерно-п рограммно-аппаратную систему (электронную, в том числе — виртуальную, электронно-механическую, био-электронно-механическую или гибридную) с когнитивно-функциональной 24
25
26
27
См.: Kaplan, Andreas & Haenlein, Michael. (2018). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence // Business Horizons. Vol. 62, issue 1, pp. 15–25. См.: Chung-W ha (Chloe) Ki, Erin Cho, Jung-Eun Lee. Can an intelligent personal assistant (IPA) be your friend? Para-friendship development mechanism between IPAs and their users // Computers in Human Behavior. Vol. 111, October 2020. URL: https://www. sciencedirect.com/science/article/pii/S0747563220301655 (дата обращения — 1 июня 2020 г. См.: Kaplan, Andreas & Haenlein, Michael. (2018). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence, pp. 15–25. William J. Raynor Jr., International Dictionary of Artificial Intelligence (2nd edition), Global Professional Publishing (2009). 9
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия» 28. Такая система согласно принятой трактовке обладает свойс твами: — «анализировать информацию об окружающей среде; — оставаться автономной в реализации алгоритма; — без у частия человека самообу чаться в процессе своего исполнения» 29. В технологиях искусственного интеллекта ключевую роль играют компьютерные программные технологии. C 2015 года тематика искусственного интеллекта вышла на наднациональный уровень. В международных актах (Резолюция Европейского парламента «Нормы гражданского права о робототехнике» от 16 февраля 2017 г.30) отмечается необходимость выработки общих понятий таких терминов, как «киберфизические системы», «умные автономные роботы» с учетом следующих признаков: — автономность; — способность обмениваться данными со средой и анализировать их; — способность к самообучению; — наличие минимальной физической поддержки; — способность адаптировать свое поведение к условиям окружающей среды; — отсутствие жизни с биологической точки зрения. Также в Европейском Союзе в 2018 году разработан Скоординированный план по искусственному интеллекту, изложенный в Сообщении Европейской Комиссии Европейскому Парламенту, Европейскому Совету, Совету, Европейскому экономическому и социальному комитету и Комитету регионов, где искусственный интеллект отнесен 28
29
30
10
Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. № 1. С. 94–95. Наумов В. Б., Тытюк Е. В. К вопросу о правовом статусе «творчества» искусственного интеллекта // Правоведение. 2018. Т. 62. № 3. С. 534. URL: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/HnEzgwZd.pdf (дата обращения — 1 июня 2020 г.).
1.1. Искусственный интеллект: научное осмысление в разных областях знания
к системам, которые демонстрируют разумное поведение, анализируя окружающую среду и предпринимая действия — с некоторой степенью автономии — д ля достижения конкретных целей. Отмечается, что рост вычислительной мощности, доступность данных и прогресс в алгоритмах превратили искусственный интеллект в одну из важнейших технологий XXI века 31. В целом искусственный интеллект расценивается специалистами как система, способная заменить человеческий мозг, включая осуществление творческих функций, а также выполнять задачи, которые не под силу людям 32. Так, прогнозируется создание сильного искусственного интеллекта, то есть универсального человекоподобного интеллекта, сверхразума, во много раз превосходящего человеческие возможности. В свою очередь, слабый искусственный интеллект реализован в системах, предназначенных для решения определенных задач (голосовые помощники Siri, Алиса) 33 (см. об этом подробнее параграф 1.3 настоящей главы). Доктринальное обоснование направлений, структуры и системы правового регулирования искусственного интеллекта было предложено в юридической литературе, где была представлена стратегия регулирования робототехники и искусственного интеллекта, состоящая из четырех уровней: — на первом уровне — г осударственная программа (концепция) развития технологий робототехники и искусственного интеллекта; — на втором уровне — основы законодательства о киберфизических системах (включающие предмет регулирования; общие принципы регулирования; механизмы и порядок правовой 31
32
33
Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions — Coordinated Plan on Artificial Intelligence (COM(2018) 795 final). URL: https://ec.europa.eu/digital-single-market/en/news/coordinated-plan-artificial- intelligence (дата обращения — 1 июня 2020 г.). См.: Харитонова Ю. С. Правовой режим результатов деятельности искусственного интеллекта // Современные информационные технологии и право: монография / отв. ред. Е. Б. Лаутс. М., 2019. С. 68–83 // СПС «КонсультантПлюс». Шестак В. А., Волеводз А. Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России. С. 198. 11
Глава 1. Искусственный интеллект: подходы к определению в доктрине и законодательстве
регламентации отдельных киберфизических систем; систему классификации киберфизических систем; предметную терминологию; состав субъектов, их права и обязанности; подходы к системе механизмов ответственности; корреляцию с вопросами защиты информации о частной жизни и персональных данных; подходы к решению проблемы обеспечения безопасности; вопросы стандартизации; трансграничное взаимодействие; основы саморегулирования; создание регуляторных песочниц); — на третьем уровне — п акетные адресные изменения федеральных законов; — на четвертом уровне — пакетные адресные изменения подзаконных актов 34. В России известны идеи о принятии закона о робототехнике и даже о разработке международного договора в этой сфере. В 2017 году компанией Dentons по заказу главы совета директоров Mail.ru Group Д. С. Гришина и фонда Grishin Robotics был разработан проект федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» 35, согласно которому Гражданский кодекс РФ предполагалось дополнить главой, посвященной роботам-агентам, предназначенным для участия в гражданском обороте (см. об этом подробнее параграф 1.3 настоящей главы). Тогда же А. В. Незнамовым и В. Б. Наумовым был разработан проект модельной конвенции о робототехнике и искусственном интеллекте, которая была призвана «определить основные социальные и юридические проблемы, обусловленные активным развитием киберфизических систем и обозначить пути их решения, сформулировать основные правила робототехники, инициировать дискуссию для выработки единых этических и правовых представлений о правилах 34
35
12
Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизических систем // СПС «КонсультантПлюс». Федеральный закон «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники». URL: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/ file/My74kFFZ.pdf (дата обращения — 1 июня 2020 г.).
1.2. Правовые основы искусственного интеллекта
создания и использования роботов и искусственного интеллекта» 36 (см. параграф 2.3 главы 2). Кроме того, предлагаются и иные направления правовой регламентации искусственного интеллекта: — путем принятия общих программных актов, задающих ракурс развития правоотношений и определяющих содержание конкретных правовых актов; либо — путем влияния правовых актов более низкого уровня на правовые акты более высокого уровня; либо — в рамках проведения правового эксперимента 37. Таким образом, искусственный интеллект в наиболее общем плане может быть определен как свойство интеллектуальных систем выполнять творческие, интеллектуальные функции, присущие человеку. Он получил свое доктринальное обоснование несколько десятилетий назад, вместе с тем, именно сейчас начинает активно использоваться для обеспечения многих сфер жизнедеятельности. Доктринальные наработки ложатся в основу национального, наднационального и международного правового регулирования технологий искусственного интеллекта, что свидетельствует о значимости научных прогнозов и научного основания управленческой, в частности, правотворческой деятельности.
1.2. П равовые основы искусственного интеллекта: современное состояние и прогноз развития Регламентация цифровой экономики и цифровых технологий осуществляется в России в настоящее время в основном документами стратегического планирования, изменения гражданского, финансового и прочих отраслей законодательства минимальны. Однако правовая природа документов стратегического планирования до конца неясна, 36
37
Модельная конвенция о робототехнике и искусственном интеллекте. Правила создания и использования роботов и искусственного интеллекта. URL: https:// robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/3nD7bmgz.pdf (дата обращения — 1 июня 2020 г.). Юридическая концепция роботизации. С. 73–74. 13