Понятие искусственного интеллекта и юридическая ответственность за его работу

Размещено на http://www.allbest.ru

Понятие искусственного интеллекта и юридическая ответственность за его работу

Vasiliy A. Laptev

Assistant Professor, Department of Entrepreneural and Corporate Law, Moscow State Legal University, Doctor of Juridical Sciences.

Industrial revolution transformed idea of ways and means of production. Introducing robots in the real sector of economy became inevitable process. Degree impact of the person on production cycle decreases gradually and replaced by programs determining behavior of robots and a mentality of artificial intelligence by digital algorithms. Primary researches of artificial intelligence have found reflections in works of software engineers.

The legal treatment of the nature of artificial intelligence and a regulation of his use became the big task for domestic jurists. The analysis of possible approaches to disclosure of the concept “artificial intelligence” as legal category and his ratio with the concepts of robot and cyberphysical system is provided in the article. Issues of liability for work of artificial intelligence are revealed. The possibility of recognition for the robot (car) with artificial intelligence, status of a legal entity is studied. The possibility of recognition of legal personality of artificial intelligence in cyberphysical space is separately considered. Work purpose is to offer ways of development of the legislation in the conditions of digitalization of Russian economy and introduction of artificial intelligence. Methods of analysis, synthesis, generalization, induction and deduction, interpretation, classification and comparative methods were used. The research will allow to improve legal regulation of artificial intelligence in economy. Author's look to disclosure of categories of artificial intelligence, intellectual systems and robot from a position of Russian law is offered. Mechanisms of attraction to legal responsibility of appropriate subjects of the right are defined. Author allocates three stages: short-term, medium-term and long-term temporary prospects of development of the legislation defining legal capacity of the robot and artificial intelligence in cyberphysical space, the maintenance of the cyberphysical relations and also the bases of attraction to legal responsibility of participants of the considered relations. Legal regulation of economic activity with use of artificial intelligence has to be based on the principle of convergence of technology and rules of law.

Keywords: artificial intelligence, machine intelligence, digital economy, right of robots, digital right, legal personality of the robot, cyberphysical relations, liability, cyberphysical responsibility, distributed register.

Аннотация

Промышленная революция трансформировала понятие о способах и средствах производства. Внедрение искусственного интеллекта и роботов в реальном секторе эко-номики стало неизбежным. Степень воздействия человека на ход производственного цикла постепенно уменьшается и заменяется программами, определяющими по циф-ровым алгоритмам поведение роботов и образ мышления искусственного интеллекта. Правовая оценка природы искусственного интеллекта и регламентация порядка его использования стала важнейшей задачей современного отечественного правоведе-ния. В статье дан анализ возможных подходов к раскрытию понятия «искусственный интеллект» как правовой категории и соотношения его с понятиями «робот» и «кибер-физическая система». Раскрываются вопросы юридической ответственности за рабо-ту искусственного интеллекта. Изучается возможность признания у робота (машины), обладающего искусственным интеллектом, свойств субъекта права.

Рассматривается возможность признания правосубъектности искусственного интеллекта в киберфи- зическом пространстве. Цель работы: предложить пути развития законодательства в условиях цифровизации российской экономики и внедрения искусственного интел-лекта. Использовались метод анализа, синтеза, обобщения, статистики, индукции и дедукции, интерпретации, классификации и сравнительный методы. Предложен под-ход к раскрытию категорий «искусственный интеллект», «интеллектуальные системы», «нейротехнологии» и «робот» с позиции российского права. Определены механизмы привлечения к юридической ответственности соответствующих субъектов права. Вы-делены краткосрочная, среднесрочная и долгосрочная перспективы развития законо-дательства, определяющего правоспособность робота и искусственного интеллекта в киберфизическом пространстве, содержание киберфизических отношений, а также основания привлечения участников рассматриваемых отношений к юридической от-ветственности. Правовое регулирование предпринимательской и иной экономической деятельности с использованием искусственного интеллекта должно основываться на конвергенции технологии, программирования и права.

Ключевые слова: искусственный интеллект, машинный интеллект, цифровая экономика, право роботов, цифровое право, правосубъектность робота, киберфизические отношения, юридиче-ская ответственность, киберфизическая ответственность, распределенный реестр.

Введение

искусственный интеллект производственный

Современные исследования правоведов все чаще затрагивают проблема-тику регулирования экономических отношений в условиях развития циф-ровых технологий. Мир меняется, меняются и сущностные характеристики общественных отношений. Правоведы непременно стараются дать оценку любому явлению в жизни общества с точки зрения норм права, нередко ис-пользуя категорию «правовое явление». Вместе с тем многие явления дале-ки от регулятивной силы права. Современные общественные отношения в условиях развития цифровых технологий свидетельствуют о неготовности или же неспособности законодательства регулировать отдельные аспекты складывающихся общественных отношений. Рассматриваемые отношения характеризуют как киберфизические правоотношения, урегулированные нормами цифрового права (киберфизического права). При этом термин «цифровое право» используется в качестве условной правовой категории, обозначающей совокупность норм права, регулирующих любые отноше-ния с «цифровым элементом» (предпринимательские, административные, гражданские и другие отношения), не образующих самостоятельной отрас-ли права. Элементы цифрового права содержит каждая отрасль права (элек-тронная торговля в предпринимательском праве, электронное правосудие в арбитражном процессуальном праве, цифровое межведомственное взаимо-действие в административном праве и т.д.).

В статье сделана попытка раскрытия понятия искусственного интеллекта как правовой категории, его аунтификации, а также определяются возмож-ные пути развития отечественного законодательства в части юридической ответственности за его работу. Период изучения искусственного интеллек-та и научного моделирования образа его мышления начался лишь в сере-дине ХХ века. Промышленные роботы выступили лишь третьим этапом (Industry 3.0), в то время как, искусственный интеллект и киберфизические системы стали четвертым этапом промышленной революции (Industry 4.0).

Актуальность настоящего исследование обусловлена выбранным руко-водством России и других стран Евразийского экономического союза кур-сом на развитие цифровой экономики, в том числе с использованием искусственного интеллекта (решение Высшего Евразийского экономического совета от 11.10.2017 №12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года», Указ Президен-та Российской Федерации от 1.12.2016 № 642 «О Стратегии научно-техноло-гического развития Российской Федерации, распоряжения Правительства от 23.03.2018 № 482-р и от 28.07. 2017 № 1632-р и др.). Множество вопросов по данной проблематике обсуждается на профильных сайтах в Интернете и на международных конгрессах.

В отсутствии государственного регулирования деятельности искусствен-ного интеллекта видится эффективным саморегулирование, удачным при-мером которого выступает Partnership on AI -- партнерство в поддержку продвижения искусственного интеллекта, в состав которого входят Amazon, Intel, Sony, Apple, Ebay, Google, IBM, Facebook, Microsoft и другие.

В России первые попытки узаконить «право роботов» связаны с рас-смотрением законодательными органами проекта Модельной конвенции о робототехнике и искусственном интеллекте [Незнамов А., Наумов В., 2017: 1-12], разработанной Исследовательским центром проблем регулирования робототехники и искусственного интеллекта. Разумно предложение о рассмо-трении в качестве субъектов рассматриваемых отношений широкого круга лиц, включая исследователей, разработчиков, лиц, финансирующих исследо-вания и разработки в сфере робототехники, производителей, собственников, владельцев, операторов роботов, органов государственной власти и любых ре-гулирующих органов, а также пользователей и иных лиц, взаимодействующих с роботами и киберфизическими системами, в том числе с искусственным интеллектом (ст. 1). Объектами робототехники признаются любые роботы, а также киберфизические системы с искусственным интеллектом в любой фор-ме (ст. 2). Данной конвенции во многих ее аспектах робот (как объекта мате-риального мира) и искусственный интеллект отождествляются.

В настоящее время коллективами ученых различных специальностей раз-рабатывается Цифровой кодекс России [Илющенко Р., Башелханов И., 2018: 1]. Заслуживают внимание предложения В.В. Архипова и В.Б. Наумова допол-нить ГК РФ понятием «робот» -- устройство, способное действовать, опре-делять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека [Архипов В.В., Наумов В.Б., 2017: 46-62]. Небеспочвенно предложение авторов о признании за роботами-агентами правосубъектности и возможности их участия в силу конструктивных особенностей в современных отношениях.

Официальное признание за роботом с развитым искусственным интел-лектом свойств субъектов права (участником общественных отношений) впервые состоялось в Саудовской Аравии, где человекоподобному роботу, спроектированному в Китае, дали гражданство. Следовательно, можно гово-рить о киберфизических отношениях, требующих правовой регламентации.

Понятие искусственного интеллекта

В известной степени понятие «искусственный интеллект» (AI) является одновременно изученной и дискуссионной научной категорией, по-разному, определяемой учеными различных специальностей. Так, по мнению Г.С. Оси-пова, искусственный интеллект выступает предметом компьютерных наук, а создаваемые на ее основе технологии являются информационными техноло-гиями, позволяющими совершать разумные рассуждения и действия с помо-щью вычислительных систем и иных искусственных устройств [Осипов Г.С., 2001: 3-13].

В правоведении, в частности, П.М. Морхатом, искусственный интеллект раскрывается как полностью или частично автономная самоорганизующая (са-моорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/об- ладающая способностями и возможностями мыслить, самоогранизовываться, обучаться, самостоятельно принимать решения и т.д. [Морхат П.М., 2017: 69].

Искусственному интеллекту, очевидно, противопоставляется естествен-ный интеллект человека и других животных организмов. Но не у каждого робота есть искусственный интеллект, ибо только интеллект позволяет рас-суждать, обучаться и принимать самостоятельные решения. На начальном этапе развития робототехники промышленные и иные роботы действовали исключительно по заданным программой алгоритмам. Впоследствии цифро-вые технология и программные комплексы сделали возможным создание и развитие искусственного интеллекта. Робота справедливо отграничивают от киберфизической системы, существование которой возможно в виде компью-терной программы, работающей на базе процессора соответствующей ЭВМ.

Искусственный интеллект может существовать отдельно от машины (ро-бота) только в цифровом виде -- в виде киберфизической системы и иных искусственных систем, позволяющий моделировать соответствующие действия. Собственно, именно в этом заключается трудность определения грани между программным алгоритмом и искусственным интеллектом, поскольку традици-онно интеллект (творческая возможность) свойственен только биологическим организмам. В частности, по методическим рекомендациям Минобрнауки Рос-сии о признании результатов интеллектуальной деятельности единой техноло-гией от 1.04.20106, интеллектуальная деятельность -- это умственная, мысли-тельная, познавательная и творческая деятельность человека.

Еще недавно предполагалось, что искусственный интеллект -- это зало-женное в памяти программы решение, т.е. не новое решение (творческая функция), а алгоритм, содержащий решение в вычислительной программе. Видится интересным раскрытие данной категории в нормативных актах, по-священных техническому регулированию. Так, искусственный интеллект -- моделируемая (искусственно воспроизводимая) интеллектуальная деятель-ность мышления человека (п. 3.17. ГОСТ Р 43.0.5-2009 «Информационное обеспечение техники и операторской деятельности. Процессы информа-ционно-обменные в технической деятельности. Общие положения»). При этом под интеллектом понимается способность субъекта (оператора) к от-влеченному мышлению, абстрагированию, позволяющая с возникновением самосознания и рефлексии использовать имеющуюся у него информацию некоторым полезным целенаправленным образом (п. 3.10). При таком рас-крытии понятия «искусственный интеллект» используются его практиче-ские свойства как явления в информационно-обменном процессе.

В ГОСТ Р 43.0.5-2009 формы «человекоинформационного» взаимодей-ствия (взаимодействие человека с информацией) разделяются на три вида: 1) естественно-интеллектуализированное, осуществляемое с использовани-ем возможностей собственной мыслительной деятельности человека; 2) ги- бридно-интеллектуализированное, осуществляемое с использованием ма-шинно-активизированной (компьютерно-активизированной) мыслительной деятельности; 3) искусственно-интеллектуализированное, осуществляемое с использованием активизации мышления искусственно имитируемой (ма- шинно-имитируемой) мыслительной деятельностью.

В начале развития робототехники предполагалось, что робот выполняет действия только по ранее заданным программой алгоритмам. Искусствен-ный интеллект -- это следующая стадия развития робототехники и про-граммирования (их особая часть), наделяющая способностью робота само-стоятельно принимать «новое» решение, ранее не заложенное в программе. Современные вычислительные программы наделяют возможностью искус-ственного интеллекта выработать самостоятельное цифровое решение (ки-бер-решение), которое впоследствии может воплотиться действиями робота в материальном мире либо командами киберфизической системы в вирту-альном пространстве. Ярким примером искусственного интеллекта в виде программы для ЭВМ, то есть в цифровой форме (в отрыве от материального воплощения), выступает IBM Watson, используемая в бизнес-процессах.

В подтверждение сказанного в ГОСТ Р ИСО 8373-2014 («Роботы и ро-бототехнические устройства. Термины и определения») выделяется катего-рия «разумный робот» и «робот с элементами искусственного интеллекта», выполняющий работу путем считывания данных из окружающей среды, взаимодействия с внешними источниками и адаптации своего поведения (п. 2.28). «Обычный» промышленный робот -- автоматически управляемый, перепрограммируемый манипулятор, программируемый по трем или более степеням подвижности, который может быть установлен стационарно или на мобильной платформе для применения в целях промышленной автома-тизации (п. 3.5 ГОСТ Р 60.0.0.2-2016).

О внедрении искусственного интеллекта в деятельность субъектов пред-принимательства свидетельствуют самоуправляемые автомобили, виртуаль-ные помощники, торговые площадки и т.д. Создаются чипы мозга роботов, развивается применение искусственного интеллекта в военно-промышлен-ном комплексе и в других сферах жизнедеятельности общества.

Итак, определяющим отличием искусственного интеллекта от обычно-го робота выступает наличие мышления или отсутствие такового. Понятия мышления и мыслительной деятельности раскрыты в п. 3.23 и 3.24 ГОСТ Р 43.0.5-2009. В частности, мышление -- психофизиологические процессы работы мозга оператора, в том числе относящиеся к внутренней речи, памя-ти, функциональным психическим чувственным состояниям, обеспечива-ющие осуществление мыслительной деятельности с инициированием есте- ственно-интеллектуализированных, гибридно-интеллектуализированных, искусственно-интеллектуализированных человеко-информационных взаи-модействий, влияющих на возникновение и функционирование информа-ционно-обменных процессов, проведение соответствующей им информаци-онно-интеллектуальной деятельности.

Рассмотренные выше характеристики дефиниций искусственного интел-лекта можно схематично отобразить следующим образом.

Схема

Схема демонстрирует взаимосвязь категорий искусственного интеллек-та, робота и киберфизической системы, а также их взаимопроникновения. Вероятно, в ближайшем будущем искусственный интеллект будет существо-вать в отрыве от конкретных роботов или ЭВМ, например, в виртуальном «облачном» мире, передвигаясь по телекоммуникационной сети Интернет.

Применение искусственного интеллекта в предпринимательстве

Искусственный интеллект может применяться в самых различных сфе-рах жизнедеятельности общества: в экономике, образовании, культуре, на-уке, медицине и т.д. В настоящем исследовании автором будет рассмотрено использование искусственного интеллекта в предпринимательской и иной экономической деятельности (сфера бизнеса).

Как известно, все направления хозяйственной деятельности предприни-мателей отражены в Общероссийском классификаторе видов экономической деятельности (ОК 029-2014 (КДЕС Ред. 2; далее -- ОКВЭД). Однако упоминае-мые виды хозяйственной деятельности, как правило, касаются использования машин и роботов как материально-технического обеспечения без указания на их искусственный интеллект, в том числе: 1) производство механических ма-нипуляторов и промышленных роботов (28.22); 2) производство промышлен-ных роботов для многократного специализированного использования (28.99); 3) оптовая торговля конвейерными роботами (46.69) и т.д.

Приближенными к работе искусственного интеллекта выступают следу-ющие виды деятельности:

производство программно-аппаратных комплексов, автоматизирован-ных систем, высокопроизводительных электронно-вычислительных машин и их составных частей, предназначенных для исследований в сфере ядерных оружейных технологий (26.20);

деятельность агентов, продающих машины, включая офисное оборудова-ние и вычислительную технику, промышленное оборудование, суда и лета-тельные аппараты (46.14);

торговля оптовая программным обеспечением (46.51);

деятельность, связанная с использованием вычислительной техники и информационных технологий (62.09);

прокат и аренда офисных машин и оборудования без оператора (77.33).

Отдельные виды экономической деятельности, непосредственно связан-ные с применением искусственного интеллекта, упоминаются в различных нормативных правовых и иных актах:

организация транспортной логистики (послание Президента России Фе-деральному Собранию от 1. 03. 2018);

информационные и коммуникационные технологии с искусственным интеллектом (Указ Президента России от 9. 03. 2017 № 203);

промышленный искусственный интеллект (Указ Президента России от 1.12. 2016 № 642);

управление транспортными потоками искусственным интеллектом и бор-товые системы (распоряжение Правительства России от 22.11. 2008 № 1734-р);

информационно-аналитические системы мониторинга в агропромышлен-ном комплексе (постановление Правительства России от 25. 08/ 2017 № 996);

автомобилестроение (распоряжение Правительства России от 28.04. 2018 № 831-р);

оборонно-промышленный комплекс (распоряжение Правительства Рос-сии от 1.11. 2013 № 2036-р) и другие.

Видимо, в ближайшем будущем ОКВЭД пополнится соответствующими видами экономической деятельности с применением искусственного интел-лекта.

Нейротехнологии и Нейронет близки по своей сути к искусственному ин-теллекту, однако имеют различную природу и применение. Нейротехнологии позволяют использовать весь потенциал мозга человека, по сути, участвуя в мыслительной деятельности человека и повышая ее продуктивность. Нейро- нет -- система человеко-машинных коммуникаций и информационного обме-на посредством нейрокомпьютерных интерфейсов на базе гибридных цифро-аналоговых архитектур. Нейронет считают следующим поколением Интернета (Web 4.0) и основой создания гибридного человеко-машинного интеллекта. Так создаются предпосылки развития био-киберфизических организмов.

В российском законодательстве понятие нейронной электронно-вычис-лительной машины закреплено в Указах Президента России от 26.08.1996 № 1268 и от 17.12.2011 № 1661. Так, нейронная ЭВМ представляет собой вычислительное устройство, разработанное или модифицированное для имитации поведения нейрона или совокупности нейронов, например, вы-числительное устройство, характеризуемое способностью аппаратуры мо-дулировать вес и количество взаимных связей множества вычислительных компонентов на основе предыдущей информации. Совокупность компью-теров или процессоров, обладающих искусственным интеллектом, образу-ют нейронную сеть аналогичной структуре нейронов коры головного мозга человека, где нейрон - электрически возбудимая клетка, обрабатывающая, хранящая и передающая информацию с помощью электрических и химиче-ских сигналов [Williams R., Herrup K., 1988: 423-453].

Развитию Нейронета в России способствует недавно утвержденная рас-поряжением Правительства России от 30.03.2018 № 552-р дорожная карта

совершенствования законодательства и устранения административных ба-рьеров в целях реализации Национальной технологической инициативы по направлению «Нейронет», обеспечивающей участие российских компаний на формируемых глобальных рынках продукции и услуг в сфере средств человеко-машинных коммуникаций. В дорожной карте приводятся следу-ющие сегменты применения Нейронета: нейромедтехника, нейрофарма, нейрообразование, нейрокоммуникации, нейроразвлечения и нейроспорт, нейроассистенты и искусственный интеллект, иные смежные технологии (виртуальной и дополненной реальности, медицинской робототехники, сбо-ра и обработки больших данных).

Российская статистика свидетельствует об активных темпах внедрения искусственного интеллекта в промышленность. В частности, к 2019 году прогнозировалось подключение около 1,9 млн. единиц оборудования к промышленному Интернету, из которых 1,3 млн. -- в машиностроении и 0,6 млн. -- в процессном производстве. Объем использования искусствен-ного интеллекта и машинного обучения в денежном выражении в 2017 году составил 700 млн. руб. и вырастет до 28 млрд. руб. к 2020 году.

С учетом положений Федерального закона от 31.12. 2014 № 488-ФЗ «О про-мышленной политике в Российской Федерации» перспективны такие сфе-ры применения искусственного интеллекта, как машино- и судостроение, металлургия, электроэнергетика, нефтехимическая, легкая и медицинская промышленность. Эффективным также будет внедрение искусственного интеллекта в бизнес-образование, в том числе в виртуальные школы и уни-верситеты, электронные библиотеки.

Среди прикладного использование искусственного интеллекта (в элек-тронном виде) можно определить: смарт-контракты (умные контракты), кибербезопасность (защита электронных баз данных, система противодей-ствия взлому), умный дом и т.д. При этом распространение искусственного интеллекта имеет серьезный недостаток -- исчезают рабочие места, ряд про-фессий вскоре утратит актуальность.

Субъекты отношений и юридическая ответственность

Традиционная концепция о субъектах права исходит из того, что участ-никами экономических отношений признаются физические и юридические лица, публично-правовые образования -- Российская Федерация, субъекты федерации и муниципальные образования (подраздел 2 ГК РФ). Различные отрасли российского права выделяют соответствующие признаки субъек-тов права, в частности, в предпринимательском праве для участников ры-ночных отношений определяющими выступают наличие регистрации или легитимации иным образом, хозяйственной компетенции, имущественной базы, а также способности нести ответственность [Банковский С.С., Михай-лов Н.И. (ред.), 2018: 70-75]. В предпринимательских отношениях данным критериям, в частности, отвечают индивидуальные предприниматели, юри-дические лица, предпринимательские объединения и публично-правовые образования.

Вопрос о правосубъектности имеет давнюю историю, начиная с совет-ского правоведения. Правосубъектность охватывает способность обладать субъективными правами и нести обязанность (правоспособность) и спо-собность самостоятельно осуществлять данные права и обязанности (де-еспособность) [Алексеев С.С., 1994: 93-95]. При этом субъективное право рассматривается как мера дозволенного поведения, принадлежащая лицу. Подробное изучение теоретических подходов к пониманию, например, юридического лица (теория реального субъекта права и теория фикции), дает право согласиться с выводами авторов, что это не более чем фикция. Из различных теорий фикции заслуживают внимание теория коллектива (А.В. Венедиктова), теория директора (Ю.К. Толстого), теория администра-ции (Н.Г. Александрова) и т.д.

Как же быть с роботами (машинами) или киберфизическими системами на базе ЭВМ, обладающих искусственным интеллектом? Речь идет об объ-екте или о субъекте права? Нет ли в данном вопросе фикций?

Парадоксально, но на практике упомянутые признаки субъекта предпри-нимательства, например, могут быть у промышленного AI-робота. Так, робот может иметь регистрацию (предположим, в Ростехнадзоре) и учетный номер; обладать хозяйственной компетенцией, соответствующей целям его деятель-ности; обладать имущественной базой, поскольку робот априори представля-ет собой материальную ценность; его можно привлечь к юридической ответ-ственности (например, в виде принудительного отключения или доработки программы, а также утилизации, как крайней мере ответственности).

Таким образом, на первый взгляд, AI-робот обладает отдельными эле-ментами субъекта права, при осуществлении им производственно-хозяй-ственной деятельности. Одновременно робот выступает объектом права, будучи предметом материального мира и обладающий ценностью (как иму-щество -- технология). Вместе с тем правоведение разделяет объект и субъ-ект права. Однако истории известны факты, когда объекты права перехо-дили в разряд субъектов (например, при отмене рабства рабы становились полноправными участниками общественных отношений).

Если обратить внимание на этапы развития человека, то каждый инди-вид на начальном этапе биологического развития не обладает той полнотой мышления и быстротой принятия решений как взрослый человек. Путем обучения человек с годами совершенствует свое сознание для выработки более правильных решений. Похожая картина наблюдается при развитии искусственного интеллекта, изначально имеющего отправные данные для будущего развития собственного мышления и самосовершенствования. Со-ответственно совокупность робота и искусственного интеллекта можно рас-смотреть в качестве робото-разумного субъекта права (robo-sapiens).

Говоря об ответственности за деятельность робота, в том числе обла-дающего искусственным интеллектом, следует вспомнить «три закона ро-бототехники» А. Азимова [Azimov A., 1960: 129), актуальность которых не утрачена: 1) действия (бездействия) робота не могут и не должны вредить человеку; 2) робот должен подчиняться командам человека, за исключением случаев, когда команды нарушают первый закон; 3) робот должен заботить-ся о своей безопасности в пределах первого и второго законов.

Указанные фундаментальные истины заложили основы юридической оценки поведения робота. С. Наделла развил предложенные Азимовым за-коны, подчеркнув, что искусственный интеллект разработан с целью помо-щи человечеству, уважая при этом достоинство последнего, а не для его за-мены. Творческая деятельность, включая рисование, архитектуру и музыку, могут быть исключительной прерогативой человека [Рябов И., 2016: 1].

В научной литературе имеются разные подходы к возможности привле-чения к ответственности за работу искусственного интеллекта, включая: от-ветственность лица, программировавшего робота; ответственность лица, использующего робота в качестве инструмента; ответственность самого ин-теллектуального робота [Морхат П.М., 2017: 132-141]. Непредсказуемость будущего поведения AI-робота заложена в цифровом алгоритме, весьма на-глядно раскрытом в статье о проблемах безопасности искусственного интел-лекта [Amodei D. et al., 2016: 1-29]. Так, наделяя робота самоорганизацией при плохом дизайне искусственного интеллекта, нельзя исключать его неже-лательное обучение (машинное обучение), в том числе вызванное взломом программы.

Временную перспективу правовой регламентации юридической ответ-ственности за деятельность искусственного интеллекта можно условно разделить на три периода: краткосрочный (ближайшие несколько десяти-летий); среднесрочный (начиная с середины и до конца XXI века); долго-срочный (с начала XXII века).

1.1. В ближайшее время AI-роботы будут рассматриваться исключитель-но в качестве объекта права согласно положениям ст. 128 ГК РФ об объ-ектах гражданских прав. Интеллектуального робота так же, как и киберфи- зическую систему в виде программы для ЭВМ, можно будет продавать или отчуждать иным образом с учетом особенностей оборота данных объектов гражданских прав, установленных законодательством (ст. 129 ГК РФ).

По аналогии со ст. 1079 ГК РФ ответственность за деятельность, связан-ную с применением искусственного интеллекта, несут лица, использующие данные интеллект как объекта повышенной опасности. При этом под ис-точником повышенной опасности понимается любая деятельность, осу-ществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами (п. 18 Постановления Пле-нума Верховного Суда России от 26. 01. 2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязатель-ствам вследствие причинения вреда жизни или здоровью гражданина»).

При рассмотрении дела в каждом случае суд вправе самостоятельно опре-делять, относится тот или иной объект к категории «источника повышен-ной опасности». Очевидно, интеллектуальные роботы, а также интеллек-туальные программные продукты ЭВМ к таким объектам права относятся. Следовательно, российское законодательство уже содержит необходимые нормы права, регламентирующие порядок привлечения к ответственности за деятельность искусственного интеллекта. Существующая правовая кон-струкция предполагает, что ответственность за работу искусственного ин-теллекта как в материальном воплощении (в виде робота), так и в цифровой форме (в виде киберфизической программы ЭВМ) несет лицо, владеющее искусственным интеллектом, в частности, для обеспечения своей производ-ственно-хозяйственной деятельности.

Более удачно использование категории «владелец», которая должна рас-сматриваться в самом широком смысле. Так, владельцем AI-робота или AI- системы ЭВМ могут признаваться лица, обладающие правом собственности, правом хозяйственного ведения, правом оперативного управления либо на другом законном основании на данные объекты. К указанной категории лиц не относятся сотрудники юридического лица, работающие по трудовому либо гражданско-правовому договору.

Неверно отождествление понятий «владелец» и «пользователь», а также раскрытие дефиниции «владелец» через категорию «пользователь». В на-стоящем случае речь идет именно о владельце, в первую очередь несущем ответственность за вред, причиненный деятельностью искусственного ин-теллекта.

В триаде правомочий собственника с позиции вещного права в отноше-нии объектов материального мира (владение, пользование и распоряже-ние -- ст. 209 ГК РФ), владение предполагает фактическое обладание вещью с потенциальной возможностью использования вещи (объекта права), в то время как пользование -- извлечение полезных свойств объекта права. В частности, применительно к интеллектуальным роботам не каждый его владелец является пользователем (например, при передаче робота в поль-зовательскую аренду -- ст. 606 ГК РФ, или во временное пользование по до-говору ссуды -- ст. 689 ГК РФ). То есть извлечение полезных свойств робота в производственной деятельности субъектов предпринимательства может и в ряде случаев будет происходить в отрыве от его владения у пользователя. По сути, речь идет об управлении интеллектуальным роботом. Более того, предполагается, что робот будет самостоятельно управлять собой благодаря искусственному интеллекту, наделяющем его поведенческой автономией.

Общим подходом в законодательстве должно выступить положение о том, что ответственным лицом за работу искусственного интеллекта должен признаваться его владелец. Вместе с тем допустимо использовать конструк-цию «ответственности фактического причинителя вреда» (пользователя). В частности, по аналогии с п. 2 ст. 1079 ГК РФ владелец искусственного ин-теллекта может доказать, что объект выбыл из его обладания в результате противоправных действий других лиц. В таком случае ответственность воз-лагается на лицо, противоправно завладевшее им. В случае виновного пове-дения владельца в противоправном изъятии этого источника из его облада-ния ответственность может быть возложена как на владельца, так и на лицо, противоправно завладевшее источником повышенной опасности. То есть дается правовая оценка поведению каждого участника правоотношения.

В предпринимательской деятельности участников рынка с использова-нием искусственного интеллекта наступление ответственности не должно зависеть от наличия либо отсутствия вины. Речь идет о предприниматель-ско-правовой ответственности (п. 3 ст. 401 ГК РФ). Освобождение субъектов предпринимательства от ответственности за работу искусственного интел-лекта может быть только в случаях непреодолимой силы, обстоятельства которых устанавливаются Торгово-промышленной палатой¹¹. Робот с AI либо AI-киберфизическая система является движимым имуществом (ст. 130 ГК РФ). Однако в силу п. 38 постановления Пленума Верховного Суда РФ от 23.06.2015 № 25 «О применении судами некоторых положений раздела I части первой Гражданского кодекса Российской Федерации»¹² допускается признание недвижимостью ряда машин, прочно связанных с землей, пере-мещение которых без несоразмерного ущерба их назначению невозможно. Квалификация будет зависеть от качественно-технических характеристик объекта. Данное обстоятельство является существенным при установле-нии владельца и пользователя искусственным интеллектом. Вероятно, ро-бот сможет иметь как учетный номер (движимое имущество), так и быть в структуре кадастрового номера недвижимого имущества.

Вторым ответственным лицом следует признавать создателей (произ-водителей) AI-робота либо AI-программного комплекса ЭВМ, поскольку владелец искусственного интеллекта не всегда технически способен воздей-ствовать на работу искусственного интеллекта, равно как и предугадать их поведение.

В данном вопросе можно использовать аналогию с некачественной про-дукцией, в частности -- искусственного интеллекта. Так, в силу ст. 1095 ГК РФ вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юридического лица вследствие конструктивных, рецептурных или иных недостатков AI-робота либо AI-программного комплекса ЭВМ, а также вследствие недостоверной или недостаточной информации об ис-кусственном интеллекте, подлежит возмещению: 1) продавцом или 2) изго-товителем, независимо от их вины и от того, состоял потерпевший с ними в договорных отношениях или нет. Выбор ответственного лица, к которо-му будут предъявляться претензии, остается за потерпевшим (п. 1 ст. 1096 ГК РФ, п. 35 Постановления Пленума Верховного Суда РФ от 28.06.2012 № 17 «О рассмотрении судами гражданских дел по спорам о защите прав потребителей»).

Таким образом, ответственность за деятельность искусственного интел-лекта несут: владелец AI; разработчик (создатель) AI.

Приведенное обоснование к рассмотрению искусственного интеллекта в качестве объекта права либо в структуре объекта права не требует суще-ственного изменения юридической доктрины.

Следующий этап развития робототехники позволит говорить о нали-чии у роботов свойств субъектов права. Заслуживает внимания предложен-ный В.В. Архиповым и В.Б. Наумовым проект поправок к подразделу ГК РФ «Лица», в котором предлагается ввести новых участников общественных отношений -- «робота-агента» и «владельца робота-агента»; подраздел «Объ-екты гражданских прав» дополняется особым объектом имущества -- «ро-ботом» [Архипов В.В., Наумов В.Б., 2017: 53-56]. При этом для определения понятия «робота» (как имущество) делается бланкетная отсылка к положе-ниям законодательства о робототехнике, а при определении «робота-агента» раскрывается его правоспособность (как субъекта права) и дается авторское видение данной дефиниции.

Рациональное зерно кроется в гибком подходе и признании в одних слу-чаях робота субъектом права, а в других -- объектом права. Для этого в пра-воведении необходимо определить соответствующие критерии.

Предложенный термин «робот-агент» имеет особенности. Перспектив-ной стороной данного предложения является легализация робота как пра-воспособного участника правоотношений. Вместе с тем спорно утвержде-ние, что собственник и владелец робота-агента несут ответственность за робота-агента, поскольку первоначальное утверждение (о наличии у робо-та-агента обособленного имущества и способности отвечать по своим обяза-тельствам) предполагает самостоятельную личную ответственность робота- агента. Требует доработки предложение о привлечении к ответственности его собственника и владельца за действия робота-агента, за исключением случаев вины лица, разработавшего, обслуживающего или производившего робота-агента.

Дефиниция «робот-агент» ассоциируется с конструкцией агентирования, согласно которой по агентскому договору одна сторона (агент) обязуется за вознаграждение совершать по поручению другой стороны (принципала) юридические и иные действия от своего имени, но за счет принципала либо от имени и за счет принципала (п. 1 ст. 1005 ГК РФ). Остается только неяс-ным -- если робот действует от своего имени, то можно ли рассматривать его поведение как «действия в своем интересе»? Ведь робот -- явление, при-думанное человеком в интересах общества. Речь тогда может идти лишь об «операционных» либо «технических» интересах робота, для достижения ко-торых он создан и запрограммирован.

Исторически предназначение робота и его создание человеком позволя-ют утверждать, что сделки с третьим лицом совершаются роботом-агентом от имени и за счет принципала, права и обязанности возникают непосред-ственно у принципала, а не у робота. Хотя можно допустить и совершение роботом-агентом сделок от своего имени и за счет принципала, по которым приобретает права и становится обязанным агент, хотя бы принципал и был назван в сделке или вступил с третьим лицом в непосредственные отноше-ния по исполнению сделки.

Рассмотрение правосубъектности робота не должно привязываться к различным договорным конструкциям (в том числе к агентированию). В противном случае само утверждение о правосубъектности, существующей в связке и без отрыва от иных участников гражданского оборота, может по-ставить ее под сомнение. Объективное признание робота участником отно-шений должно основываться на наличие у него искусственного интеллекта, позволяющего самостоятельно организовывать свое поведение (самоорга-низация) и принимать последовательные решения. В этих целях предлага-ется специально использовать категории «робот, обладающий искусствен-ным интеллектом» либо «интеллектуальный робот», что практически одно и тоже.

Действительно, трудно провести четкую грань, разделяющую специфику правоспособности робота и других участников гражданского оборота, и тем более предугадать дальнейшее развитие отношений с участием AI-роботов. Во всех случаях нужно учитывать, что искусственный интеллект априори действует в интересах человечества.

Интересной видится трансформация в будущем понятий «обществен-ное отношение» и «правоотношение». Так, правоотношение -- это регули-руемое законодательством общественное отношение с участием субъектов прав: граждан, лиц без гражданства, иностранцев, организаций, государства и его государственных органов, и должностных лиц [Керимов Д.А., 2000: 215-224]. Следовательно, возникает вопрос: можно ли именовать отноше-ния между людьми и (или) AI-роботом «общественными»?

Имеет смысл выделить категорию «AI-отношения» или «киберфизиче- ские отношения» -- отношения с участием AI-роботов и (или) автономных AI-киберфизических систем. Субъектами рассматриваемых отношений могут признаваться индивидуальные (физические лица) и коллективные лица (например, корпоративные организации и предпринимательские объ-единения), публично-правовые образования, а также AI-роботы или AI- программные комплексы (киберфизические системы).

При оценке путей развития общественных отношений недопустимо рассматривать вопрос о правосубъектности искусственного интеллекта в отрыве от его физического нахождения, т.е. материально-технического воплощения (например, в роботе или в процессоре ЭВМ). Иначе утрачива-ются свойства субъекта права -- имущественное обособление и способность нести имущественную ответственность. Вместе с тем нельзя исключать ва-риант развития AI-отношений и законодательства, когда ответственность может наступать в цифровой форме -- «цифровая ответственность» («ки- берфизическая ответственность»), применение которой будет в цифровом и (или) виртуальном пространстве.

Юридическая ответственность представляет собой претерпевание небла-гоприятных последствий при неправомерном поведении участников право-отношения. По сути, применение ответственности обусловлено осуждением правонарушителя либо иного ответственного в силу закона, либо договора лица. Применение юридической ответственности имеет как профилактиче-ский (предотвращает будущие правонарушения), так и восстановительный характер (например, имущественных интересов сторон договора). Соот-ветственно интересным стал вопрос о привлечении к ответственности AI- роботов или AI-программных комплексов ЭВМ.

Признание роботов субъектом права неизбежно позволит привлекать их к ответственности.

В данной проблематике следует оценить роль создателей (производите-лей) искусственного интеллекта. Очень тонким будет вопрос о привлечении их к юридической ответственности. Предлагаются следующие принципи-альные подходы: производители AI несут ответственность только в случае целенаправленного создания интеллекта в целях совершения правонаруше-ния; само по себе создание искусственного интеллекта, способного совер-шать негативные действия, не влечет за собой юридической ответственно-сти его создателя.

Примером второго тезиса, в частности, служат военные AI-роботы для уничтожения противника, в том числе его живой силы. Значимым при опре-делении юридических последствий также будут действия оператора, управ-ляющего поведением данных роботов.

Применительно к роботам их юридическая ответственность будет иметь особый характер. Вряд ли моральное порицание будет иметь значение для робота. Однако нельзя исключить возможного развития технологий и ис-кусственного интеллекта, позволяющих оценить морально-нравственную сторону в поведении AI-робота. Киберфизическая ответственность может быть имущественной (например, компенсация ущерба) или административ-ной (в частности, штраф или дисквалификация). По крайней мере, для этого будут все предпосылки. Возможно, в будущем будет применение мер уголов-ной ответственности к роботам как крайней меры в случае совершения ими действий, посягающих на жизнь и здоровье человека, а изменение програм-мы искусственного интеллекта не будет возможным в силу конструктивных особенностей искусственного интеллекта (например, тотальная утилизация робота).

Немаловажным будет вопрос о пределах юридической ответственности AI-робота. В частности, допускаем ли мы признание в будущем робота не-состоятельным (банкротом)? На первый взгляд, перспективы сомнительны. Вместе с тем нельзя исключать и такого хода развития законодательства, при котором будет реальным признание AI-робота несостоятельным и техниче-ское ограничение его участия в гражданском обороте на соответствующий период времени (по аналогии с последствиями банкротства гражданина).

Предлагается вспомнить конструкцию субсидиарной ответственности -- ответственности лица (субсидиарно обязанного, в рассматриваемом случае -- создателя) дополнительно к ответственности лица (основного должника, в данном случае AI-робота) в случае отказа или невозможности удовлетворения основным должником своих обязательств перед кредитором (ст. 399 ГК РФ). Создатель искусственного интеллекта не освобождается от ответственности, если его разработка, признанная субъектом права, не способна быть надлежа-щим и добросовестным участником правоотношений.

Предложенный тезис также нуждается в оговорке. В частности, например, если поведение AI-робота вышло за рамки возможного разумного предви-дения его создателя. При проектировании объектной функции для системы искусственного интеллекта разработчик задает цель, а не конкретные шаги для ее достижения; наделение большей автономией искусственного интел-лекта увеличивает шанс на ошибку [Sodhani S., 2018: 1]. Например, по анало-гии с эксцессом исполнителя в уголовном праве -- совершение исполните-лем преступления, не охватывающегося умыслом других соучастников (ст. 36 УК РФ). За эксцесс исполнителя другие соучастники преступления уго-ловной ответственности не подлежат (см. п. 1 Обзора законодательства и су-дебной практики Верховного Суда РФ от 29.12. 2006 за III квартал 2006 г.). Создатель искусственного интеллекта за его действия, даже повлекшие при-чинение вреда жизни и здоровья человека, при доказанности юридического факта -- эксцесса AI-робота, отвечать не должен.

Ответственность искусственного интеллекта -- важнейший вопрос для будущих правоведов. По данной проблематике следует выработать алго-ритм установления юридических фактов (событий и действий/бездействий), связанных с поведением робота или действиями киберфизической системы. Речь идет об аутентификации поведения (действия/бездействия) искус-ственного интеллекта и привязки его действий (решений) к конкретному роботу или процессору ЭВМ.

В данном направлении для оценки действий робота как в настоящее вре-мя, так и ближайшем будущем полезна система распределенного реестра данных, основанная на технологии блокчейн [Nakamoto S., 2008: 1-9], позволяющая последовательно фиксировать действия искусственного интел-лекта. Администратором данного реестра должен выступить на начальном этапе владелец искусственного интеллекта, а впоследствии -- сам робот, но при условии соблюдения достоверности. По крайней мере в случае при-знания за роботом свойств субъекта права, компетентные государственные органы должны обладать технической возможностью установления факти-чески совершенных действий, даже при поломке робота (аналог «черного ящика»). Предложенный подход позволяет утверждать, что ответственность за деятельность искусственного интеллекта будут нести: 1) AI-робот; 2) раз-работчик (создатель) AI; 3) владелец AI.

3.3. Развитие робототехники трансформирует все привычные понятия об участниках отношений. Наличие электричества и Интернета обеспечит вир-туальное пространство, в котором будут существовать как цифровые объек-ты, так и цифровые субъекты права. Виртуальное пространство представля-ет собой искусственно созданный цифровой мир, существование которого будут обеспечивать инструменты материального мира: процессоры (Intel, IBM, AMD) и системы облачных хранилищ данных (на многочисленных он- лайн-распределенных реестрах, включая архитектуру).

В будущем в ХХП веке возможно признание искусственного интеллекта, способного совершать цифровые действия -- решения (как с их материали-зацией в реальном мире, так и без таковой), субъектом права.

Предыдущий этап (среднесрочная перспектива) отличается от будуще-го, прежде всего тем, что признанию правосубъектности AI-робота пред-шествует материализация поведения робота в реальном мире посредством совершения им действий, порождающих юридические факты (например, предпринимательской деятельности). Таким образом, в среднесрочной пер-спективе процессор AI-робота выполняет лишь цифровую вычислительную функцию, аналогично мозгу человека, выступает составным элементом ро-бота и рассматривается как объект права. Искусственный интеллект в киберфизическом пространстве в будущем будет приобретать правосубъектность и признаваться участником кибер- физических отношений в цифровом пространстве даже с учетом того, что AI-система привязана к материальному носителю (вычислительному про-цессору).

Построение конструктивных правовых моделей решения вопроса о юри-дической ответственности AI-интеллекта в виртуальном мире, по понятным причинам, сейчас трудно. В данной проблематике помогут разобраться про-граммисты, способным логически и достоверно распознавать путь решений и иных вычислительных действий, совершенных искусственным интеллектом.

Разумеется, как и на втором этапе, не освобождается от ответственности и разработчик AI, поскольку, в первую очередь, его творение и начальные ал-

горитмы, заложенные при создании AI-интеллекта, также предопределяют его развитие и самоорганизацию. Разумеется, непреднамеренное самопро-извольное отклонение искусственного интеллекта от начально задолженной в нем цели, в том числе посредством вмешательства в его работу третьих лиц не должно автоматически налагать юридическую ответственность на его создателя. В каждом случае следует давать технико-правовую оценку харак-теру и последствиям действий искусственного интеллекта.