Искусственный интеллект: от объекта к субъекту?

Размещено на http://www.allbest.ru/

Искусственный интеллект: от объекта к субъекту?

Семен Алексеевич Соменков,

доцент кафедры гражданского права Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук, доцент Россия, г. Москва

Аннотация

В настоящее время наука и техника вплотную подошли к активному внедрению систем искусственного интеллекта в самые разные сферы жизни общества. Целью данной статьи является попытка наметить некоторые правовые проблемы, возникающие или потенциально способные возникнуть в этой связи в будущем. С развитием науки и техники искусственный интеллект постепенно получит возможности совершать самостоятельные, в том числе юридически значимые, действия. В статье искусственный интеллект рассматривается как вещь с функцией искусственного интеллекта, обеспечиваемого с помощью специальных программ, способных к самообучению на основе анализа собственных успешных и ошибочных действий, и характеризующихся автономной (т.е. не требующей вмешательства оператора) работой. На сегодняшний день несомненно, что системы искусственного интеллекта -- это объекты гражданско-правовых отношений. Но искусственный интеллект все активнее входит в самые разные сферы, которые ранее считались доступными только для человека -- это, в частности, создание произведений литературы и искусства. В статье анализируется проблема определения автора таких произведений. Искусственный интеллект входит и в те области, где его деятельность напрямую может затронуть жизнь и здоровье людей, такие как медицина, транспорт. В статье рассматривается проблема ответственности за вред, который может быть причинен устройством, обладающим искусственным интеллектом. Также в статье рассматривается возможность присвоения роботам с искусственным интеллектом статуса субъекта права.

Ключевые слова: искусственный интеллект, объект гражданского правоотношения, субъект гражданского правоотношения, источник повышенной опасности. искусственный интеллект устройство право

ARTIFICIAL INTELLIGENCE: FROM OBJECT TO SUBJECT?

S. А. SOMENKOV,

Candidate of Law, Associate Professor, Associate Professor of the Department of the Civil Law of the Kutafin Moscow State Law University (MSAL) Russia, Moscow

Abstract. Currently, science and technology have come close to the active implementation of artificial intelligence systems in various spheres of society. The purpose of this article is to attempt to identify some of the legal problems that arise or are potentially capable of arising in this connection in the future. With the development of science and technology, artificial intelligence will gradually receive opportunities to perform independent, including legally significant, actions. The article considers artificial intelligence as a thing with the function of artificial intelligence, provided with the help of special programs capable of learning based on the analysis of their own successful and erroneous actions and characterized by autonomous (that is, not requiring operator intervention) work. Today, there is no doubt that artificial intelligence systems are objects of civil law relations. But artificial intelligence is increasingly entering various spheres that were previously considered accessible only to humans -- this, in particular, the creation of works of literature and art. The article analyzes the problem of determining the author of such works. Artificial intelligence is also included in those areas where its activity can directly affect the lives and health of people, such as medicine and transport. The article deals with the problem of liability for harm that may be caused by a device with artificial intelligence. The article also considers the possibility of assigning the status of a subject of law to robots with artificial intelligence. Keywords: artificial intelligence, the object of civil legal relations, the subject of civil legal relations, a source of increased danger.

Вопросы искусственного интеллекта (далее также -- ИИ) разрабатываются учеными в течение многих десятилетий, но только сейчас наука и техника вплотную подошли к активному внедрению систем искусственного интеллекта в самые разные сферы нашей жизни. Уже сейчас мы используем в повседневной жизни компьютеризированные устройства, или, как еще говорят, «умные вещи», о которых еще лет 30--40 назад могли писать только фантасты, причем зачастую относили возможность их появления к гораздо более далекому будущему. Эти устройства кардинально меняют нашу жизнь. И этот процесс продолжается. Целью данной статьи является попытка наметить некоторые правовые проблемы, возникающие или потенциально способные возникнуть в будущем в сфере применения искусственного интеллекта.

На сегодняшний день искусственный интеллект становится предметом изучения не только кибернетиков, биологов, психологов, лингвистов, математиков,инженеров, но и юристов. С развитием науки и техники в данной сфере искусственный интеллект постепенно получит возможность совершать самостоятельные, в том числе юридически значимые, действия.

И это уже не фантастика. В правовых актах термин «искусственный интеллект» уже активно используется. Например, Международная классификация товаров и услуг для регистрации знаков (МКТУ)¹ называет такой вид товара: «Роботы человекоподобные с искусственным интеллектом» (класс 09, базовый № 090778).

В соответствии с распоряжением Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы “Цифровая экономика Российской Федерации”» искусственный интеллект отнесен к основным сквозным цифровым технологиям, которые входят в рамки указанной Программы Международная классификация товаров и услуг для регистрации знаков (МКТУ) (Один-надцатая редакция, издание 1-е, принята в г Ницце 15.06.1957) (с изм. и доп. от 2017 года) // СПС «КонсультантПлюс». СЗ РФ. 2017. № 32. Ст. 5138..

Прежде чем говорить о понятии искусственного интеллекта, попытаемся ответить на вопрос, что же такое интеллект? Традиционно слово «интеллект» связывают исключительно с человеком. Так, толковые словари русского языка определяют интеллект как ум, рассудок, мыслительную способность у человека Ушаков Д. Н. Большой толковый словарь современного русского языка. М., 2009. С. 311.; как мыслительную способность, умственное начало у человека, определяющее его деятельность Ожегов С. И. Словарь русского языка. М. : Советская энциклопедия, 1968. С. 245.. Философский энциклопедический словарь определяет интеллект как способность мышления, рационального познания, при этом такие, например, душевные способности, как чувство, воля, интуиция, воображение и тп., к интеллекту не относятся Философский энциклопедический словарь. М. : Советская энциклопедия, 1989. С. 215.. В психологии под интеллектом понимается «относительно устойчивая структура умственных способностей индивида» Философский энциклопедический словарь. С. 216.. Энциклопедия «Britannica» определяет человеческий интеллект как умственное качество, которое состоит из способности учиться на опыте, адаптироваться к новым ситуациям, понимать и обрабатывать абстрактные понятия и использовать знания для воздействия на окружающую среду Encyclopedia Britannica // URL: https://www.britannica.com/science/human-intelligence-psy- chology(датаобращения: 16.09.2018)..

Что такое искусственный интеллект? Что охватывает собой это понятие? По мнению Джона Маккарти, который и ввел этот термин в 1956 г, ИИ -- «это наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. Это связано с аналогичной задачей использования компьютеров для понимания человеческого интеллекта, но ИИ не должен ограничиваться биологически наблюдаемыми методами» McCarthy J. What is artificial intelligence? // URL: http://www-formal.stanford.edu/jmc/whatisai/ node1.html (датаобращения: 16.09.2018)..

Также понятием «искусственный интеллект» обозначаются технические системы, способные к адаптивному поведению и решению задач, в том числе и таких,которые относятся к сфере восприятия, организации движений, понимания текста и т.п. Философский энциклопедический словарь. С. 216. Некоторые авторы также добавляют сюда способность таких систем выполнять творческие функции, которые традиционно рассматриваются как атрибут человека Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусствен-ному интеллекту. М. : Радио и связь, 1992. Незнамов А. В., Наумов В. Б. Стратегия регулирования робототехники и киберфизиче- ских систем // Закон. 2018. № 2. С. 69--89.. Характерно, что все эти определения искусственного интеллекта не учитывают правовых аспектов данного явления. В литературе отмечается проблема отсутствия «легального определения термина “искусственный интеллект”, в то время как в науке существует порядка пятнадцати его естественно-научных определений»¹¹.

В целом проблема создания искусственного интеллекта сводится к максимально точному воспроизведению работы мозга человека с помощью технических средств. Эта задача сможет быть решена с помощью создания нейронных сетей, над созданием которых сейчас активно работают специалисты в области ИИ. Подобно нервной системе человека нейронные сети «обучаются на основе опыта, обобщают предыдущие прецеденты на новые случаи и извлекают существенные свойства из поступающей информации, содержащей излишние данные» Уоссермен Ф. Нейрокомпьютерная техника: теория и практика / пер. с англ. Ю. А. Зуева,

В. А. Точенова. М. : Мир, 1992. С. 5.. Пока еще создание полноценного ИИ делает первые шаги, хотя и они выглядят достаточно впечатляюще. Примером системы ИИ на основе нейронной сети является голосовой помощник, разработанный компанией «Яндекс». С его помощью можно разговаривать со своим компьютером или мобильным устройством и осуществлять поиск в Интернете. При этом данная система является самообучающейся (т.е. не ограничивается набором заранее заданных ответов) и совершенствуется, «общаясь» с пользователями.

Нас в первую очередь интересует второе понятие искусственного интеллекта (как технической системы), и в дальнейшем применительно к ИИ мы будем говорить именно о вещах с функцией искусственного интеллекта, обеспечиваемого с помощью специальных программ, способных к самообучению на основе анализа собственных успешных и ошибочных действий и характеризующихся автономной (те. не требующей вмешательства оператора) работой. При этом не все автономно действующие вещи могут признаваться имеющими функцию ИИ.

Можно создать робота, который будет запрограммирован выполнять какую-то функцию, например будет танцевать. Но если он будет выполнять ее чисто механически, то нет оснований говорить о наличии в этой вещи признаков ИИ. Если же робот научился танцевать сам, наблюдая за делающим это человеком, и постоянно совершенствует этот процесс, учитывая свой предыдущий опыт, в том числе негативный, есть основания считать, что он наделен ИИ. Если компьютерная программа по запросу пользователя выдает из базы данных определенные значения, она еще не обладает ИИ. Но если данная программа после обучения может самостоятельно решать определенные задачи, есть основания говоритьо наличии признаков ИИ. Например, когда справочно-правовые системы будут на основании загруженных в них данных о споре выдавать правовое заключение по этой ситуации, можно будет говорить о наличии у данной программы ИИ.

Искусственный интеллект все активнее входит в самые разные сферы, которые ранее считались доступными только для человека. Применительно к гражданско- правовым отношениям на сегодняшний день несомненно, что системы ИИ -- это объект таких отношений. Но объект достаточно специфичный. Всегда считалось, что творчество доступно лишь человеку. Но, как уже отмечалось выше, способность выполнять творческие функции также рассматривается некоторыми исследователями как свойство ИИ. Так, Googleосуществляет разработки, совмещающие нейросети, рисование и искусственный интеллект. Одной из таких разработок является проект Sketch-RNN, представленный в 2017 г. См.: David Ha, Douglas Eck.A Neural Representation of Sketch Drawings // URL: https:// arxiv.org/pdf/1704.03477.pdf (датаобращения: 16.09.2018). Он представляет собой самообучающуюся нейросеть, которая может рисовать эскизы различных предметов, имеющихся в ее базе. Смысл в том, что человек рисует предмет, а Sketch- RNNраспознает, что именно нарисовано, и рисует аналогичную картинку. Но это не копирование распознанного рисунка. Если системе предложить нарисовать, скажем, кошку, она создаст свой уникальный рисунок кошки. Более того, система может улучшать предложенные ей рисунки. Так, когда системе было дано изображение кошки с тремя глазами, она нарисовала нормальную кошку с двумя глазами. При этом рисунок нейросети получился лучше, чем человеческий.

Но простейшими рисунками дело не ограничивается. Ученые из Ратгерского университета лаборатории Facebook'sAIсоздали систему, в которой две нейронные сети взаимодействуют друг с другом как оппоненты -- одна сеть предлагает решение, а другая его критикует. Это способствует получению наилучшего результата и самосовершенствованию ИИ. Интересно, что картины, созданные ИИ, предложили оценить людям наряду с картинами, написанными рукой человека. При этом опрошенным не сообщили, какие картины «написал» ИИ. Результат опроса удивил разработчиков данной системы -- во многих случаях картины, созданные ИИ, были оценены выше, чем написанные человеком См.: Ефимова Е. Новое слово в живописи: искусственный интеллект «пишет» картины в уникальном стиле // Вести^и. URL: http://www.vesti.ru/doc.html?id=2905726(дата об-ращения: 16.09.2018)..

Искусственный интеллект успешно пробует себя и на ниве художественной литературы. Исследователи из Университета будущего в Хакодате (Япония) создали робота-писателя. Роман, написанный роботом, был отправлен на соискание престижной Литературной премии имени ХосиСинъити и вышел в финал. Интересна оценка данного произведения со стороны японского писателя-фан- тастаСатошиХасэ. Выступая на пресс-конференции после конкурса, он сказал: «Я был удивлен работой, потому что это был хорошо структурированный роман. Но есть еще некоторые препятствия для того, чтобы выиграть приз, такие как описания персонажей» См.: Clark B. While Microsoft's Tay was being racist, an AI entered a writing contest -- and nearly won // TNW. URL: https://thenextweb.com/insider/2016/03/24/whNe-microsofts-tay-.

Есть успешные попытки разработки ИИ, способного сочинять музыку. В августе 2017 г. система ИИ Amper сочинила музыку для альбома «I AM AI», что в переводе с английского означает «Я -- искусственный интеллект»was-being-racist-an-ai-entered-a-writing-contest-and-nearly-won/#gref(дата обращения: 16.09.2018). ^См.: Galeon D. The World's First Album Composed and Produced by an AI Has Been Un-veiled // Сайтfuturism.com. URL: https://futurism.com/the-worlds-first-album-composed-and- produced-by-an-ai-has-been-unveiled/(датаобращения: 16.09.2018)..

Возникает вопрос -- кто является автором таких произведений? Разработчик ИИ или пользователь, давший ИИ задание на создание произведения? Сам ИИ, разумеется, не может быть признан автором, по крайней мере в рамках действующего законодательства. Но можно ли признать автором разработчика такой системы? Или владельца, эксплуатирующего систему и загружающего в нее определенное задание? Думается, что их также нельзя признать авторами, так как согласно ст. 1257 ГК РФ «автором произведения науки, литературы или искусства признается гражданин, творческим трудом которого оно создано». Применительно к разработчику ИИ можно сказать, что его творческим трудом создана данная система, но то, что она делает сама, -- никак нельзя отнести к творческому труду ни разработчика, ни эксплуатанта.

Возможно, придется выработать новую категорию произведений -- созданных ИИ. Может быть, следует отнести их к произведениям, не являющимся объектами авторских прав (п. 6 ст. 1259 ГК РФ). Да, пока произведения ИИ несовершенны. Пока они существуют только как «удивительное рядом». Но со временем все может измениться. Этот вопрос станет особенно актуальным, если произведения ИИ станут коммерчески привлекательными для издателей.

Сфера применения ИИ постоянно растет. Выяснилось, что ИИ может взять на себя роль посредника на переговорах и поддерживать отношения эффективнее людей. Для этих целей исследователи из Университета Бригама Янга и Массачусетского технологического института создали соответствующую систему ИИ. Выяснилось, что в большинстве случаев устройства превосходили людей в поиске компромиссов, которые приносят пользу обеим сторонам. Сами разработчики считают, что это может иметь долгосрочные последствия для человеческих отношений. Один из них, профессор Якоб Крэнделл, отмечает, что «в обществе отношения постоянно портятся, и люди, которые были друзьями в течение многих лет, внезапно становятся врагами. Поскольку машине зачастую удается в лучшей степени достигнуть компромисса, чем нам, искусственный интеллект может научить нас, как это лучше сделать» Искусственный интеллект сможет вести переговоры и поддерживать отношения // Портал искусственного интеллекта. URL: http://www.aiportal.ru/news/13566.html(дата обращения: 16.09.2018)..

Искусственный интеллект входит и в те области, где его деятельность напрямую может затронуть жизнь и здоровье людей. Так, ИИ активно внедряется в сферу медицинских услуг. Китайская компания «iFlytek» создала интеллектуального робота Xiaoyi(Сяо И), который впервые сдал экзамен на врача и получил лицензию на врачебную деятельность. Конечно, это можно рассматривать,скорее, как рекламный ход, чтобы привлечь интерес медицинских организаций к новой продукции. Никто не собирается ставить этого робота на место врача. Его назначение -- ассистировать врачам, чтобы повысить качество их работы. Как сообщается, этот робот сосредоточится на противоопухолевой терапии, а также на обучении врачей общей практики, которых в сельских районах Китая недостаточно См.: Шестакова К. Герои будущего. Как работает искусственный интеллект // URL: https:// www.iphones.ru/iNotes/781064(дата обращения: 16.09.2018).. Непосредственную ответственность за работу такой машины несет эксплуатирующая ее медицинская организация, как и применительно к любому медицинскому оборудованию. Но здесь встает вопрос и об ответственности производителя системы ИИ, к которому эксплуатант может предъявить требования в случае, если неправильное лечение было осуществлено вследствие недостатков самой системы ИИ.

Автомобили, управляемые ИИ, уже появляются на дорогах. Такие эксперименты идут и за рубежом, и в России. Так, 12 июня 2018 г. компания «КамАЗ» продемонстрировал в Казани прототип беспилотного электробуса КамАЗ-1221 «ШАТЛ» (широко адаптивная транспортная логистика). Это транспортное средство разработано ПАО «КамАЗ» совместно с ФГУП «НАМИ». Внедрению этого электробуса в широкую эксплуатацию препятствует то, что в России в настоящее время отсутствует законодательство, регулирующее движение беспилотного транспорта «КамАЗ» представил в Казани беспилотный электробус «ШАТЛ» // РИА Новости. URL: https://ria.ru/avto/20180612/1522556402.html(дата обращения: 16.09.2018)..

22.06.2018 было объявлено, что беспилотный автомобиль, разрабатываемый российской компанией «Яндекс», впервые в автономном режиме проехал из Москвы в Казань. Автомобиль преодолел 789 км за 11 часов. 99 % пути были преодолены в режиме автопилота. Все время поездки на водительском месте находился пилот-испытатель, готовый взять на себя управление в случае нештатной ситуации.

Законодательство и общество пока не готовы к полноценному допуску автомобилей, управляемых ИИ, на дороги общего пользования, но со временем ситуация изменится.

За рубежом соответствующая правовая база уже появляется. Так, в марте 2012 г. в штате Невада вступил в силу закон, разрешающий езду по автомагистралям «автомобилей, которые используют искусственный разум, сенсоры и систему глобального позиционирования, чтобы передвигаться самостоятельно, без активного вмешательства водителя-человека». Данный закон именует водителя «оператором», при этом он остается им, даже если «физически не присутствует» в автомобиле. У таких автомобилей особые номера -- с красным фоном и значком бесконечности (когда начнется коммерческое использование машин, фон поменяют на зеленый). Оператор такой машины должен получить не только обычные права, но и специальный документ, удостоверяющий его способность управлять именно роботом, а не просто машиной Автомобили, умеющие ездить без водителя // Сетевой журнал «Softmixer». URL: http:// www.softmixer.com/2012/10/blog-post_9748.html(дата обращения: 16.09.2018).. Очевидно, фигура операторанужна для того, чтобы можно было без проблем определить субъекта ответственности за возможный вред, причиняемый таким транспортным средством. Вероятно, некоторое время ИИ в автомобиле будет выполнять функцию автопилота. Со временем можно ожидать, что автомобили-роботы будут перевозить пассажиров и грузы без номинального присутствия в кабине оператора.

Как мы уже отмечали ранее, на сегодняшний день с точки зрения гражданского права система, оснащенная ИИ, -- это вещь. При этом законодательство не содержит каких-либо особенностей правового режима этих вещей и не ограничивает их оборот. Однако у этого объекта есть ряд особенностей, связанных с возможностью его автономного функционирования. Поэтому деятельность, связанная с использованием ИИ, нуждается в специальном правовом регулировании. Особенно очевидно это на примерах использования ИИ в медицине, на транспорте и в других сферах, где ценой выхода ИИ из-под контроля может быть не только имущественный вред, но даже здоровье и жизнь человека.

К таким системам ИИ, как беспилотные транспортные средства, применимы положения ГК РФ об источнике повышенной опасности (ст. 1079). А то, что опасность для человека они представляют, к сожалению, недавно подтвердилось -- в марте 2018 г. беспилотный автомобиль передвигался в автономном режиме по улицам города Темпе (штат Аризона, США) и на скорости 63 км/ч в темное время суток совершил наезд на женщину, которая позже умерла в больнице. При этом испытатель, который находился на водительском кресле и должен был следить за обстановкой, не сумел избежать столкновения Wakabayashi D. Self-Driving Uber Car Kills Pedestrian in Arizona, Where Robots Roam // The New York Times. URL: https://www.nytimes.com/2018/03/19/technology/uber-driverless- fatality.html?smid=fb-nytimes&smtyp=cur(датаобращения: 16.09.2018)..

Думается, что есть смысл рассматривать ИИ как источник повышенной опасности и в других случаях. Чем ИИ становится «умнее», тем он становится опаснее, так как моральных ограничений у него нет. Интересно, что предпринимаются попытки сформировать у ИИ определенные моральные установки. Так, ученые из Массачусетского технологического института создали проект, названный ими «MoralMachine». На специально созданном сайте посетителям предлагается решить моральные дилеммы, где управляемый ИИ автомобиль должен выбрать наименьшее из двух зол: например, смерть двух пассажиров или пяти пешеходов Moral Machine. URL: http://moralmachine.mit.edu/hl/ru(датаобращения: 16.09.2018)..

В этой связи нельзя забывать и об ответственности разработчика ИИ за его дальнейшее поведение. Искусственный интеллект сродни ребенку -- как его воспитаешь, что вложишь в него, таким он и будет. Потому представляется, что со временем потребуется лицензирование деятельности, связанной с производством и, возможно, даже с эксплуатацией ИИ. Возможно, потребуется регистрация систем ИИ, как это сейчас установлено для транспортных средств. Помочь в случае причинения вреда искусственным интеллектом третьим лицам может страхование ответственности за причинение вреда (ст. 931 ГК РФ). Думается, что следовало бы сделать такое страхование обязательным. Но для этого необходимо четко определить в законе критерии отнесения соответствующих систем к ИИ.

Может ли ИИ когда-нибудь перейти из объектов в субъекты правоотношений? Постановка вопроса на первый взгляд кажется фантастической. Тем не менее такой вопрос за рубежом уже обсуждается на весьма серьезном уровне. В Европейском парламенте рассматривается законопроект о предоставлении роботам статуса «электронной личности». Автором законопроекта является представитель социалистов из Люксембурга Мади Дельво-Стер (MadyDelvaux-Stehres). По его мнению, сейчас из-за внедрения роботов, андроидов и других форм искусственного интеллекта в мире происходит «технологическая революция», и ЕС необходимо установить базовые этические принципы и юридические рамки, регулирующие работу устройств. Он считает, что по мере того, как роботы начинают действовать все более автономно, становится все сложнее считать их «лишь орудиями в руках других субъектов» -- производителя, владельца или пользователя. Данный законопроект предполагает возможность возложить на роботов ответственность за совершаемые ими действия. «Обычные нормы ответственности становятся неэффективными, и появляется необходимость создать новые нормы, которые в первую очередь определят, как аппараты могут быть привлечены к ответственности -- полной или частичной -- за свои действия или бездействие», -- говорится в тексте документа. Данный законопроект получил одобрение Комитета по юридическим вопросам Европарламента Европарламентарии могут предоставить роботам юридический статус // РИА Новости. URL: https://ria.ru/world/20170114/1485715425.html?inj=1 (дата обращения: 16.09.2018)..

В Европарламенте заявили, что закон будет касаться «умных» роботов, способных учиться, приобретая новый опыт и адаптируя свои поведение и действия к окружающей среде. Сюда отнесены автономные транспортные средства и беспилотные летательные аппараты, заводские роботы и некоторые модификации домашней техники, например робот-пылесос. Наделять роботов всеми правами человека, например правом голоса, правом на жизнь или правом на владение имуществом, не предполагается.

Этот законопроект вызвал резкую критику специалистов в области искусственного интеллекта, робототехники, права и этики. Более 150 экспертов из 14 стран подписали открытое письмо Европейскому парламенту с осуждением данного законопроекта. По мнению ученых, невозможно доказать ответственность машины, если она из-за сбоя или недостаточного совершенства своих алгоритмов нанесла окружающим вред Ксенофонтова А. Бесправный механизм: почему ученые выступили против присвое-ния роботам статуса «электронной личности» // РТ URL: https://russian.rt.com/science/artide/504118-roboty-evroparlament-yuridicheskoye-lico (дата обращения: 16.09.2018).. Здесь также можно задать вопрос: как реализовать ответственность машины, если у нее даже согласно этому законопроекту не может быть своего имущества? Разве что разобрать ее на запчасти и продать их?

Проекты нормативных актов, призванные создать специальное правовое регулирование в сфере применения искусственного интеллекта, разрабатываются и в России. Так, Д. С. Гришин (основатель «GrishinRobotics») представил проект закона Проект федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области

робототехники» // Сайт Исследовательского центра проблем регулирования робототех-ники и искусственного интеллекта «Робоправо». URL: http://robopravo.ru/matierialy_dlia_skachivaniia#ul-id-4-35 (дата обращения: 16.09.2018)., которым предлагается закрепить в ГК РФ понятие робота-агента. Такой робот, согласно проекту, должен иметь обособленное имущество и отвечать им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. К гражданским отношениям с участием роботов-агентов предлагается применять по аналогии нормы о юридических лицах.

А. В. Незнамов и В. Б. Наумов разработали проект Конвенции о робототехнике и искусственном интеллекте Модельная конвенция о робототехнике и искусственном интеллекте. Правила созда-ния и использования роботов и искусственного интеллекта // URL: http://robopravo.ru/modielnaia_konvientsiia (дата обращения: 16.09.2018).. В статье 29 этого документа указано, что роботы могут выступать в гражданском обороте как самостоятельные лица, в том числе выступать собственниками других роботов, если это прямо установлено применимым законодательством. Сами авторы этого проекта указывают, что тем самым они «сознательно оставили за его пределами регулирование вопроса о том, должны ли в будущем умные роботы стать субъектами права или остаться объектами» Незнамов А. В., Наумов В. Б. Указ. соч..

Кто заинтересован в попытках законодательного присвоения роботам с ИИ статуса субъекта права? Это не только и не столько энтузиасты новых технологий. Реально в таких законодательных нововведениях заинтересованы компании, производящие системы ИИ. В рамках действующего законодательства они вполне могут быть привлечены к ответственности за недостатки в своей продукции, оснащенной ИИ. Признание же роботов «личностью» позволит им избежать такой ответственности.

На сегодняшний день ни одна система ИИ не является полностью автономной и не может обойтись без того или иного участия человека в ее работе. Смогут ли когда-либо осуществиться идеи фантастов о роботах, являющихся полноценными (или почти полноценными) членами общества? Пока об этом говорить преждевременно. Современный уровень науки и техники не позволяет создать робота, который смог бы мыслить подобно человеку. Но попытки «очеловечить» робота не только на уровне технического воплощения в человекообразной форме, но и юридически, уже есть. В 2017 г. в прессе появилась информация, что человекообразный робот София, произведенный гонконгской компанией «HansonRobotics», получил гражданство Саудовской Аравии Даная информация выглядит сомнительной, так как была озвучена модератором дискус-сии на конференции «Инвестиционная инициатива будущего», проходившей в Эр-Рияде, и не была подтверждена официально (но и не была опровергнута). Во всяком случае, в настоящее время эта информация доступна на сайте Саудовского центра междуна-родных коммуникаций (URL: https://cic.org.sa/2017/10/saudi-arabia-is-first-country-in-the- world-to-grant-a-robot-citizenship/ (дата обращения: 16.09.2018))..

Искусственный интеллект уже меняет нашу жизнь. Станет ли он благом или проблемой -- во многом зависит от людей. Во всяком случае, определенные социальные последствия его внедрение уже порождает. В сентябре 2016 г Герман Г реф сказал, что Сбербанк через пять лет сможет принимать 80 % всех решений с помощью искусственного интеллекта. При этом Г. Греф заметил: «Это означает, что в нашем случае десятки тысяч людей потеряют свою сегодняшнюю работу» Греф: Сбербанк сможет принимать 80 % решений искусственным интеллектом // РИА Новости. URL: https://ria.ru/economy/20160908/1476449735.html(дата обращения: 16.09.2018).. В январе 2017 г. зампред правления Сбербанка Вадим Кулик, выступая на Гайдаровском форуме в РАНХиГС, сообщил, что Сбербанк в 2017 г сократит 3 тысячи рабочих мест из-за робота-юриста, который будет выполнять функции соответствующих сотрудников, сокращениям по мере развития роботизации подвергнутся и другие специальности. Этот робот может сам писать исковые заявления. По словам В. Кулика, Сбербанк будет предлагать юристам пройти переобучение, но всех это не спасет от увольнений Сбербанк в 2017 году сократит три тысячи рабочих мест из-за робота-юриста // РИА Но-вости. URL: https://ria.ru/economy/20170112/1485611123.html(дата обращения: 16.09.2018)..

Жюль Верн сказал: «Успехи науки не должны обгонять совершенствование нравов» Верн Ж. Собрание сочинений в двенадцати томах. Т. 9. М., 1957. С.384.. Но зачастую бывает наоборот. Если наука и техника сумеют приблизиться к созданию реально мыслящего ИИ, аналогичного человеческому разуму, то, возможно, понадобятся временные ограничения на разработку таких систем, аналогично тому, как это сейчас сделано в отношении клонирования человека См.: Федеральный закон от 20.05.2002 № 54-ФЗ «О временном запрете на клонирова-ние человека» // СЗ РФ. 2002. № 21. Ст. 1917., до тех пор, пока общество не будет готово разумно взаимодействовать с ИИ. А для этого нужно в том числе и преобразование правовых подходов к проблеме искусственного интеллекта.

БИБЛИОГРАФИЯ

1. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика / пер. с англ. Ю. А. Зуева, В. А. Точенова. -- М. : Мир, 1992. -- С. 5.

2. Ушаков Д. Н. Большой толковый словарь современного русского языка. -- М., 2009. -- С. 311.

3. Философский энциклопедический словарь. -- М. : Советская энциклопедия, 1989. -- С. 215.

Размещено на Allbest.ru