Генезис понятия искусственного интеллекта с точки зрения права в условиях реализации национального проекта "Цифровая экономика Российской Федерации"

В настоящее время ученые анализируют ИИ в разных аспектах, чтобы прийти к его единому пониманию. Так, в когнитивной науке, объединяющей теорию познания, когнитивную психологию, нейрофизиологию, ИИ трактуется как итог совокупности всех умственных процессов высшего уровня и их взаимосвязей. Поэтому отдельные исследователи определяют интеллект как результат, наблюдаемый со стороны человеком, вовлеченным субъектом, ощущающим и действующим в своем мире посредством адаптивного поведения [1, с. 121].

В 1950-х гг. после изобретения первых компьютеров начался процесс создания ИИ, в котором приняли участие John McCarthy, Allen Newell, Nathaniel Rochester, Marvin Lee Minsky, Herbert Simon, Alan Turing, Claude Shannon, полагавшие, что ЭВМ становится интеллектом, если она начинает воспроизводить поведение человека [2, с. 11].

Согласно классическому определению Джона МакКарти ИИ реализуется технологическими устройствами, заменяющими человека, когда у него заимствуются его когнитивные функции [3], известные под названием "познавательные функции", являющиеся мозговыми процессами, направленными на то, чтобы индивид мог взаимодействовать с окружающим миром. Область применения ИИ находится на стыке информатики, осуществляющей передачу и координацию программируемых рефлексов, вычислительной нейробиологии, воспроизводящей биологические сети нейронов, а также философии, исследующей с практический точки зрения нравственность и мораль, включая их возникновение, особенности и закономерности, в соответствии с которыми они развиваются. Еще в начале 1950-х гг. Alan Turing высказал предположение о том, что машина обладает способностью думать. Надо только дождаться такого развития информатики и вычислительной техники, чтобы вложить эту способность в человекоподобную форму [4].

S. Russel и P. Norvig предлагают восемь определений ИИ исходя из способности искусственного разума рассуждать и думать подобно человеку, действовать в соответствии с человеческим поведением, обладать способностью к обучению и саморазвитию [5, с. 1]. По их мнению, ИИ представляет собой сущность, способную на некоторые реакции и выбор каких-либо реакций исходя из обстоятельств, в которых он оказался. ИИ рационализирует обстоятельства и принимает решение, как себя повести в конкретной ситуации наиболее лучшим для него образом [5, с. 37-39]. ИИ анализирует возможные последствия каждого действия в зависимости от ситуации, в которых он оказался, а затем оценивает действие, которое ему кажется наилучшим, с учетом поставленных целей и знаний, которыми он обладает [6]. Чем больше ИИ имеет данных, тем больше вероятности того, что он примет правильное решение.

Заслуживает внимание определение искусственного интеллекта, сформулированное В.П. Морхатом, согласно которому ИИ представляет собой полностью или частично автономную самоорганизующуюся компьютерно-аппаратно-программную виртуальную или киберфизическую систему, имеющую антропоморфно-разумные способности мыслительных и когнитивных действий (в частности, умение распознавать образы, способность к рефлексии, рассуждению, образному мышлению, анализу и оценке), способную к саморегулированию и самоадаптации под изменяющиеся условия в силу накопленной информации и опыта, а также к антропоморфно-разумному самостоятельному (в том числе творческому) принятию решений [7, с. 68].

Если обратиться к энциклопедическим определениям ИИ, то наиболее точно его характеризует французский словарь "Богатство французского языка", который определяет его как устройство, предназначенное для поиска средств, способных обеспечивать информационные системы умственными способностями, сравнимыми с умственными способностями человека 5. Согласно Новому международному энциклопедическому словарю английского языка под ИИ понимается наделение технических устройств возможностями, которые присущи человеческому разуму. ИИ рассматривается как средство увеличения человеческих возможностей с помощью компьютерных программ и как отдельная наука об эффективных компьютерных технологиях 6.

Установление критериев ИИ

Сущность ИИ в целях его исследования с точки зрения права можно выразить с помощью трех критериев: наличие функциональной самостоятельности (автономность); нематериальный характер; неограниченность во времени и пространстве.

Автономность искусственного интеллекта состоит не только в автоматизированном выполнении операций, но и в выборе этих операций в зависимости от обстоятельств и вводных данных, которые заложены в ИИ. В отличие от других объектов, ИИ наделен способностью принимать решения в условиях реальности при отсутствии каких-либо указаний извне. Даже если изначальные условия были заложены в ИИ его разработчиками, он способен самостоятельно осуществлять обработку имеющихся данных для того, чтобы прийти к верному решению. Речь идет о фундаментальном критерии, позволяющем классифицировать такое устройство, как ИИ. Именно этот критерий был поддержан Sonia Canselier как элемент дефиниции ИИ [8]. Согласно утверждению Ugo Pagallo в обиход входят действия, совершаемые не сугубо людьми и не просто животными, но имеющие тем не менее правовые последствия [9, с. 23].

ИИ является информационной программой, программным обеспечением, состоящим только из совокупности информационных данных [10].

Как и любое программное обеспечение, ИИ может быть представлен без оболочки (например, чат-бот) или быть воплощенным в роботе. Но в любом случае он не будет связан со своей материальной оболочкой и зависеть от нее. В этом состоит нематериальность искусственного интеллекта.

ИИ является сложным механизмом, предназначенным для решения определенной задачи на основе огромного количества данных под влиянием алгоритмов как конечной совокупности точно заданных правил решения произвольного класса задач или набора инструкций, описывающих порядок действий исполнителя. Это может приводить к тому, что даже сами разработчики ИИ не будут понимать логику принятия ИИ некоторых решенийSplinter H. L'insoutenable complexitй de l'intelligence artificielle / H. Splinter. URL: https://rslnmag.fr/cite/linsoutenable- complexite-de-lintelligence-artificielle/ (дата обращения:

30.08.2019) ..

Философ и исследователь влияния цифровых технологий в области культуры и когнитивных наук Pierre Lйvy полагает, что ИИ является "маркетинговым ходом" для дизайнера и фактически представляет собой наиболее продвинутые и постоянно развивающиеся методы обработки данных [11, c. 32]. В настоящее время маркетинговый аспект востребован в продуктах, на которые ставят знак принадлежности к технологиям ИИ. Приставку "тех" можно встретить в различных отраслях экономической деятельности. Однако, по словам Meredith Whittaker, соучредительницы AI Now и руководителя группы Google Open Research, многочисленные утверждения о преимуществах и пользе ИИ не подкрепляются публично доступными научными доказательствамиWhittaker Meredith. Data Genesis: Al's Primordial Soup (Eyeo Festival, Minneapolis, 2018) / M. Whittaker. // AI Now Report. 2018. URL: https://vimeo.com/287094149 (дата обращения:

11.09.2019) ..

Определение ИИ столь многовариантно, что любое применение этого термина становится охраняемымMallazo Mike. The BS-Industrial Complex of Phony A. I. : How hyping A.I. enriched investors, fooled the media, and confused the hell out of the rest of us. URL: https://archive. md/bMaBW#selection-173.0-177.97 (дата обращения:

12.07.2019) .. Согласно Devin Coldewey ИИ представляет собой технологический "естественный" эквивалентColdewey Devin. AI-powered' is tech's meaningless equivalent of `all natural / D. Coldewey. URL: https://techcrunch. com/2017/01/10/ai-powered-is-techs-meaningless-equivalent- of-all-natural/ (дата обращения: 10.09.2019)..

Выделение ИИ в качестве самостоятельной дисциплины неоднозначно. Представляется нецелесообразным говорить о научной дисциплине с определенным предметом и методами исследования. Daniel K. Schneider считает, что у ИИ нет четко определенного предмета академического исследования, за исключением интереса к "интеллекту" и воспроизведению знаний. Ввиду отсутствия единой парадигмы исследования некоторые отрасли ИИ стали предметом междисплинарных обменов, в которых взаимодействуют философы, психологи, программисты и другие специалисты, интересующиеся проблемами в области интеллекта [12].

Существуют технологии, которые требуют участия не только программистов, но и специалистов в сфере юриспруденции, финансов, legal tech, fintech.

Benoоt Charpentier приводит подробный перечень услуг и продуктов в сфере legal tech, специализирующейся на информационно-технологическом обслуживании профессиональной юридической деятельности: расчет вероятности относительно судебных решений (что можно отнести к категории "слабого" ИИ); автоматизированная генерация действующих юридических документов (здесь также речь может идти о "слабом" ИИ); развитие "умных" систем или ИИ (например, основанных на машинном обучении); решение внесудебных споров онлайн; процедуры арбитража онлайн; процедуры расторжения брака онлайн; удостоверение документов; программирование умных контрактов (smart contracts); обзор документов с помощью технологий (technology assisted review); инструменты налоговых расчетов; инструменты управления контрактами (менеджмент, аудит); инструменты юридического поиска (очень "слабый" ИИ).

Согласно исследованию, проведенному в конце 2018 г. Wolters Kluwer, в 19% legal tech используется ИИRichardin Anaпs. Legaltechs franзaises : les grandes tendances de l'annйe / A. Richardin. URL: https://www.maddyness. com/2019/01/23/legaltechs-francaises-les-grandes-tendances- de-lannee-2018/ (дата обращения: 22.09.2019)..

Основы правового регулирования ИИ

Рекомендации по искусственному интеллектуOECD. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449. URL: file:///C:/ Users/surface/AppData/Local/Packages/Microsoft. MicrosoftEdge_8wekyb3d8bbwe/TempState/Downloads/OECD- LEGAL-0449-en%20(1).pdf (дата обращения: 03.09.2019). (далее - Рекомендации) были приняты Советом ОЭСР 22 мая 2019 г. по предложению Комитета политики цифровой экономики (CPEN), которые призваны способствовать внедрению и развитию инноваций и усилению доверия по отношению к ИИ, гарантируя соблюдение прав человека и уважение демократических ценностей.

Рекомендации содержат пять принципов, основанных на базовых ценностях ответственного подхода к использованию ИИ: инклюзивный рост, устойчивое развитие и благосостояние; человек как главная ценность и справедливость; прозрачность и понятность; надежность, гарантия и безопасность; ответственность.

В дополнение к названным принципам Рекомендации устанавливают пять указаний, которым должны следовать государственные органы при формировании своей национальной политики и осуществлении международного сотрудничества: инвестировать в исследования в области ИИ; содействовать установлению цифровой экосистемы для ИИ; определять план действий, предпочтительный для ИИ; расширять человеческие способности и готовить трансформацию рынка труда; способствовать международному сотрудничеству в области ИИ.

А.В. Незнамов и В.Б. Наумов отмечают, что правовое регулирование сети интернет в Российской Федерации осуществляется путем принятия поправок в отдельные законодательные акты на фоне слабой юридической техники [13, с. 72]. О.А. Серова полагает необходимым регулировать вопросы ИИ и робототехники в специальном законодательстве [14, с. 22]. В.А. Вайпан предлагает разработать и принять федеральный закон о робототехнике и киберфизических системах, а также внести требуемые изменения в Гражданский кодекс Российской Федерации и иные акты в части определения понятия киберфизических систем, порядка их ввода в эксплуатацию и гражданский оборот [15, с. 16].

Национальный проект "Цифровая экономика Российской Федерации" предусматривает осуществление комплексного регулирования различными отраслями законодательства (гражданским, административным, уголовным, образовательным и трудовым и т.п.) отдельных направлений цифровой экономики. В этой связи представляет интерес анализ опыта США в вопросах нормативного регулирования ИИ.

Особенности правового регулирования ИИ в сфере экономических отношений в США

В 2016 г. Национальный совет по науке и технике (ШТС), присоединенный к исполнительному бюро при президенте США, опубликовал три документа, касающихся регулирования ИИ.

В первом документеPreparing for the future of artificial intelligence. October 2016. URL: https://obamawhitehouse.archives.gov/sites/de- fault/files/whitehouse_files/microsites/ostp/NSTC/preparing_ for_the_future_of_ai.pdf (дата обращения: 24.08.2019). называются несколько отраслей, в которых могут использоваться инновации, связанные с ИИ: здравоохранение, транспорт, электроэнергетика, разведка и оборона, уголовное судопроизводство, социальная экономика и социальное обеспечение, электронное правительство.

Органам публичной власти надлежит осуществлять следующие функции по адаптации экономической сферы к внедрению ИИ в отдельные отрасли:

• профессиональная переподготовка работников, профессии которых подвержены риску замены (или существенному вытеснению) "умными" машинами;

• профессиональное обучение, направленное на удовлетворение потребностей в области приобретения навыков и знаний в сфере высоких технологий;

• финансирование исследований, посвященных ИИ, и выявление отраслей и профессий будущего для того, чтобы соотнести приоритеты исследования с экономическими потребностями;

• разработка стандартов в вопросах кибербезопасности.

Второй документ ШТСThe national artificial intelligence research and development strategic plan. October 2016. URL: https://obamawhite- посвящен машинному обучению, и ИИ представляет собой проект стратегии ориентирования научно-исследовательских и опытно-конструкторских разработок ИИ и содержит рекомендации для федеральных органов власти в части приоритетных направлений для инвестирования:

1) в долгосрочные исследовательские проекты, направленные на достижение научных результатов и совершение научных открытий высокого уровня влияния;

2) в исследовательские проекты, нацеленные на развитие возможного сотрудничества между людьми и искусственным интеллектом;

3) в проекты, стремящиеся делать доступными публичные данные, используя которые ИИ сможет обучаться;

4) в гуманитарные научно-исследовательские проекты, направленные на решение этических, социальных и юридических проблем.

Третий документhouse.archives.gov/sites/default/files/whitehouse_files/mi- crosites/ostp/NSTC/national_ai_rd_strategic_plan.pdf (дата обращения: 24.07.2019)., опубликованный в декабре 2016 г. и разработанный при участии Совета экономических советников (CEA) и Национального экономического совета (NEC), посвящен влиянию ИИ на экономику. В нем подчеркивается, что основным прогнозируемым экономическим последствием внедрения и использования ИИ станет автоматизация задач по мере развития технологий. Ожидается, что повышение производительности будет способствовать экономическому росту, но в то же время усилит экономическое неравенство, так как автоматизация процессов может отрицательно повлиять на низкооплачиваемых должностях, функционал которых связан с несложными и повторяемыми действиями, легко заменяемыми ИИ.

Согласно этому документу последствия интегрирования технологий зависят от масштаба и скорости распространения ИИ, а также проводимой общественной политики. Экономический приоритет органов публичной власти должен состоять в обеспечении работников, чьи профессии постепенно вытесняет ИИ, так называемой "конверсией рабочих мест", когда человек будет работать совместно с ИИ, а не конкурировать с ним.

Третий документ содержит следующие рекомендации по развитию стратегии в трех направлениях:

1) поддержка инноваций является приоритетной в целях сохранения лидирующих позиций США в области высоких технологий. Исследования в области искусственного интеллекта, применяемого для обеспечения кибербезопасности, предлагается сделать приоритетными. Кроме того, законодатель должен обеспечить конкурентоспособность различных рынков ИИ;

2) инвестиции в образование по направлениям подготовки в области естественных наук и информационных технологий, которые повлекут увеличение профессионалов, занимающихся разработкой, внедрением и обслуживанием ИИ;

3) усиление социальных буферов (социальная защищенность, снижение безработицы и т.п.), включая проведение политики временного перераспределения для предотвращения предполагаемой безработицы, вызванной техническим прогрессом.

В настоящее время в США не осуществляется специальное правовое регулирование ИИ. Исключение составляет автомобильная промышленность, так как согласно прогнозам автономные транспортные средства смогут выйти на рынок уже к 2022 г.

Согласно отчету "Представление о безопасности 2.0"Automated driving systems 2.0. A Vision for Safety. URL: https://www.nhtsa.gov/sites/nhtsa.dot.gov/files/ documents/13069a-ads2.0_090617_v9a_tag.pdf (дата обращения: 29.07.2019). необходимо выработать эффективные механизмы сбора и анализа данных транспортных средств, исключая доступ к личным устройствам водителя (смартфонам и пр.). Такая позиция принята в вопросе защиты личных данных потребителей. При этом рекомендации позволяют использовать персональные данные на стадии экспериментальных разработок. Департамент транспорта США считает, что коммерциализация автономных транспортных средств позволит существенно сократить число несчастных случаев со смертельным исходом на дорогах.

Еще в 2017 г. в Конгресс США был внесен законопроект "Об эволюции транспортных средств", который закрепляет ведущую роль федеральных органов власти в законодательном регулировании обеспечения безопасности высокоавтоматизированных транспортных средств. Законопроект запрещает штатам принимать законы, касающиеся порядка создания, особенностей конструкции или технических характеристик высокоавтоматизированных транспортных средств или автоматизированных систем вождения, если такие нормативные акты не предусматривают стандарты, идентичные федеральным стандартамSELF DRIVE Act. Referred in Senate (09.07.2017). URL: htt-.

Законопроект обязывает производителей высокоавтоматизированных транспортных средств разрабатывать протоколы кибербезопасности и конфиденциальности для таких транспортных средств, прежде чем вводить их в коммерческий оборот. При этом под высокоавтоматизированным транспортным средством предлагается понимать некоммерческое автотранспортное средство, которое оснащено автоматической системой вождения, способной выполнять все задачи динамического вождения на постоянной основе. Данный законопроект до сих пор не принят. В этой связи правовое регламентирование автоматизированных транспортных средств осуществляется на уровне отдельных штатов. Так, 13 июня 2019 г. губернатор штата Флорида (США) утвердил законопроект, допускающий тестирование автономных машин без водителя на своих дорогахps://www.congress.gov/bill/115th-congress/house-bin/3388/ text (дата обращения: 29.07.2019).. Согласно законопроекту предприятия, которые намерены реализовывать беспилотные автотранспортные средства, должны соответствовать определенным финансовым требованиям и критериям безопасности. Так, автономные автомобили должны быть застрахованы на сумму не менее одного миллиона долларов. Кроме того, при несчастном случае с участием высокоавтоматизированных транспортных средств органы правопорядка должны быть незамедлительно предупреждены владельцами транспортных средств.

Выводы