Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности (правовые аспекты)

Задачи развития искусственного интеллекта, правовые проблемы его использования непосредственно в медицинской деятельности. Рассмотрение проблематики создания искусственным интеллектом патентуемых объектов, в частности вакцин в условиях борьбы с пандемией.

Рубрика Государство и право
Вид статья
Язык русский
Дата добавления 03.06.2022
Размер файла 40,9 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru/

Применение технологий искусственного интеллекта при создании вакцин и иных объектов интеллектуальной собственности (правовые аспекты)

Б.А. Шахназаров Шахназаров Бениамин Александрович, кандидат юридических наук, доцент, доцент кафедры международного частного права Московского государственного юридического университета имени О.Е. Кутафина (МГЮА)

Аннотация

В статье рассматривается проблематика использования технологий искусственного интеллекта при создании объектов интеллектуальной собственности, в частности вакцин, в условиях борьбы с пандемией. Подчеркивается, что технологии искусственного интеллекта позволяют оперативно преодолевать подобные вызовы, как на национальном, так и на международном уровне и не допустить их повторения в будущем. Автор отмечает, что важнейшие требования о соблюдении конституционных прав и свобод граждан и о невозможности их ограничения при применении технологий искусственного интеллекта, которые устанавливаются в нормативных правовых актах, должны быть дополнены четкими правилами о правовом режиме результатов деятельности искусственного интеллекта, в том числе интеллектуальной деятельности, а также положениями об ответственности разработчиков, пользователей искусственного интеллекта. При этом вопросы правосубъектности искусственного интеллекта также нуждаются в детальной проработке с ориентацией на соблюдение разумного баланса прав, обязанностей и ответственности между разработчиками, пользователями искусственного интеллекта, а также субъектами-адресатами, вступающими в правоотношения с участием искусственного интеллекта. Ключевым аспектом в контексте вопросов правового регулирования результатов интеллектуальной деятельности, полностью или частично созданных искусственным интеллектом, представляется соблюдение баланса между интересами правообладателей и общественными интересами. Установленные на международно-правовом уровне (п. 31 Соглашения по торговым аспектам прав интеллектуальной собственности 1994 г.) возможные ограничения прав правообладателей должны быть приняты за гармонизирующую основу и должны восприниматься национальными правовыми системами при обязательном установлении соответствующих гарантий прав правообладателей (в частности, неисключительный характер использования интеллектуальных прав в контексте таких ограничений, выплата разумного вознаграждения и др.).

Ключевые слова: технологии; искусственный интеллект; вакцины; объекты интеллектуальной собственности; результаты интеллектуальной деятельности; пандемия; правовое регулирование; ответственность; правосубъектность; ограничения прав.

Abstract

Application of Artificial Intelligence Technologies in the Creation of Vaccines and other Intellectual Property Objects (Legal Aspects).

Beniamin A. Shakhnazarov, Cand. Sci. (Law), Associate Professor, Department of Private International Law, Kutafin Moscow State Law University (MSAL).

The paper is devoted to the issues associated with the use of artificial intelligence (AI) technologies in intellectual property objects, in particular vaccines, in the context of fight against a pandemic. It is emphasized that AI technologies allow us to overcome similar problems at the national and international levels and to prevent their recurrence in the future. The author highlights that the most important requirements for observance of constitutional rights and freedoms of citizens consolidated in regulatory acts and impossibility of their restriction in AI technologies must be supplemented with clear rules regulating the legal framework of artificial intelligence, including intellectual activity, and responsibility of developers and AI users. At the same time, the AI legal personality also needs to be thoroughly elaborated with the focus on providing a reasonable balance of rights, responsibilities and eligibility among developers, AI users, and other addressees entering into legal relationships involving artificial intelligence. A key aspect in the context of the legal regulation of the results of intellectual activity created entirely or partially by artificial intelligence is represented by the balance between the interests of rights holders and the public interests. Possible restrictions of rights of copyright holders as established in international instruments (Para 31 of the 1994 Agreement on Trade-Related Aspects of Intellectual Property Rights) should be accepted as a harmonizing basis and adopted in national legal systems. At the same time, rights holders must be provided with appropriate guarantees of respect for their rights (In particular, the non-exclusive nature of the use of intellectual rights in the context of such restrictions, payment of reasonable remuneration, etc.).

Keywords: technologies; artificial intelligence; vaccines; intellectual property objects; intellectual activity results; pandemic; legal regulation; liability; legal personality; limitations of rights.

Стремительное развитие технологий в современном обществе должно отвечать новейшим вызовам, что предопределяет необходимость стимулирования и государственной поддержки таких технологий.

Все чаще для разработки эффективных технических решений, способствующих разрешению общественно значимых проблем, вызываемых, в частности, угрозами распространения инфекционных заболеваний и иными общественно опасными явлениями, изобретатели прибегают к помощи искусственного интеллекта (ИИ, AI, от англ. artificial intelligence). Технологии искусственного интеллекта позволяют оперативно преодолевать подобные вызовы, как на национальном, так и на международном уровне и не допустить их повторения в будущем. С учетом того обстоятельства, что искусственный интеллект определяется в доктрине как полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/обладающая способностями и возможностями мыслить, самоогранизовываться, обучаться, самостоятельно принимать решения и т.д.1, искусственный интеллект может быть использован и в медицинских целях, что способствует прежде всего решению проблем в этой области, которые возникают из-за недостаточности медицинского обслуживания, а также позволяет улучшить качество медицинского обслуживания См.: Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. С. 69. См.: Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта и о некоторых правовых проблемах его применения в отдельных сферах // Закон и право. 2018. № 6. С. 64.. При этом искусственному интеллекту противопоставляется естественный интеллект человека и других живых организмов См.: Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 82..

Действительно, применение технологии искусственного интеллекта позволяет оптимизировать ряд технических и даже биологических процессов, так или иначе связанных с осуществлением медицинской деятельности. Государственное регулирование медицинской деятельности с учетом обозначенного не должно обходить вопросы использования искусственного интеллекта при осуществлении медицинской деятельности с учетом особого социального значения данной сферы правоотношений. Обеспечение четкого, прозрачного и понятного правового режима для широкого использования искусственного интеллекта в медицинских целях, таким образом, находится именно в сфере интересов государства См.: Лаптев В. А. Указ. соч. в контексте установления благоприятного правового режима использования современных технологий в медицине, в том числе и для целей широкого распространения современных медицинских технологий в мире.

Среди наиболее значимых областей общественных отношений, в которых искусственный интеллект уже активно используется, наряду с образованием, электронной торговлей, финансовыми услугами, транспортом и логистикой отмечаются отношения в сфере здравоохранения (обработка и анализ медицинских данных, содействие в постановке медицинских диагнозов), которые занимают в обозначенном перечне особое место См.: Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22. № 1. С. 100.. Для правового регулирования названных отношений в разных юрисдикциях реализуются разные подходы и принципы. Различия могут быть связаны с различным уровнем развития медицины, соответствующего медицинского обеспечения, инновационного развития в разных странах, а также правового регулирования данной сферы правоотношений. Соответственно, отсутствуют международные договоры, которые бы унифицировали регламентацию рассматриваемых отношений.

Таким образом, использование искусственного интеллекта имеет существенное перспективное значение в рамках реализации телемедицины и систем диагностики и подлежит правовой регламентации, прежде всего, на национально-правовом уровне. Кроме того, использование автоматизированных технологий в медицине может повлечь возникновение целого ряда правовых проблем, некоторые из которых на национально-правовом уровне могут быть разрешены лишь посредством введения дополнительных стандартов, а иные такие проблемы порождают сложности правового регулирования и разрешения ввиду неопределенности подходов к правосубъектности систем искусственного интеллекта См.: Морхат П. М. К вопросу о специфике правового регулирования искусственного интеллекта ... С. 64-65..

В зарубежной литературе отмечается, что системы искусственного интеллекта могут радикально изменить нашу жизнь способами, которые неизвестны Guihot M., Matthew A., Suzor N. Nudging robots: Innovative solutions to regulate artificial intelligence // Vanderbilt Journal of Entertainment and Technology Law. 2017. 20(2). Pp. 385--456. URL: https://eprints.qut. edu.au/109926/ (дата обращения: 02.05.2020).. Достижения в области технологий искусственного интеллекта развиваются очень быстрыми темпами, поскольку вычислительная мощность продолжает расти в геометрической прогрессии, и даже если экзистенциальные опасения по поводу искусственного интеллекта не материализуются, уже сейчас существует достаточное количество конкретных проблем, связанных с текущим применением искусственного интеллекта, которые должны быть учтены при определении уровня контроля, который необходимо установить над разработками в этой области с целью предотвращения вреда, который может быть нанесен искусственным интеллектом, вышедшим из-под контроля.

Необходимо учитывать и то обстоятельство, что достижения в области регулирования не поспевают за развитием новых технологий. Проблематика осложняется тем, что регулирование соответствующих отношений зачастую происходит децентрализованно, его осуществляют представители отрасли в условиях ослабления или неэффективности традиционного государственного регулирования. Кроме того, наблюдается сокращение государственных ресурсов и увеличение влияния технологических компаний в сфере развития искусственного интеллекта. Обозначенное приводит к отсутствию четкого правового поля, урегулированного на законодательном уровне, ввиду усложнения государственного регулирования в рассматриваемой сфере.

В данных условиях участники отрасли активно прибегают к саморегулированию, формируя мягкое право в таких формах, как кодексы поведения (практики) и стандарты, что не снимает необходимости государственного регулирования тех сфер отношений, реализуемых с использованием искусственного интеллекта, которые в значительной степени являются неурегулированными, в целях нивелирования рисков, вызываемых безудержным и зачастую бесконтрольным развитием искусственного интеллекта См.: Guihot M., Matthew A., Suzor N. Op. cit.. искусственный интеллект пандемия вакцина

При этом само развитие технологий искусственного интеллекта уже сейчас происходит с использованием средств частных инвесторов, а результаты соответствующих «финансируемых» разработок должны вписываться как минимум в действующие нормативные рамки. Эффективность инвестиций в исследования искусственного интеллекта требует детального рассмотрения возможности и обоснованности патентной охраны на технологию искусственного интеллекта, особенно в области здравоохранения, а также возможности эксклюзивного использования правообладателями результатов деятельности искусственного интеллекта. Искусственный интеллект уже используется во многих областях медицины, в том числе в радиологии, механизмах визуализации, а также в биоинформатике. ИИ демонстрирует большие перспективы в улучшении сбора, обработки и моделирования данных в таких областях, как секвенирование генов (определение последовательности нуклеотидов в молекуле, несущей ген (гены), без уточнения метода), гибридизация нуклеиновой кислоты, прогнозирование структуры белка, фармакология и моделирование клеточных рецепторов и многие другие.

Искусственный интеллект использует алгоритмы, реализуемые автоматизированным путем. Таким образом, медицинские изобретения, предполагающие использование искусственного интеллекта, разрабатываются, как правило, в междисциплинарном контексте группами ученых - компьютерщиков и математиков, которые разбираются в ИИ, и биотехнологами, врачами и фармацевтами, которые понимают биологию человека, медицину и фармакологию.

Так, в 2015 г. IBM запустила проект Watson Health, целью которого является партнерство с медицинскими исследователями для разработки новых технологий в здравоохранении. Watson Health Cloud от IBM - это суперкомпьютер, способный выполнять анализ большого объема данных (примерно 1 млн. гигабайт данных за одну жизнь человека, что в печатном виде эквивалентно более 300 млн книг). В настоящее время трудно связать все эти данные с существующими фрагментированными наборами данных в системе здравоохранения, которыми не так легко обмениваться, такими как медицинские записи, клинические исследования и отдельные геномы. Усовершенствованная вычислительная система уже активно используется в службах здравоохранения, помогая фармацевтическим компаниям исследовать новые лекарственные препараты, давая советы врачам на основе фактических данных и даже обучая их новым навыкам. Сама IBM получила более 1 300 патентов в области здравоохранения, наук о жизни и медицинских изделий.

Компания Google также имеет соответствующее подразделение DeepMind Health, которое имеет аналогичную модель партнерства с медицинскими исследователями и поставщиками медицинских услуг.

Подразделение Google DeepMind разработало и представило в январе 2020 г. AlphaFold - передовую систему, которая предсказывает трехмерную структуру белка на основе его генетической последовательности. В начале марта система прошла испытания на COVID-19. Подразделение DeepMind опубликовало предсказания структуры нескольких недостаточно изученных белков, связанных с SARS-CoV-2 - вирусом, вызывающим COVID-19, чтобы помочь исследовательскому сообществу лучше понять вирус.

Есть также много примеров небольших компаний, занимающихся искусственным интеллектом, которые разрабатывают технологии здравоохранения в областях персонализированного здравоохранения и персонализированной медицины, медицинской визуализации и диагностики. Enlitic - это небольшой стартап из Силиконовой долины, который применяет глубокое обучение для анализа рентгенограмм, а также других данных изображений, таких как компьютерная и магнитно-резонансная томография. TwoXAR использует свою платформу DUMA Drug Discovery для оценки больших общедоступных и проприетарных наборов данных с целью выявления и ранжирования совпадений с высокой вероятностью заболевания. Atomwise использует технологию глубокого обучения AtomNet для анализа тысяч молекул, которые могут служить кандидатами в лекарственные препараты, и прогнозирования их пригодности для блокирования механизма действия патогена.

Крупнейшие технологические компании Китая, среди которых Alibaba, Baidu, Tencent, Huawei, DiDi, запустили новые технологии в области здравоохранения, предназначенные для диагностики случаев заболевания и поиска вакцины для коронавируса. Некоторые из таких технологий включают анализ медицинских изображений на основе облачных вычислений и консультации врачей в режиме онлайн. В частности, компания Alibaba (ведущая компания в области электронной торговли) бесплатно предоставляет свои технологические мощности и разработки в области искусственного интеллекта для создания вакцины против коронавирус- ной инфекции в условиях пандемии.

Особого внимания заслуживает активное взаимодействие в рассматриваемой сфере крупных научно-образовательных и технологических центров в России.

Так, 28 апреля 2020 г. Московский государственный университет имени М.В. Ломоносова, Сибирское отделение Российской академии наук и Государственный научный центр вирусологии и биотехнологии «Вектор» подписали соглашение об объединении усилий в разработке вакцины от коронавируса нового типа, а также в создании других вакцин и лекарств. Подписание документа направлено на объединение усилий трех структур для работы не только над проблемами пандемии коронавируса, но и над другими фундаментальными проблемами, связанными с вирусами и жизнью человека.

Соглашение предполагает научно-техническое сотрудничество в области исследований и разработок лекарственных препаратов, а также совместную работу в областях молекулярного моделирования, биоинформатики, суперкомпьютерного моделирования, искусственного интеллекта, медицинской химии и вирусологии, при этом стороны соглашения обязуются осуществлять научно-техническое сотрудничество в виде реализации научно-исследовательских работ, опытно-конструкторских и инновационных разработок и совместную деятельность по развитию научно-исследовательского, образовательного, инновационного потенциала сторон в области исследований и разработок лекарственных препаратов URL: https://www.msu.ru/press/smiaboutmsu/mgu-so-ran-i-vektor-podpisali-soglashenie-o-sotrudnichestve- v-razrabotke-lekarstv.html (дата обращения: 02.05.2020)..

Пандемия коронавирусной инфекции иллюстрирует, что перед искусственным интеллектом могут быть поставлены важные для всего человечества социальные задачи, в том числе в целях разработки вакцины. Искусственный интеллект играет две важные вспомогательные роли в этом контексте: предлагая компоненты вакцины, понимая структуры вирусных белков и помогая медицинским исследователям в беспрецедентном темпе отыскивать и анализировать десятки тысяч соответствующих научных исследований См.: Etzioni O., DeCario N. AI Can Help Scientists Find a Covid-19 Vaccine // URL: https://www.wired.com/story/ opinion-ai-can-help-find-scientists-find-a-covid-19-vaccine/ (дата обращения: 02.05.2020). См.: Etzioni O., DeCario N. Op. cit.. Уже с самого начала пандемии коронавирусной инфекции команды технологических компаний (в частности, рассмотренные выше проекты), занимающихся разработками в сфере искусственного интеллекта, за короткий срок создавали инструменты для искусственного интеллекта, обобщали и анализировали большие объемы данных, собирали результаты исследований в рассматриваемой сфере и свободно обменивались ими с мировым научным сообществом. Одна из основных задач в условиях пандемии, в решении которой могут быть активно задействованы технологии искусственного интеллекта, - разработка вакцин.

В первые три месяца 2020 г. появилось несколько тысяч статей, анализирующих те или иные аспекты коронавирусной инфекции, и количество научной литературы в этой сфере динамично растет. В процессе таких исследований ученые в максимально короткие сроки пытаются найти документы, относящиеся к их конкретным исследованиям, рассмотреть содержание и все многообразие недавних открытий, а также раскрыть их понимание. Во-первых, необходимо собрать соответствующую литературу и поместить ее в едином доступном ресурсе (платформе). Так, например, в Институте Аллена - некоммерческой организации, занимающейся исследованиями искусственного интеллекта, в сотрудничестве с несколькими исследовательскими организациями создали реестр открытых исследований коронавирусной инфекции (COVID-19) - уникальный ресурс из более чем 44 000 научных статей о COVID-19, о собственно вирусе SARS-CoV-2 и родственных коронавирусах. Ресурс обновляется ежедневно по мере публикации новых исследований, представляя собой свободно доступный набор машиночитаемых данных, что позволяет исследователям создавать и применять алгоритмы обработки на естественном языке и в целях ускорения открытия вакцины11.

Вакцины имитируют инфекцию, заставляя организм вырабатывать защитные лейкоциты и антитела. Существует два основных типа вакцин - живые и неживые. При этом неживые значительно различаются по способу получения антигена и включают инактивированные; расщепленные; субъединичные; анатоксины; рекомбинантные; полисахаридные; полисахаридные конъюгированные; вакцины с искусственным адъювантом См., например: Методические рекомендации по выявлению, расследованию и профилактике побочных проявлений после иммунизации, утвержденные 12 апреля 2019 г. Минздравом России..

Проблематика разработки вакцин в условиях пандемии с учетом особой срочности достижения соответствующих результатов и необходимости в кратчайшие сроки получить максимально эффективное средство, способствующее предотвращению распространения инфекционных заболеваний в мире, демонстрирует особую актуальность использования технологий искусственного интеллекта в обозначенных целях.

Неотъемлемая часть вирусов - белок - состоит из последовательности аминокислот, которые определяют его уникальную трехмерную форму. Понимание структуры белка необходимо для понимания того, как он работает. Как только форма понята, ученые могут разработать лекарства, которые работают с уникальной формой белка. Но, не прибегая к технологиям искусственного интеллекта, на изучение всевозможных форм белка придется потратить огромное количество времени, прежде чем будет найдена уникальная трехмерная структура белка.

В обозначенном контексте стоит отметить уже имеющийся опыт по созданию вакцин с помощью технологий искусственного интеллекта. Так, например, специалисты Университета Флиндерса в Южной Австралии в 2019 г. представили вакцину, которая считается первым в мире препаратом для человека, полностью разработанным искусственным интеллектом См.: U.S. clinical trials for more effective flu vaccine // URL: https://news.flinders.edu.au/blog/2019/07/02/u- s-clinical-trials-for-more-effective-influenza-vaccine-begin/ (дата обращения: 02.05.2020).. Новая вакцина направлена на предотвращение распространения гриппа, который остается серьезной глобальной проблемой здравоохранения, несмотря на доступные в настоящее время вакцины. При создании этой вакцины использовались адъюванты - вещества, которые усиливают иммунный ответ организма на вакцину. Несмотря на то что ранее вычислительные машины использовались для разработки лекарств, эта технология вакцины была независимо разработана системой искусственного интеллекта под названием SAM (Алгоритм поиска лигандов Лиганды -- химические соединения, которые образуют комплекс с той или иной биомолекулой и вследствие такого связывания вызывают те или иные биохимические, физиологические или фармакологические эффекты.), созданной командой Университета Флиндерса.

При этом в зарубежной науке отмечается, что, так как создание новых вакцин является одной из ключевых задач в борьбе с глобальными инфекционными заболеваниями, обеспечение оптимальных условий для внедрения инноваций в процессы разработки вакцин должно являться одним из важнейших направлений нормативного правового регулирования в этой сфере общественных отношений См.: Eccleston-Turner M. The Economic Theory of Patent Protection and Pandemic Influenza Vaccines: Do Patents Really Incentivize Innovation in the Field? // American Journal of Law & Medicine. Vol. 42. Iss. 2--3. Pp. 572--597.. Что касается лекарственных препаратов, то академическая, техническая наука зачастую эксплуатирует экономическую теорию патентной защиты для обоснования патентования жизненно важных лекарств и вакцин, притом что экономическая теория патентной защиты исходит из того обстоятельства, что инновации происходят благодаря патентам на изобретения, защищающим инвестиции в исследования и разработки, сделанные изобретателями, а отсутствие механизмов и возможности патентной защиты как таковой приведет к ситуации, когда такие инновации в лекарствах и вакцинах будут происходить со значительно меньшей скоростью См.: Eccleston-Turner M. Op. cit..

Безусловно, проблематика получения патентной охраны на соответствующие технические решения, приводящие к реализации вакцины как способа борьбы с распространением вирусной инфекции, является актуальной в контексте стимулирования, окупаемости и ускорения процессов изобретательской деятельности. При этом одной из важнейших проблем остается достижение баланса между исключительными правами изобретателей и общественным интересом в контексте необходимого распространения и доступности вакцин как в рамках одного государства, так и в мировых масштабах в условиях пандемии.

Так, 193 государства - члена Генассамблеи ООН 20 апреля 2020 г. единогласно приняли резолюцию № A/RES/74/274 «Международное сотрудничество в целях обеспечения глобального доступа к лекарствам, вакцинам и медицинскому оборудованию для противодействия COVID-19», выступив за общедоступность будущих вакцин от коронавирусной инфекции Резолюция, принятая Генеральной Ассамблеей ООН 20 апреля 2020 г. № 74/274. Семьдесят четвертая сессия, пункт 123 повестки дня // URL: https://undocs.Org/ru/A/RES/74/274 (дата обращения: 02.05.2020).. В рассматриваемой резолюции Генеральная Ассамблея среди прочего сформулировала рекомендации государствам-членам работать в партнерстве со всеми заинтересованными сторонами в целях увеличения объема финансовых ресурсов, предназначенных для проведения научных исследований и разработки вакцин и лекарств, оптимального использования цифровых технологий и укрепления международного научного сотрудничества, необходимого для борьбы с COVID-19, а также в целях усиления координации, в том числе с частным сектором, для быстрой разработки, производства и распространения средств диагностики, противовирусных препаратов, средств индивидуальной защиты и вакцин, придерживаясь при этом таких целей, как эффективность, безопасность, справедливость и физическая и ценовая доступность. Кроме того, в документе сформулирован призыв к государствам-членам и другим заинтересованным сторонам незамедлительно принять меры по предотвращению, в рамках их соответствующих правовых систем, спекуляции и чрезмерного накопления запасов, которые могут препятствовать доступу к безопасным, эффективным и доступным по цене основным лекарствам, вакцинам, средствам индивидуальной защиты и медицинскому оборудованию, которые могут потребоваться для эффективной борьбы с COVID-19.

Таким образом, на международном уровне в рамках ООН сформулированы основные направления деятельности по обеспечению доступности лекарственных средств, средств индивидуальной защиты и вакцин в аспекте борьбы с коронавирусной инфекцией. При этом речь идет не только о физической и ценовой доступности, но и о принципе справедливости, в том числе в контексте международного сотрудничества и максимально оперативного и эффективного распространения соответствующей продукции в мире, что представляется возможным воспринимать как акцент в том числе и на разумных ограничениях патентных прав, устанавливаемых на соответствующие разработки, и соблюдении оптимального баланса общественных интересов и интересов правообладателей. Кроме того, в резолюции Генеральной Ассамблеи ООН акцентируется внимание и на оптимальном использовании цифровых технологий и укреплении международного научного сотрудничества для борьбы с COVID-19. Обозначенные рекомендации позволяют судить о гармонизированных направлениях реализации мер борьбы и взаимодействия в рассматриваемой сфере государств, несмотря на различный экономический уровень развития и нормативно-правовую базу обозначенных в резолюции вопросов.

В этом контексте не стоит забывать и о закрепленной на международно-правовом уровне - в п. 31 Соглашения по торговым аспектам прав интеллектуальной собственности 1994 г. возможности введения государствами - членами ВТО ограничений прав правообладателей, которые могут и должны быть приняты за гармонизирующую основу и восприниматься национальными правовыми системами при обязательном установлении соответствующих гарантий прав правообладателей (в частности, неисключительный характер использования интеллектуальных прав в контексте таких ограничений, выплата разумного вознаграждения и др.).

В докладе Всемирной организации здравоохранения за период 16-24 февраля 2020 г. отмечается, что искусственный интеллект и большие данные являются ключевым решением проблемы с коронавирусной инфекцией Report of the WHO-China Joint Mission on Coronavirus Disease 2019 (COVID-19). 16--24 February 2020 // URL: https://www.who.int/docs/default-source/coronaviruse/who-china-joint-mission-on-covid-19-final-report. pdf (дата обращения: 02.05.2020).. Существуют, в частности, различные способы борьбы с коронавирусной инфекцией, основанные на машинном обучении. Например, датская компания UVD Robots заключила соглашение с Sunay Healthcare Supply о продаже своих роботов в Китае. Разработанные UVD Robots устройства курсируют вокруг медицинских учреждений, распространяя ультрафиолетовый свет для дезинфекции помещений, зараженных вирусами или бактериями. Компания Shenzhen Micromulticopter в нескольких китайских городах запустила более 100 беспилотных летательных аппаратов, которые способны не только определять температуру, но и распылять дезинфицирующие средства и патрулировать общественные места.

Обозначенные формы реализации искусственного интеллекта, представляя собой полностью автоматизированные эффективные процессы взаимодействия роботов с объектами материального мира, позволяющие минимизировать контакт человека с человеком, способствуют сдерживанию распространения коронавирусной инфекции.

При этом использование искусственного интеллекта непосредственно в медицинской деятельности порождает ряд специфических правовых проблем. Например, в ситуациях, когда системы искусственного интеллекта участвуют в процессе принятия решений, так или иначе связанных со здоровьем человека, нет окончательной ясности, насколько было бы разумным привлекать врачей к ответственности за вред, причиненный пациентам Habli I., Lawtonb T., Porterc Z. Artificial intelligence in health care: accountability and safety // Bulletin of the World Health Organization. 2020. № 98. Pp. 251--252. URL: https://www.who.int/bulletin/ volumes/98/4/19-237487.pdf?ua=1 (дата обращения: 02.05.2020).. Во-первых, врачи не осуществляют прямой контроль над тем, какие решения генерирует система. Во-вторых, многие системы искусственного интеллекта по своей природе непрозрачны LeCun Y, Bengio Y, Hinton G. Deep learning // Nature. 2015. May 28. № 521 (7553). Pp. 436--444., поэтому понимание врачом того, как система переводит входные данные в окончательные решения, представляется крайне осложненным, а в некоторых случаях невозможным.

Многие системы искусственного интеллекта в здравоохранении являются вспомогательными. В таких случаях именно врачи принимают окончательное решение о том, следует ли действовать в соответствии с рекомендациями этих систем. В отношении этого окончательного решения или выбора врачи несут ответственность, порядок определения которой также не определен достаточно ясным образом.

В американской доктрине сформулирована концепция решения обозначенной проблематики, согласно которой необходима разработка специальной теории уголовной ответственности за действия искусственного интеллекта и роботов, которая бы охватывала «производителя, программиста, пользователя и всех других вовлеченных лиц» См.: Hallevy G. When Robots Kill: Artificial Intelligence under Criminal Law. University Press of New England, 2013.. Таким образом, относительно персональной ответственности за действия искусственного интеллекта существует справедливая на данном этапе технологического развития концепция ответственности лиц, причастных к разработке, программированию, эксплуатации искусственного интеллекта и управлению им См. об этом также: Кибальник А. Г., Волосюк П. В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Юридическая наука и практика: Вестник Нижегородской академии МВД России. 2018. № 4 (44). С. 176..

Говоря о правовом регулировании в РФ искусственного интеллекта как такового, стоит отметить, что с появлением угрозы распространения коронавирусной инфекции соответствующее регулирование подверглось оперативной модернизации. В то же время уже в 2017 г. в России Исследовательским центром проблем регулирования робототехники и искусственного интеллекта был разработан проект Модельной конвенции о робототехнике и искусственном интеллекте URL: http://robopravo.ru/matierialy_dlia_skachivaniiaftul-id-4-35 (дата обращения: 06.05.2020)., основная цель принятия которой состоит в формулировании основных подходов к регулированию отношений с использованием искусственного интеллекта и в принятии единого унифицированного на международном уровне акта. В этой конвенции сформулирован ряд определений, представляющих особый интерес, в том числе и в контексте отсылки к международным стандартам, что свидетельствует о возможном ее гармонизирующем характере. Так, в начальных положениях конвенции определен субъектный состав участников процессов создания, внедрения или использования роботов и киберфизических систем с искусственным интеллектом: исследователи; разработчики; лица, финансирующие исследования и разработки в сфере робототехники; производители, собственники, владельцы, операторы роботов; органы государственной власти и любые регулирующие органы, а также пользователи и иные лица, взаимодействующие с роботами и киберфизическими системами, в том числе с искусственным интеллектом. При этом к объектам робототехники относятся все категории роботов в самом широком их понимании, независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.

В случае если значения понятий «робот», «роботизированный механизм», «умный робот» не определены, могут быть использованы существующие международные стандарты, в частности ISO 8373:2012 «Роботы и робототехнические устройства. Термины и определения».

Наряду с установлением в конвенции принципов безопасности, контролируемости роботов человеком, правила равных рисков (риски при использовании роботов должны быть не больше обычных рисков), механизма «черного ящика», позволяющего фиксировать и хранить все данные о действиях робота, и «красной кнопки», позволяющей отключить робота в любой момент по требованию, интерес вызывают и положения конвенции об ответственности за выполнение правил функционирования роботов, которая по общему правилу возлагается на создателей роботов, а также на любое иное лицо, которое может своими действиями повлиять на выполнение правил.

Отдельного внимания заслуживает и положение конвенции о необходимости создания межгосударственных и негосударственных институтов, в том числе при уже существующих международных объединениях и организациях, для целей эффективного, гармоничного и безопасного развития робототехники и искусственного интеллекта.

Обозначенные правила представляются важными гармонизирующими нормами, которые могут быть положены в основу международно-правового сотрудничества в рассматриваемой сфере отношений. Однако разный уровень развития технологий, правовых основ и правовой культуры в сфере отношений, так или иначе связанных с использованием искусственного интеллекта, в разных странах может воспрепятствовать скорейшему принятию и вступлению в силу подобных положений на универсальном международно-правовом уровне. В то же время в России уже определен вектор развития правового регулирования в обозначенной сфере, что подтверждается рядом документов, в частности Указом Президента РФ от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации», распоряжениями Правительства РФ от 23.03.2018 № 482-р2 и от 28.07. 2017 № 1632-р3, Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в ст. 6 и 10 Федерального закона «О персональных данных»». Кроме того, в контексте региональной интеграции стоит отметить решение Высшего Евразийского экономического совета от 11.10.2017 № 12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года», в котором отмечается, что цифровые активы могут строиться на основе новых бизнес-моделей и технологий, среди которых выделяется и искусственный интеллект.

В Указе Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» заложены важнейшие терминологические основы правового регулирования искусственного интеллекта. Так, искусственный интеллект определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе использующее методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. При этом под технологиями искусственного интеллекта понимаются технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта. Таким образом, уже исходя из определений ключевых терминов, данных в Указе Президента, можно сделать вывод о значительной ориентации правового регулирования искусственного интеллекта на использование и создание результатов интеллектуальной деятельности в процессе эксплуатации технологий искусственного интеллекта. То есть для целей установления правовой природы результатов деятельности искусственного интеллекта в здравоохранении, в частности при создании вакцин, результаты такой деятельности можно и нужно оценивать через призму критериев охраноспособности того или иного объекта интеллектуальной собственности (результата интеллектуальной деятельности).

С учетом того обстоятельства, что к основным задачам развития искусственного интеллекта Указ Президента относит поддержку научных исследований в целях обеспечения опережающего развития искусственного интеллекта; разработку и развитие программного обеспечения, в котором используются технологии искусственного интеллекта; создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, можно заключить, что проблематика правовой охраны соответствующей интеллектуальной собственности будет перманентно сопровождать процессы развития искусственного интеллекта, а вышеуказанная система регулирования общественных отношений в порядке необходимости должна включать и нормы о правовой охране технологий искусственного интеллекта и результатов его деятельности как объектов интеллектуальной собственности.

Обозначенное подтверждается и положениями п. 27 Указа Президента, согласно которым к основным показателям, характеризующим рост предложения продуктов (услуг), созданных (оказываемых) с использованием искусственного интеллекта, относится увеличение количества результатов интеллектуальной деятельности в области искусственного интеллекта, которые прошли государственную регистрацию либо учтены иным способом в соответствии с общепринятой мировой практикой и применяются в промышленности. В Указе Президента также реализован вектор на разработку и регистрацию интеллектуальных прав на новые типы архитектур вычислительных систем. Действительно, возможность получения патентной охраны, равно как и использование иных объектов интеллектуальной собственности (в частности, произведений науки, программ ЭВМ), позволяет оценить потенциал развития отрасли, уровень частноправовых интересов в рассматриваемой сфере отношений, а главное - качество и полезный эффект от использования технологий искусственного интеллекта.

В условиях стремительного распространения коронавирусной инфекции, когда использование искусственного интеллекта приобрело особую актуальность, как в разработке вакцин, так и в иных общественных отношениях, в частности при обеспечении контроля за исполнением режима самоизоляции, принятие федерального законодательства в рассматриваемой сфере отношений не заставило себя ждать. Был принят Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в ст. 6 и 10 Федерального закона «О персональных данных»».

Речь в обозначенном Законе идет об экспериментальном правовом режиме не на всей территории РФ, а на территории г. Москвы. Экспериментальный правовой режим устанавливается на 5 лет - до 1 июля 2025 г. и представляет собой применение в течение срока проведения эксперимента в отношении участников экспериментального правового режима специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в Москве, а также последующего возможного использования результатов применения искусственного интеллекта. При этом определения самого искусственного интеллекта и технологий искусственного интеллекта полностью идентичны приведенным выше определениям из Указа Президента РФ № 490 «О развитии искусственного интеллекта в Российской Федерации».

Статус участника экспериментального правового режима могут получить заявители, являющиеся юридическими лицами, индивидуальными предпринимателями, зарегистрированными в Москве, осуществляющими деятельность по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта и (или) производству, реализации или обороту отдельных товаров (работ, услуг) на основе указанных технологий, а также не имеющие (в том числе руководители юридического лица) неснятой или непогашенной судимости (по определенной категории преступлений).

Правительство Москвы уполномочено данным Законом среди прочего определять на территории Москвы условия и (или) порядок разработки, создания, внедрения, реализации, оборота отдельных технологий искусственного интеллекта и (или) производства, реализации, оборота отдельных товаров (работ, услуг) на основе указанных технологий, а также требования к указанным технологиям и (или) товарам (работам, услугам); случаи и порядок использования результатов применения искусственного интеллекта; случаи обязательного применения и (или) учета результатов применения искусственного интеллекта в деятельности органов исполнительной власти г. Москвы и подведомственных им организаций и т.д.

При этом в качестве целей установления экспериментального правового режима выделяются: обеспечение повышения качества жизни населения; повышение эффективности государственного или муниципального управления; повышение эффективности деятельности хозяйствующих субъектов в ходе внедрения технологий искусственного интеллекта; формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, по результатам установления экспериментального правового режима.

В обозначенном контексте представляется, что важнейшие требования о соблюдении конституционных прав и свобод граждан и невозможности их ограничения экспериментальным правовым режимом, установленные в данном Законе, должны быть дополнены четкими правилами о правовом режиме результатов деятельности искусственного интеллекта, в том числе интеллектуальной деятельности, а также положениями об ответственности участников экспериментального правового режима, равно как и оператора искусственного интеллекта. При этом вопросы правосубъектности искусственного интеллекта нуждаются в детальной проработке с ориентацией на соблюдение разумного баланса прав, обязанностей и ответственности между разработчиками, пользователями искусственного интеллекта, а также субъектами-адресатами, вступающими в правоотношения с участием искусственного интеллекта. Ключевым аспектом в вопросах правового регулирования результатов интеллектуальной деятельности, полностью или частично созданных искусственным интеллектом, представляется соблюдение баланса между интересами правообладателей и общественными интересами.

Продолжая рассмотрение проблематики создания патентуемых объектов искусственным интеллектом, стоит отметить очень важный научно-практический проект «Искусственный изобретатель» См.: Эббот Р. Проект «Искусственный изобретатель» // Журнал ВОИС. 2019. № 6. URL: https://www.wipo. int/wipo_magazine/ru/2019/06/article_0002.html (дата обращения: 12.05.2020)., наглядно демонстрирующий правовые проблемы (прежде всего вопросы принадлежности личных неимущественных прав) в обозначенной сфере отношений. Так, в 2019 г. создатели проекта «Искусственный изобретатель» подали несколько заявок на патенты в отношении изобретений в патентные ведомства ЕС, Великобритании и США (пластмассовый контейнер для хранения пищи, изготовленный на основе рекурсивной геометрии, а также светосигнальная лампа (работающая на принципе «нейронного света»), предназначенная для оповещения об экстренных ситуациях). В качестве автора изобретений была указана программа DABUS (машинный инструмент, основанный на технологии искусственного интеллекта), которая и создала изобретения. С учетом того обстоятельства, что в большинстве стран авторами изобретений признаются физические лица См.: Эббот Р. Указ. соч., изобретатели пошли на такой шаг, чтобы привлечь внимание к проблематике личных неимущественных прав и проверить эффективность правовых норм в этой сфере. В описании проекта отмечается, что в 1988 г. Великобритания стала первой страной, сознательно распространившей правовую охрану на произведения, которые были созданы искусственным интеллектом, признавая автором «источник» произведения. США в обозначенном контексте придерживаются прямо противоположной позиции, признавая изобретателями только физических лиц. Заявители получили отказы в регистрации соответствующих изобретений в указанных странах См.: Калинчева М. В. О некоторых вопросах правовой охраны изобретений, созданных искусственным интеллектом // URL: https://zakon.rU/blog/2020/2/25/o_nekotoryh_voprosah_pravovoj_ohrany_izobretenij_ sozdannyh_iskusstvennym_intellektom (дата обращения: 12.05.2020)..

Представляется очевидным, что изобретениям, созданным искусственным интеллектом, необходимо предоставлять патентную охрану, если они удовлетворяют критериям охраноспособности, установленным в той или иной стране, так как это способствует раскрытию информации и коммерциализации социально значимых технологий, а также позволяет стимулировать инновации и мотивировать людей, разрабатывающих и использующих технологии искусственного интеллекта, к изобретательской деятельности, что, в свою очередь, позволит повысить интенсивность инновационной деятельности в обществе. Вопрос лишь в личном неимущественном праве - кого считать изобретателем, поскольку проблем с исключительными правами практически не возникает, так как, имея имущественную природу, их принадлежность определяется применительно к субъектам права: физическим и юридическим лицам, которые разработали и/или используют искусственный интеллект (в зависимости от условий такого использования). Разрешение же физическим лицам присваивать себе авторство изобретений, которые созданы не их целенаправленным трудом, а искусственным интеллектом, обесценивает значение изобретательской деятельности людей См.: Эббот Р. Указ. соч., которые своим собственным самостоятельным творческим трудом создают изобретения, справедливо претендуя на защиту личных неимущественных прав. При этом и искусственный интеллект не наделяется личными неимущественными правами как таковыми, не являясь субъектом права, акцент в данном случае делается лишь на то, что изобретение создано искусственным интеллектом.

Однако изобретателем может быть признан оператор технологии искусственного интеллекта, если формулирование задачи, которая ставится перед искусственным интеллектом, требует изобретательских навыков, равно как и в случаях, когда разработчик технологии искусственного интеллекта может считаться изобретателем, если он своим творческим (интеллектуальным) трудом создал искусственный интеллект для решения изначально определенной проблемы или в процессе обучения искусственного интеллекта, настройки и развития его когнитивных функций осуществлял четко определенную интеллектуальную деятельность.

При этом сложно согласиться с высказываемой в науке позицией о том, что изобретателем может быть специалист, оценивающий актуальность результатов работы искусственного интеллекта См.: Эббот Р. Указ. соч.. Такой специалист действительно может выбрать из возможных результатов деятельности искусственного интеллекта оптимальный, но он в любом случае не является создателем такого результата.

...

Подобные документы

  • Характеристика правовых основ интеллектуальной собственности в международном частном праве. Правовые особенности использования современных информационных технологий. Актуальные проблемы и основные тенденции развития основ интеллектуальной собственности.

    курсовая работа [47,7 K], добавлен 11.12.2013

  • Содержание, особенности, функции и задачи аренды как основной формы использования нежилых объектов городской собственности. Экономические и организационно–правовые аспекты регулирования арендных отношений. Учет и мониторинг объектов нежилого фонда.

    дипломная работа [212,4 K], добавлен 08.01.2014

  • Особенности законодательного регулирования правового режима объектов интеллектуальной собственности. Специфические черты исключительных прав. Специфика участия объектов интеллектуальной собственности в гражданском обороте. Защита интеллектуальных прав.

    контрольная работа [29,0 K], добавлен 02.11.2011

  • Обеспечение эффективного правового регулирования отношений по созданию и использованию объектов интеллектуальной собственности. Действие права на материальный предмет. Пресечение недобросовестной конкуренции. Особенности использования сложных объектов.

    реферат [23,5 K], добавлен 06.09.2012

  • Понятие интеллектуальной собственности, упоминаемое в Стокгольмской, Парижской конвенциях. Промышленные и авторские виды объектов интеллектуальной собственности, их отличительные черты. Проблемы, связанные с защитой интеллектуальной собственности.

    реферат [25,1 K], добавлен 25.06.2015

  • Характеристика интеллектуальной собственности, ее виды. Анализ объектов промышленной собственности, подразумевающей творческие результаты научно-технического процесса. Сущность изобретения, составление заявки на изобретение. Этапы описания изобретения.

    презентация [24,0 K], добавлен 10.02.2013

  • Инновационный путь развития. Активизация прямой государственной поддержки науки и инноваций. Результаты интеллектуальной деятельности. Проблемы использования интеллектуальной собственности. Вопросы учета движения прав на интеллектуальную собственность.

    реферат [702,2 K], добавлен 31.03.2013

  • Абстрактно-постулативные и формально-лингвистические концепции интеллектуальной собственности. Правовые проблемы совершенствования законодательства об интеллектуальной собственности и необходимости ее защиты. Контрафакция ИС в Российской Федерации.

    дипломная работа [70,2 K], добавлен 14.09.2010

  • Понятие интеллектуальной собственности, объекты авторского права. Произведения, не охраняемые авторским правом, объекты смежных прав. Критерии объектов интеллектуальной собственности. Правовое регулирование в области интеллектуальной собственности.

    контрольная работа [20,6 K], добавлен 25.01.2010

  • История возникновения и развития интеллектуальной собственности в мире и в России. Объекты авторских, смежных, патентных прав. Средства индивидуализации товаров: фирменные и товарные знаки. Обзор нетрадиционных объектов интеллектуальной собственности.

    курсовая работа [39,7 K], добавлен 09.12.2014

  • Способы и условия для введения объектов интеллектуальной собственности в гражданский оборот. Сравнительный анализ форм защиты интеллектуальной собственности различных стран; оценка их эффективности. Основные направления деятельности в области охраны прав.

    курсовая работа [131,9 K], добавлен 25.02.2015

  • Сущность и особенности интеллектуальной собственности, характеристика ее форм. Факторы, обусловливающие необходимость охраны интеллектуальной собственности. Правовые документы, регулирующие отношения в данной сфере. Объекты авторской собственности.

    презентация [77,7 K], добавлен 02.06.2014

  • Изучение понятия и объектов авторского права. Характеристика видов ответственности за нарушение авторских прав. Нормативное регулирование и способы защиты интеллектуальной собственности в сети Интернет. Правовые проблемы действующего законодательства.

    дипломная работа [69,6 K], добавлен 04.05.2010

  • Характеристика понятия и объектов интеллектуальной собственности. Рассмотрение особенностей правового регулирования авторского и панетнтного права. Законодательная регламентация видов, средств и способов защиты прав изобретателей и патентообладателей.

    курсовая работа [58,5 K], добавлен 10.06.2011

  • Возникновение и формирование права интеллектуальной собственности, ее понятие, особенность и специфика объектов и основные источники. Институт авторского и права промышленной собственности. Защита интеллектуальной собственности и перспективы ее развития.

    курсовая работа [39,9 K], добавлен 22.07.2010

  • Систематизация объектов права собственности. Классификация недвижимого имущества, его место среди объектов права собственности. Виды объектов права собственности (земельные участки, жилые помещения, предприятия, здания, сооружения, животные, информация).

    дипломная работа [97,6 K], добавлен 22.10.2015

  • Нематериальные активы организации. Понятие интеллектуальной собственности. Оценка ее объектов. Права на ее результаты. Преимущества использования ноу-хау по сравнению с изобретением. Лицензия как форма коммерческого обмена инновационными продуктами.

    презентация [683,6 K], добавлен 23.08.2016

  • Понятие, содержание и гражданско-правовые средства защиты права собственности и иных вещных прав. Особенности виндикационного иска и его квалификации в практической деятельности юристов. Специфика негаторного иска и иска о признании права собственности.

    дипломная работа [63,0 K], добавлен 30.03.2011

  • Понятие, содержание интеллектуальной собственности, характеристика ее объектов. Виды ноу-хау, их правовая защита, суть патентирования изобретений. Особенности процесса эксплуатации интеллектуальной собственности, правовое построение и принципы ее охраны.

    реферат [22,3 K], добавлен 16.09.2010

  • Знакомство с целевым назначением Лесного кодекса Российской Федерации. Рассмотрение особенностей использования, охраны, защиты, воспроизводства лесов, выполняющих функции защиты природных и иных объектов. Анализ основных форм собственности на леса.

    курсовая работа [51,8 K], добавлен 12.05.2014

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.