Использование искусственного интеллекта в условиях мегаполиса: правовые аспекты

Размещено на http://www.allbest.ru/

Использование искусственного интеллекта в условиях мегаполиса: правовые аспекты

Андреева Г.Н.

Содержание понятия «мегаполис» раскрывается в научных исследованиях через различные характеристики, для юристов важна урегулированность правом специфики статуса мегаполиса. Важнейшей константой разработанных учеными определений понятия мегаполиса является наличие высокой плотности населения на относительно ограниченном пространстве. Начиная с 1900 г. речь шла о городах-миллионниках, в настоящее время «планка» существенно поднята, и речь идет о пяти и даже десяти миллионах жителей: в документах ООН под мегаполисом понимаются города, население которых превышает 10 миллионов жителей. Это означает, что число жителей в мегаполисе превышает некое критическое значение, которое создает новое качество данного вида поселения с новым объемом проблем.

Особенности инфраструктуры и характера коммуникаций мегаполиса создают возможности и опасности иного уровня, чем в обычном городе и для их решения нужны новые подходы и технологии. Происходящие в мегаполисе экологические, экономические, социальные и культурные процессы, тесно связанные с благополучием, здоровьем и безопасностью его населения, в силу высокой плотности населения имеют иной характер, чем в небольших городах, цена управленческих ошибок в мегаполисах гораздо выше, и подчас их последствия не могут быть ликвидированы «в ручном режиме», а требуют мобилизации значительных дополнительных ресурсов.

Теоретически такие технологии как искусственный интеллект создаются как раз с расчетом на необходимость работы с большими данными, требующими при обычных технологиях больших затрат времени и привлечения значительных ресурсов. Использование искусственного интеллекта должно по идее минимизировать затраты и позволить в минимальном временном интервале решать возникающие проблемы в сфере его применения. С этой точки зрения мегаполис представляет собой, на первый взгляд, идеальный полигон для применения искусственного интеллекта. Вместе с тем, перепоручение машине, даже высокоорганизованной, решения сложных управленческих задач, затрагивающих взаимоотношения людей и права человека, чревато серьезными проблемами для общества и государства, а при существенных злоупотреблениях, вытекающих из ограниченности технических возможностей высокопродуктивных программ, способных своеобразно интерпретировать стоящие перед ними задачи, а также неизбежной ограниченности, и социальным взрывом. Эти проблемы уже давно поставили в футуристическом плане писатели-фантасты, современный читатель их произведений находится в курсе потенциальных негативных последствий и, в экстремальном варианте, даже ужасов нахождения человеческого общества под управлением суперсистем искусственного интеллекта, в том числе, и в виде «сросшегося» виртуального и реального аспектов, порождающих опасность Инфокалипсиса (если использовать терминологию культового романа «Лавина» Нила Стивенсона).

Но даже и не в таком роковом варианте, использование искусственного интеллекта чревато серьезными нарушениями прав человека, что хорошо сознают и политики, провозглашающие необходимость их защиты, и юристы, исследующие потенциальные риски правового регулирования в данной области. Понимание связанных с применением искусственного интеллекта проблем, возникающих в области прав человека, влечет необходимость создания правовых актов, обеспечивающих эффективный контроль за использованием искусственного интеллекта и содержащих определение имеющего доступ к собираемой искусственным интеллектом информации круга лиц, а также, по возможности, позволяющих держать под контролем социальные процессы, регулирование которых поручено искусственному интеллекту.

Современные технологии, в той или иной мере использующие подходы и программы, аналогичные искусственному интеллекту, находятся еще в начальной стадии разработки далекой от совершенства, и, как правило, только частично отвечают потребностям, которые должны удовлетворять, кроме того, даже будучи полезными для процесса управления гражданами, они нередко чреваты созданием различных проблем для последних. В этом смысле эти технологии требуют серьезной предварительной проработки и длительной обкатки на предмет выявления дефектов и их устранения. Что же касается внедрения и использования искусственного интеллекта в экстремальных ситуациях, то ему должна предшествовать еще более тщательная подготовка. В настоящее время, как показывает практика, попытки даже сравнительно простых способов доступа, например, к транспортным услугам, составляющим важную составляющую инфраструктуры мегаполиса, с помощью цифровых технологий, нередко приводят к результатам, противоположным задуманным. Это наглядно показала, например, практика введения цифровых пропусков в г. Москве, которая вызвала гигантские очереди в московский метрополитен во время пандемии, и, соответственно, создание дополнительных условий для распространения инфекции, в то время как данная управленческая мера была нацелена на ограничение перемещений лиц, обязанных находиться в режиме самоизоляции, и тем самым способствовать снижению нежелательных контактов.

Исходя из необходимости обстоятельной предварительной подготовки внедрения искусственного интеллекта в управленческие процессы, особый смысл имеет осуществление правового регулирования в экспериментальном порядке. Такая практика законодательного регулирования давно существует в КНР, и, как показывает опыт данной страны, она себя оправдывает, поскольку позволяет выявить неочевидные при подготовке экспериментального нормативного акта проблемы, что позволяет повысить эффективность правового регулирования и принимать нормативный акт на постоянной основе уже с учетом полученного опыта применения экспериментального акта.

В связи с наличием в Москве высокотехнологичных разработок в области искусственного интеллекта и одновременно повышенных потребностей мегаполиса в регулировании сложных инфраструктурных и иных процессов, 24 апреля 2020 г. был принят Федеральный закон №123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» (далее - Закон), согласно которому такой эксперимент в течение пяти лет (п. 3 ст. 1 Закона) проводится с 1 июля 2020 г. в г. Москве (п. 1 ст. 1 Закона). Кроме того, в п. 1 ст. 1 Закона говорится о последующем возможном использовании результатов применения искусственного интеллекта, т.е. по результатам эксперимента предполагается распространение опыта на другие области жизни и, возможно, на другие города-миллионники. При этом в Законе не указывается, какой именно орган и каким образом будет оценивать результаты эксперимента, будет ли привлекаться независимая экспертиза и другие немаловажные для такого серьезного дела процедурные моменты.

Закон состоит из восьми статей, собственно правовому регулированию соответствующих общественных отношений посвящены шесть статей, поскольку в ст. 8 содержится положение о вступлении его в силу с 1 июля 2020 г., а в ст. 2 раскрываются основные понятия, используемые в Законе.

В п. 2 ст. 1 Закона говорится о том, что он «определяет цели, задачи и основные принципы установления экспериментального правового режима, а также регулирует отношения, возникающие в связи с установлением экспериментального правового режима». Под последним понимается режим специального регулирования, устанавливаемый данным Законом на пять лет (пп. 1 п. 1 ст. 2 Закона).

Часть перечисленных в Законе целей (обеспечение повышения качества жизни населения, повышение эффективности государственного и муниципального управления, повышение эффективности деятельности хозяйствующих субъектов) относятся к обычно перечисляемым в законодательстве и в этом смысле новых ожиданий не вызывают, хотя они не конкретизированы применительно к специфике мегаполиса и отсутствует указание на то, каким образом они будут способствовать достижению его устойчивого развития как важнейшего аспекта его существования. Иначе говоря, специфика приложения данных традиционных и даже стандартных для нормативных актов целей к особым условиях мегаполиса не конкретизирована. Кроме того, эффективность реализации данных целей будет зависеть от того, все ли они будут реализованы, или только некоторые из них, а также каким именно образом предполагается их достичь, обо всем этом можно только строить предположения, уже не основанные на самом Законе. Но в Законе указана еще одна цель правового регулирования, которая сама по себе вызывает вопросы. В пп. 4 п. 1 ст. 3 Закона содержится положение о том, что одной из его целей (последней по списку, но отнюдь не по значимости - Г.А.) является «формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта» (пп. 4 п. 1 ст. 3 Закона). Это может означать, что искусственный интеллект будет использоваться для создания «комплексной системы регулирования общественных отношений». В Законе искусственный интеллект определен как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма)» (пп. 2 п. 1 ст. 2). Заключенная в скобки фраза из этой статьи Закона, соотнесенная с вышеприведенной целью Закона, вызывает ожидания наличия правового регулирования того, в каких пределах и в каких вопросах жизни населения мегаполиса будет применяться искусственный интеллект, а также кто будет оценивать креативные решения искусственного интеллекта «без заранее заданного алгоритма». Эти вопросы тоже подлежат обстоятельному правовому регулированию, но они оказались за рамками данного Закона.

Установленные в Законе задачи введения экспериментального правового режима в целом вытекают из названия и целей принятия данного Закона: создание благоприятных правовых условия для развития технологий искусственного интеллекта, апробация этих технологий и оценка эффективности экспериментального правового режима (п. 2 ст. 3 Закона).

Не могут вызывать возражений и установленные в Законе принципы данного Закона: прозрачность данного специального правового режима, защита прав и свобод человека и гражданина (в сочетании с безопасностью личности, общества и государства), а также недискриминационный доступ к результатам применения искусственного интеллекта. Однако, каким образом они обеспечиваются именно данным актом, не вполне понятно.

Можно предположить, что принцип прозрачности экспериментального правового режима, по мнению законодателей, обеспечивается тем, что в данном Законе указаны полномочия государственных органов, связанные с установлением экспериментального правового режима (ст. 4 Закона), определены условия приобретения статуса участника экспериментального правового режима (ст. 5 Закона), имеются положения, касающиеся ведения реестра участников экспериментального правового режима (п. 1 и 2 ст. 5), создания координационного совета экспериментального правового режима (ст. 6 Закона), а также возможности ознакомления общественности с реестром участников экспериментального правового режима согласно п. 1 ст. 5 Закона. Последнее относится также к обеспечению принципа недискриминационного доступа к результатам применения искусственного интеллекта, но, разумеется, обеспечение данного принципа не исчерпывается последним, а требует оговорки о публичном обсуждении результатов эксперимента, возможности проведения общественностью альтернативной оценки с помощью независимой экспертизы и установления порядка учета ее результатов. Это в Законе не предусмотрено.

В наибольшей степени жителей г. Москвы затрагивает реализация второго принципа, а именно защиты прав и свобод человека и гражданина (пп. 2 п. 3 ст. 3 Закона), который корреспондирует с п. 5 ст. 1, запрещающим ограничение конституционных прав и свобод граждан и введение для них дополнительных обязанностей в результате установления экспериментального правового режима. В Законе имеется целый ряд положений, посвященных требованиям по обработке, обезличиванию и уничтожению данных, полученных в результате участия в данном эксперименте участниками, об ответственности за нарушение соответствующего законодательства. Если бы в Законе речь шла только и исключительно о государственных организациях, данные положения можно было бы рассматривать как определяющую гарантию защиты прав граждан. Однако Закон предусматривает очень широкий круг участников эксперимента: юридические лица и индивидуальные предприниматели, включенные в реестр участников экспериментального правового режима (пп. 7 п. 1 ст. 2 Закона), причем статус участника предоставляется заявителю (зарегистрированному на территории РФ соответствующим образом юридическому лицу или индивидуальному предпринимателю), который «осуществляет или планирует осуществлять деятельность по разработке, созданию, внедрению и реализации или обороту технологий искусственного интеллекта и (или) производству, реализации и обороту отдельных товаров (работ и услуг) на основе указанных технологий» (пп. 2 п. 4 ст. 5 Закона). Это означает, во-первых, что в ходе эксперимента предполагается значительное расширение числа его участников, в том числе за счет тех предпринимателей, которые до этого не осуществляли такую деятельность и только планируют ее осуществлять, таким образом, в столь сложном, затрагивающем многомиллионное население мегаполиса будут участвовать лица, которые еще не зарекомендовали себя как специалисты или эксперты в данной области, а такое требование напрашивается, исходя из масштабов эксперимента и потенциально существующих в такого рода экспериментах рисков; во-вторых, возможности несоблюдения требований по невнимательности или незнанию, утечки информации и т.д. многократно возрастают, а защита прав граждан не имеет в Законе дополнительных правовых инструментов с учетом особенностей этой группы участников; в-третьих, в конечном счете, получается, что в указанных положениях Закона воспроизведены обычные требования к бизнесу в отношении участия в хозяйственных отношениях, что противоречит экспериментальному характеру регулирования, предназначенного изначально минимизировать риски, допуская возможность их наращивания только по мере накопления позитивного опыта, что особенно важно в условиях высокой плотности населения мегаполиса. мегаполис искусственный интеллект

Вызывает удивление структура органов, задействованных в эксперименте такого масштаба. Наряду с существующими уже органами власти и управления, создается Координационный совет экспериментального правового режима, задачами которого являются формирование стратегических направлений совершенствования его механизмов и мониторинг экспериментального правового режима (п. 1 ст. 6 Закона). Предусмотренные в Законе полномочия этого органа в виде участия в обсуждении проектов нормативных правовых актов г. Москвы, связанных с установлением экспериментального правового режима, внесение предложений о совершенствовании его механизмов в процессе и по итогам специального правового регулирования, а также возложенная на него обязанность подготовки и внесения в Правительство РФ предложений о целесообразности или нецелесообразности внесения изменений в законодательство (п. 3 ст. 6 Закона), показывает, что речь идет о создании структуры, оценивающей именно правовое регулирование, но при этом в рамках совершенствования правовой системы остался неурегулированным вопрос о правовых границах допустимости использования этой технологии при принятии административных решений в практике управления мегаполисом, в то время как это является первым по значимости вопросом, который не должен оставаться за рамками Закона, поскольку его решение напрямую связано с реализацией прав человека и гражданина.

Отдельный вопрос возникает о правовом регулировании контроля за проведением самого эксперимента по применению искусственного интеллекта, а не экспериментального правового режима. Ведь речь идет о пятилетнем эксперименте над 13 миллионами человек. В каких случаях руководство г. Москвы будет использовать искусственный интеллект? Как найденные этим интеллектом решения будут проходить экспертизу и будут ли? Кто будет контролировать этот эксперимент (особенно тогда, когда будут использоваться технологии поиска решений без заранее заданного алгоритма), исходя из каких критериев его имеет смысл оценивать, какие демократические институты будут при этом задействованы, наконец, кто и каким образом будет отвечать за допущенные в ходе эксперимента ошибки и компенсировать их последствия - на все эти вопросы в Законе нет ответа. Таким образом, сам эксперимент выпал из поля правового регулирования и социального контроля, несмотря на его уникальность и высокие потенциальные риски особенно для мегаполиса.

Размещено на Allbest.ru