О внедрении искусственного интеллекта в деятельность правоохранительных органов

Размещено на http://www.allbest.ru/

О внедрении искусственного интеллекта в деятельность правоохранительных органов

Барчуков В.К. - соискатель Высшей школы государственного аудита (факультет) Московского государственного университета им. М.В. Ломоносова.

При внедрении технологий искусственного интеллекта в процесс управления правоохранительным органом необходимо сохранить гарантии от ошибок и несанкционированного взлома технологий управления. Организация управления правоохранительным органом на основе искусственного интеллекта не только допустима, но и необходима по различным причинам. Искусственный интеллект в сфере управления правоохранительным органом должен целенаправленно внедряться по трем основным направлениям: внутренняя организация функционирования органа; управление системой взаимодействия с гражданами, организациями и органами государственной власти; принятие решений по основным направлениям деятельности.

Объем информации, которую генерирует человечество, существенно вырос за последние 50 лет. Так, по данным исследователей современный человек за месяц получает и обрабатывает столько же информации, сколько человек XVII века - за всю жизнь¹. В настоящее время количество информации растет в геометрической прогрессии. При этом, по мнению исследователей, пятая часть всех данных к 2025 году будет считаться критически важной для жизни и безопасности людей Постолатий В. Количество данных в мире удваивается каждые два года: https://rg.ru https://aftershock.news.

С учетом изложенного, совершенно очевидно, что для принятия взвешенного управленческого решения, основанного на анализе всего комплекса данных, которые необходимо учесть, возможностей человеческого мозга недостаточно. Представляется необходимым переложить функцию по анализу, обработке и выявлению наиболее значимой информации с человека на машину. Это могло бы повысить как качество принимаемых решений, так и эффективность управления. Различные правоохранительные органы сталкиваются, в настоящее время с огромными массивами информации. Так, с 2013 года в работу органов внутренних дел внедрена электронная книга учета сообщений о происшествиях (далее - КУСП), которая работает в рамках ГАС «Правовая статистика» (в настоящее время все сообщения, поступившие в полицию заносятся как в бумажную КУСП, так и в электронную). Однако, чтобы только прочитать все данные, занесенные с 2013 года в «электронный КУСП», потребовался бы год непрерывной работы группы людей, не говоря уже о трудозатратах на анализ и классификацию. В результате внедрения искусственного интеллекта в «электронный КУСП», все сообщения в полицию при помощи специальной программы удалось разделить на 40 содержательных категорий («бытовые происшествия», «потери и кражи», «ДТП», «суициды», «пожары» и т.д.). В дальнейшем это поможет смоделировать реакцию полиции на разные типы обращений, обнаружить шаблоны и аномалии в этой реакции и оптимизировать ее, принять необходимые управленческие решения https://рнф.рф. Таким образом, в настоящее время особую актуальность приобретает управление правоохранительным органом на основе искусственного интеллекта.

В разработанной Министерством цифрового развития, связи и массовых коммуникаций Российской Федерации дорожной карты развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект» прямо указано, что одной из субтехнологий, которая подлежит разработке и внедрению, является технология рекомендательных систем и интеллектуальных систем поддержки принятия решений¹.

В настоящее время лидерство во внедрении технологий искусственного интеллекта в системы управления находится у крупных коммерческих предприятий. Результаты внедрения искусственного интеллекта частными компаниями демонстрируют широкие нереализованные возможности искусственного интеллекта, а именно позволяют разгрузить руководителя от малоэффективной, рутинной работы, существенно сократить штат управленческого обслуживающего персонала, а значит, высвободить необходимые материальные и людские ресурсы на решение вопросов безопасности, охраны прав и свобод человека и гражданина.

Так, АО «Сбербанк России» разработал систему помощи клиентам, которая за счет автоматизации работы банка с клиентами позволила сократить количество обслуживающего персонала на 3 000 человек. В ПАО «Мегафон» виртуальный помощник помогает управлять салонами сотовой связи и ассортиментом в них, что позволило увеличить компании объем продаж благодаря правильному подбору ассортимента продукции в отдельном районе города. Компания «Coca Cola HBS Россия» создала на основе технологий искусственного интеллекта робота, осуществляющего подбор персонала, что позволило сократить время найма необходимых сотрудников с 20 дней до 5,5 https://digital.gov.ru Ильин А.С., Панченко Г.М., Ковалева М.В. Роль искусственного интеллекта в менеджменте: Сборник материалов VII Международной научно-практической конференции. Чебоксары, 2018. С. 52..

Примером внедрения технологий искусственного интеллекта в некоторые процессы управления правоохранительных органов является система управления рисками ФТС России. Данная система в настоящее время является основным средством для выбора объекта подлежащего таможенному контролю, что позволило отказаться от сплошной проверки, при этом не снизив эффективность работы, повысить уровень защищенности таможенных границ. Указанная система позволяет в автономном режиме на основе математической модели оценки многих факторов, а также интеллектуального анализа больших массивов данных определять уровень риска участников внешнеэкономической деятельности с дифференцированием мер таможенного контроля Распоряжение Правительства РФ от 23.05.2020 г. № 1388-р «Об утвержде-нии Стратегии развития таможенной службы Российской Федерации до 2030 го-да» // http://static.govemment.ru. В результате применения указанной системы в 2018 г. дополнительно взыскано более 21,5 млрд руб., возбуждено 41 562 дела об административных правонарушениях и 505 уголовных дел, принято 27263 решения об отказе в выпуске товаров и 13 000 решений о запрете ввоза/вывоза товаров, доля результативных таможенных досмотров увеличилась с 47,5% в 2017 г. до 51,4% в 2018 г.¹, при этом в минувшем и нынешнем году указанное соотношение сохранилось.

Применение в органах государственной власти Российской Федерации новых (цифровых) технологий, обеспечивающих повышение качества государственного управления, занесено в список основных задач применения информационных и коммуникационных технологий для развития социальной сферы, системы государственного управления, взаимодействия граждан и государства Нагорная М.С., Якименко Е.С. Система управления рисками как эффектив-ный механизм деятельности ФТС России в условиях модернизации // Управление в современных системах. 2019. № 2(22). С. 15. Васин С.Г. Искусственный интеллект в управлении государством // Госу-дарственное и муниципальное управление. 2017. № 3(17). С. 5..

Можно говорить о разных причинах, сложившейся ситуации, однако многие исследователи говорят об опасности применения искусственного интеллекта в системе принятия решений и недопустимости внедрения данной технологии в процессы управления «Искусственный интеллект как террорист»: новые угрозы безопасности: https://ria.ru. Так, допустимо ли основывать на искусственном интеллекте систему управления правоохранительным органом, где риски ошибки, гораздо более высоки, чем в коммерческой организации?

В основном позиция о недопустимости использования искусственного интеллекта в управлении объясняется причинами этического характера. Так, например, в США преступник, заключивший сделку со следствием и рассчитывавший на условный срок, был приговорен к 6 годам тюремного заключения и 5 годам строгого надзора на основании заключения автоматизированной системы COMPAS о его склонности к рецидиву. Верховный Суд США жалобу отклонил, хотя в последствии было признано, что оценки COMPAS совпали с реальным рецидивом только в 20% случаев Коданева С.И. Разработки в области искусственного интеллекта как основа трансформации механизмов управления: ожидания и риски // Регионы России: стратегии и механизмы модернизации, инновационного и технологического раз-вития: Сборник трудов X Международной научно-практической конференции. М, 2019. С. 541.. Еще одним примером, ситуации тяжело разрешимой с точки зрения принятия решения, пусть и напрямую с правоохранительной деятельностью не связанной, является неопределенный алгоритм, который должен быть заложен разработчиками в гипотетической ситуации, когда на дороге перед автомобилем под управлением искусственного интеллекта неожиданно появляется пенсионер, а с другой стороны - малолетний ребенок¹ (аналогичная по последствиям принятого решения ситуация может наступить и в правоохранительной деятельности). Кроме того, исследователи обращают внимание на то, что технологии искусственного интеллекта при принятии решений могут быть использованы и для осуществления преступной деятельности, возможны случаи хакерского взлома или написания программ, которые могут изменить решение алгоритма искусственного интеллекта Мационг Е. Чем опасно внедрение технологий с искусственным интеллек-том: https://rg.ru Заплатина Т.С. Искусственный интеллект в вопросе вынесения судебных решений, или ИИ-судья // Вестник Университета имени О.Е. Кутафина. 2019. № 4. С. 164..

Все указанные проблемы вполне обосновано называются исследователями, но, представляется, что при сохранении определенного уровня правовых гарантий, можно обеспечить и надежность системы, и исключить негативные последствия ошибок в принятии решений на основе искусственного интеллекта. Кроме того, необходимость внедрения в систему управления правоохранительным органом технологий искусственного интеллекта обусловлена рядом причин, которые обеспечивают такой системе управления ряд серьезных преимуществ перед классической системой, где искусственный интеллект не применяется.

Так, например, расходы на национальную оборону, безопасность и правоохранительную деятельность составили в Российской Федерации 30% от федерального бюджета на 2019 год, а также на период 2020 и 2021 годов https://tass.ru. При этом, для сравнения доля, расходов на образование составляет около 3,7% https://www.rbc.ru. По мнению специалистов, использование искусственного интеллекта в разы увеличивает производительность труда и уменьшает расходы на обслуживающий персонал на 90% https://iot.ru. В связи с этим, внедрение систем искусственного интеллекта в управление правоохранительным органом могло бы снизить экономические затраты на правоохранительную деятельность, высвободить большое количество сотрудников на работу по тем направлениям, где сотрудников не хватает. Так, например, в МВД России некомплект аттестованного состава, за последние пять лет увеличился почти в два раза, недостаток сотрудников в патрульнопостовой службе, в подразделениях уголовного розыска и по контролю за оборотом наркотиков. При этом в Центральном аппарате ведомства некомплект отсутствует¹. Масштабное внедрение искусственного интеллекта в деятельность системы МВД России могло бы решить эту проблему. Кроме того, эксперты отмечают, что результатом внедрения искусственного интеллекта в процесс принятия решений в правоохранительной деятельности США стало ускорение расследования преступлений в десятки раз https://ria.ru https://newsland.com.

Еще одной проблемой, которую отмечают исследователи, является неоптимальная структура управления правоохранительными органами, а также низкое качество принимаемых решений, которые не соответствуют оперативной обстановке, изменениям в общественно-политической жизни Булавчик В.Г. Управленческая практика в правоохранительной деятельно-сти // Научный журнал НИУ ИТМО. Серия «Экономика и экологический менедж-мент». 2014. № 1. С. 14.. Примеры того, как и в каких объемах искусственный интеллект способен обрабатывать информацию и предлагать готовое решение уже были приведены нами выше в органах внутренних дел и ФТС России. Специалисты, осуществляющие разработку технологий искусственного интеллекта, также подтверждают его возможность анализировать большие массивы данных всего за несколько миллисекунд, без перерывов, вызванных длительными вычислениями Белоглазов Д.А., Коберси И.С. Необходимость построения систем управле-ния на основе методов искусственного интеллекта // Известия ЮФУ. Технические науки. 2009. № 5(94). С. 188..

Кроме того, в настоящее время некоторыми исследователями отмечается коррупционность правоохранительной системы https://eusp.org. Так, согласно опросу, проведенному ФСО России, респондентов, считающих деятельность правоохранительных органов по противодействию коррупции неэффективной или скорее неэффективной, растет: в 2017 году - 61,1%, в 2018 году - 68,5%, в 2019 году - 69,4%, в 2020 году - 74,1% https://tass.ru. Способом преодоления принятия решения исходя из личных предпочтений, получения личной выгоды Федеральный закон от 25.12.2008 г. № 273-ФЗ (ред. от 24.04.2020) «О про-тиводействии коррупции» // Российская газета. 2008. 30 декабря. № 266., может быть принятие решения программой, обладающей искусственным интеллектом. Так, по справедливому мнению, С.Г. Васина, искусственный интеллект будет способствовать искоренению коррупции в системе государственного управления, снижению человеческого фактора при принятии решения и повышению эффективности деятельности самой системы¹.

Совершенно очевидно, что решение вышеуказанных проблем в комплексе приведут к достижению главной задачи правоохранительной деятельности по повышению уровня общественной безопасности, степени обеспеченности конституционных прав граждан. При этом важно сохранить гарантии от ошибок и несанкционированного взлома технологий управления на основе искусственного интеллекта. Эти гарантии широко используются и сейчас, когда ошибки совершает человек, среди них: институты обжалования, контроля и надзора.

В связи с вышеизложенным, представляется, что организация управления правоохранительным органом на основе искусственного интеллекта не только допустима, но и необходима по следующим причинам:

1) необходимость повышения качества управления и принимаемых решений;

2) необходимость снижения экономических затрат на правоохранительную деятельность;

3) необходимость снижения коррупционного влияния на принятие решения;

4) необходимость снижения влияния человеческого фактора;

5) повышение общественной безопасности, степени обеспеченности конституционных прав граждан.

При положительном ответе на вопрос о том допустимо ли основывать на искусственном интеллекте систему управления правоохранительным органом, необходимо ответить на вопрос об организации внедрения указанной технологии. Каким образом должна быть построена деятельность правоохранительного органа с учетом появления в системе управления искусственного интеллекта?

Представляется, что искусственный интеллект должен целенаправленно внедряться по трем основным направлениям: внутренняя организация функционирования органа; управление системой взаимодействия с гражданами, организациями и органами государственной власти; принятие решений по основным направлениям деятельности. Это обусловлено теми сферами, где приходится принимать наиболее важные управленческие решений руководителю правоохранительного органа Васин С.Г. Искусственный интеллект в управлении государством // Власть и публичное управление. 2017. № 3. С. 9. См., например: Приказ Следственного комитета Российской Федерации от 17.10.2014 г. № 89 «Об объеме процессуальных полномочий руководителей след-ственных органов Следственного комитета Российской Федерации» // Российская газета. 2014. 28 ноября. № 272(6544)..

Внутри каждого направления, с учетом развития искусственного интеллекта и имеющихся разработок в этой области, следует выделить технологии искусственного интеллекта на основе системы информационного обеспечения, роботизированные технологии и технологии исключительно основанные на применении искусственного интеллекта.

Кроме того, необходимо выделить следующие уровни внедрения искусственного интеллекта в управленческую деятельность, поскольку процесс внедрения должен происходит постепенно, чтобы не вызвать отторжения и дезорганизацию работы органа. Также некоторые из вышеназванных технологий находятся только в стадии анонса и разработки. Это обуславливает выделение следующих уровней внедрения искусственного интеллекта: современный, перспективный и сверхперспективный.

К технологиям искусственного интеллекта на основе системы информационного обеспечения следует отнести технологии распознавания голоса и текста; анализа запросов граждан, организаций, государственных органов и должностных лиц; систематизации информации, биометрическое распознавание. К роботизированным технологиям относятся: интеллектуальные диалоговые системы; роботизированные помощники; фото- и видеоаналитика; роботы-мониторинга; технологии машинного обучения. К технологиям, основанным исключительно на искусственном интеллекте (сверхперспективный уровень внедрения), относятся: технологии искусственного мозга, способного к анализу информации, ее проверке, оценке и принятию на ее основе решений без участия человека.

Помимо этических и организационных проблем применения искусственного интеллекта существуют и правовые проблемы. Во-первых, возможность принятия решений искусственным интеллектом или на его основе законом не предусмотрена; во-вторых, не определен вопрос об ответственности за последствия решения, принятого искусственным интеллектом или на основе искусственного интеллекта.

Здесь необходимо оговориться, как отмечают разработчики технологий искусственного интеллекта, система искусственного интеллекта представляет собой программный код, исполнение которого инициируется оператором, а процессор пошагово выполняет инструкции, содержащиеся в программном регистре. Теоретически возможно написать программу, манипулирующую собственным кодом, вплоть до установленных целей. Но даже эти манипуляции проводятся системой в соответствии с написанным исходным кодом, а не производятся самостоятельно машиной по ее внезапно возникшему собственному желанию¹. Таким образом, даже при принятии решений искусственным интеллектом или на его основе решающую роль играет человек.

Что касается резолюции, принятой Европейском парламентом, «Нормы гражданского права о робототехнике», в которой предусмотрена возможность привлекать к ответственности роботов за нанесенный ущерб Nate Soares. Ensuring smarter-than-human intelligence has a positive outcome: https://intelligence.org Салтанова С.В. Роботы в законе. Должен ли искусственный интеллект от-вечать за свои поступки: https://issek.hse.ru, то, представляется, что такой способ правового регулирования подходит гражданскому праву, где ответственность может быть застрахована, перенесена на третьих лиц, но не подходит праву уголовному и административному, где перенос ответственности лиц, которые принимают решения, недопустим.

В связи с этим ответ на вопрос об ответственности должен быть решен в пользу возложения ее на человека, в зависимости от последствий причиненного ущерба (уголовная, административная, дисциплинарная). Субъект, подлежащий ответственности, должен определяться исходя из уровня развития искусственного интеллекта, его зависимости в принятии решений от человека. К ответственности должны быть привлечены: 1) разработчик, если система работает автономно, не требует контроля и принимает решения самостоятельно; 2) оператор, если система работает самостоятельно и требует контроля; 3) руководитель, который принял решение, основанное на анализе, проведенном искусственным интеллектом.

Что касается формулы, которая бы в законе определила возможность принятия решений на основе искусственного интеллекта, то с учетом разнообразия правоохранительных органов, разноплановости их задач и функций ее создание не только не целесообразно, но и вредно для правоохранительной деятельности. Представляется необходимым в рамочных нормативных правовых актах, определяющих основные направления деятельности, структуру, компетенцию и полномочия правоохранительных органов прямо прописать возможность принятия решений на основе искусственного интеллекта.

Список литературы

1. Белоглазов Д.А., Коберси И.С. Необходимость построения систем управления на основе методов искусственного интеллекта // Известия ЮФУ. Технические науки. 2009. № 5(94).

2. Булавчик В.Г. Управленческая практика в правоохранительной деятельности // Научный журнал НИУ ИТМО. Серия «Экономика и экологический менеджмент». 2014. № 1.

3. Васин С.Г. Искусственный интеллект в управлении государством // Власть и публичное управление. 2017. № 3.

4. Васин С.Г. Искусственный интеллект в управлении государством // Государственное и муниципальное управление. 2017. №3 (17).

5. Заплатина Т.С. Искусственный интеллект в вопросе вынесения судебных решений, или ИИ-судья // Вестник Университета имени О.Е. Ку- тафина. 2019. № 4.

6. Ильин А.С., Панченко Г.М., Ковалева М.В. Роль искусственного интеллекта в менеджменте: Сборник материалов VII Международной научно-практической конференции. Чебоксары, 2018.

7. Коданева С.И. Разработки в области искусственного интеллекта как основа трансформации механизмов управления: ожидания и риски // Регионы России: стратегии и механизмы модернизации, инновационного и технологического развития: Сборник трудов X Международной научнопрактической конференции. М., 2019.

8. Мационг Е. Чем опасно внедрение технологий с искусственным интеллектом: https://rg.ru

9. Нагорная М.С., Якименко Е.С. Система управления рисками как эффективный механизм деятельности ФТС России в условиях модернизации // Управление в современных системах. 2019. № 2(22).

10. Постолатий В. Количество данных в мире удваивается каждые два года: https://rg.ru

11. Салтанова С.В. Роботы в законе. Должен ли искусственный интеллект отвечать за свои поступки: https://issek.hse.ru

Размещено на Allbest.ru