Обеспечение достоверности результатов применения технологий на основе искусственного интеллекта в экспертно-криминалистической деятельности

Размещено на http://www.allbest.ru/

* ЭКЦ МВД России, Академия управления МВД России, Москва, Россия

** ЭКЦ МВД России, Москва, Россия,

Обеспечение достоверности результатов применения технологий на основе искусственного интеллекта в экспертно-криминалистической деятельности

Юрий Викторович Гаврилин*

Анастасия Андреевна Бородина**

Аннотация

В статье рассмотрены вопросы обеспечения достоверности результатов применения технологий искусственного интеллекта при выявлении, раскрытии и расследовании преступлений, включая экспертно-криминалистическую деятельность. Обозначены задачи в сфере правоохранительной деятельности, эффективность решения которых может быть повышена за счет их использования. Показаны современные возможности проведения дактилоскопических, фотои видеотехнических исследований с помощью технологий искусственного интеллекта, в частности, при анализе цифровых изображений.

Установлены условия допустимости результатов применения информационных систем на основе искусственного интеллекта в процессе обработки данных. Отмечено, что при разработке программ и методик тестирования систем искусственного интеллекта, а также определении номенклатуры показателей качества и критериев их оценки необходимо использовать действующие отраслевые национальные и международные стандарты. Приведены критерии оценки качества систем искусственного интеллекта. Сделан вывод о перспективности технологий искусственного интеллекта в правоохранительной деятельности при условии стандартизации, наличия проработанной системы оценки качества их работы и соответствия установленным требованиям.

Ключевые слова: технологии искусственного интеллекта, нейросетевые технологии, автоматизированная обработка данных, правоохранительная деятельность, экспертно-криминалистическая деятельность, расследование преступлений искусственный интеллект преступление

ENSURING THE RELIABILITY OF USING ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN FORENSIC ACTIVITIES

Yuriy Viktorovich Gavrilin*, Anastasia Andreevna Borodina**

* Forensic science centre of the Ministry of the Interior of Russian Federation, Academy of Management of the MIA of Russia,

Moscow, Russia,

** Forensic science centre of the Ministry of the Interior of Russian Federation, Moscow, Russia,

Abstract

The article addresses the issues of ensuring the reliability of artificial intelligence technologies applied to crime detection and investigation, includi ng forensic activities. The law enforcement activities, the effectiveness of which could be improved through the application of such technologies, are outlined. Modern features of fingerprint, photo and video engineering studies are viewed. The possibilities of artificial intelligence technologies applied to the analysis of digital images are considered in detail.

The conditions for the admissibility of the results of application of artificial intelligence based information systems to data processing are established. It is stated that the use of valid industry, national and international standards is crucial for developing programs and methods meant for testing artificial intelligence systems, as well as for determining the range of quality indicators and criteria for their evaluation. The criteria for evaluating the quality of artificial intelligence systems are offered. The authors come to the conclusion about the prospects of using artificial intelligence technologies in law enforcement activities, subject to standardization and the availability of a welldeveloped system for evaluating the quality of their work and compliance with established requirements.

Keywords: artificial intelligence technologies, neural network technologies, automated data processing, law enforcement, forensic activities, crime investigation

For citation: Gavrilin Yu. V., Borodina A. A. Ensuring the reliability of using artificial intelligence technologies in forensic activities. Forensic Examination, 52-61, 2024. (In Russ.).

Искусственный интеллект как область знаний охватывает практически все сферы человеческой деятельности, включая информатику, математику, философию, психологию, термодинамику, лингвистику, здравоохранение, инженерию, экономику, когнитивные науки и др. Не является исключением и юриспруденция.

В настоящее время наблюдается высокий научный интерес к вопросам использования технологий искусственного интеллекта (далее - ИИ) в деятельности по выявлению, раскрытию и расследованию преступлений. При этом диапазон суждений авторов весьма широк и включает как оптимистические [1, с. 82-87], так и скептические оценки [2, с. 170-174]. Большинство ученых сходятся во мнении о перспективности применения технологий ИИ в качестве вспомогательных для поддержки принятия решений [3, с. 2-5], а также средств автоматизации отдельных рутинных процессов [4, с. 16-21].

По мнению В. Ю. Федоровича, О. В. Химичевой и А. В. Андреева, при производстве по уголовному делу такого «электронного помощника» можно обязать направлять различные запросы; собирать информацию и сообщать следователю о месте ее нахождения; выявлять местонахождение подозреваемого и обвиняемого, скрывшегося от следствия или суда, и выполнять другие действия [5]. При этом технологии ИИ выступают исключительно вспомогательным инструментом и ни в коем случае не превращаются в «компьютерного следователя или судью», не означают принятия компьютерной программой какого-либо решения по существу уголовного дела.

Обозначая перспективные направления использования технологий ИИ в правоохранительной деятельности, В. Б. Батоев приводит получение доказательственной информации, а также прогнозирование намерений, мнений, мыслей и отношений [6, с. 86-87].

На основании публикаций в открытых источниках о направлениях научноисследовательских и опытно-конструкторских работ в области использования ИИ в правоохранительной сфере ранее нами выделялись следующие задачи, эффективность решения которых может быть повышена за счет технологий ИИ:

выявление признаков синтеза речи и изображений (дипфейков);

распознавание объектов при проведении идентификационных исследований (компьютерное зрение);

анализ материалов уголовного дела, выдвижение следственных версий и определение алгоритмов действий следователя;

моделирование событий преступления на основе его следов и выявление признаков серийности преступлений;

раннее предупреждение совершения преступлений на основе прогнозирования будущих криминальных событий, включая распознавание признаков противоправных действий при проведении финансовых транзакций и заключении хозяйственных договоров;

контентный и семантический анализ текстов для оценки психологического состояния их автора, а также скрытых смыслов, заложенных в сообщениях и др. [7, с. 80-87]

В настоящее время для формирования и ведения дактилоскопических учетов в органах внутренних дел Российской Федерации используется централизованная интегрированная автоматизированная дактилоскопическая информационная система МВД России. В 2023 г. сотрудниками экспертно-криминалистических подразделений с ее помощью установлены лица, возможно причастные к совершению более чем 39,9 тыс. преступлений. В данной системе внедряется программное обеспечение нового поколения, в котором реализованы технологии ИИ. Его апробация в отдельных территориальных органах МВД России1 и начало эксплуатации в МВД по Республике Крым, ГУ МВД России по Ростовской и Воронежской областям и УМВД России по Ямало-Ненецкому автономному округу

выявили существенное повышение результативности проверок по дактилоскопическим учетам при снижении временных затрат на их проведение. По итогам применения названных технологий обеспечено формирование рекомендательных списков проверяемых объектов, окончательное решение об идентификации которых принимается непосредственно экспертом, проводящим исследование, в строгом соответствии с принятыми методиками. Учитывая изложенное, рассматривается возможность распространения технологий ИИ во всех территориальных органах МВД России, а также его внедрения в другие виды экспертнокриминалистических учетов.

Перспективными направлениями использования ИИ при расследовании преступлений считаем разработку средств анализа фотои видеоизображений, аудиосообщений, модифицированных посредством нейросетевых технологий. Назначением подобных средств является определение вероятности внесения модификаций в аудиоили видеоконтент с помощью нейросетевых аналитических технологий.

Видеоаналитика - технология, использующая методы компьютерного зрения для автоматизированного получения данных на основании анализа изображений или последовательностей изображений (видеопотоков)1. Ситуационная видеоаналитика, образовавшись в процессе совершенствования технологий компьютерного зрения, с развитием систем ИИ эволюционирует (в отношении применяемых методов анализа) от классических детерминированных алгоритмов обработки изображений к когнитивным технологиям на базе ИИ, позволяющим восстанавливать контекст происходящего на сцене видеонаблюдения.

К числу основных функций систем видеоаналитики можно отнести следующие:

классификация объекта - распознавание в сцене видеонаблюдения принадлежности объекта к определенному классу;

идентификация (распознавание) объекта - установление соответствия объекта в сцене видеонаблюдения объекту из предварительно сформированного перечня по характерным признакам;

распознавание действий - определение и классификация действий, совершаемых объектами видеонаблюдения;

сегментация фона - разделение видеосцены на подвижные объекты и стационарный фон;

реидентификация объекта - обнаружение и идентификация объекта на последовательности видеокадров как одного и того же с учетом нахождения в кадре нового положения объекта при перемещении последнего или смене области зрения видеокамеры;

трекинг - обнаружение перемещения объекта из одной области видеосцены в другую за счет реидентификации движущегося в наблюдаемой сцене объекта;

подсчет объектов - определение количества объектов определенного класса в контролируемой зоне и др.

Разработка инструментов для поддержки принятия решений на основе технического анализа цифровых изображений направлена на выявление идентификационных признаков фотои видеозаписывающих устройств для принятия решений при производстве экспертных исследований. При этом осуществляется поиск и систематизация групповых признаков фото-, видеозаписывающих устройств, выделение индивидуализирующих следов и особенностей конкретных устройств при техническом анализе цифровых изображений (включая фотои видеоконтент мессенджеров и социальных сетей).

Еще одной перспективной задачей видеоаналитики видится улучшение визуального восприятия и выделения объектов на цифровых изображениях. Решение этой задачи возможно путем математической обработки цифровых изображений в целях улучшения визуального восприятия объектов, распознавания и выделения среди других объектов. В частности, цифровая обработка фотоизображения лица человека с учетом возможных возрастных изменений (старения) имеет потенциал в решении задач идентификации личности гражданина на основе распознавания физиологических особенностей и особых примет.

Вместе с тем, воздавая должное несомненной теоретической и практической значимости приведенных и иных научных работ, посвященных вопросам оценки возможности использования технологий ИИ в деятельности по выявлению, раскрытию, расследованию и предупреждению преступлений, приходится все же констатировать, что в абсолютном большинстве они носят прогнозно-футуристический характер и не основаны на результатах реальной апробации тех или иных программных средств на практике. Заметим также, что действующий ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта» не предусматривает направлений использования ИИ в правоохранительной деятельности.

Основным препятствием активному внедрению технологий ИИ в обозначенную деятельность видится некоторое противоречие между сущностными свойствами данных технологий и базовыми принципами уголовно-процессуальной и экспертно-криминалистической деятельности.

ИИ, исходя из своего нормативно закрепленного определения, - это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (в том числе самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в котором также используются методы машинного обучения), процессы и сервисы по обработке данных, анализу и синтезу решений1.

С учетом требований ст. 7, 8 Федерального закона от 31 мая 2001 г. № 73-ФЗ «О государственной судебно-экспертной деятельности в Российской Федерации» эксперт дает заключение исходя из результатов проведенных исследований и на своих специальных знаниях, при этом проводит исследования объективно, на строго научной и практической основе, в пределах соответствующей специальности, всесторонне и в полном объеме. Заключение эксперта должно опираться на положения, дающие возможность проверить обоснованность и достоверность сделанных выводов на базе общепринятых научных и практических данных.

Нейросетевые технологии, направленные на имитацию мыслительных процессов человека на основе самообучения, не обеспечивают в должной мере воспроизводимость полученных результатов в силу отсутствия заранее определенного алгоритма принятия решений. С учетом изложенного технологии ИИ в экспертно-криминалистической деятельности не могут подменять процесс исследования, а способны лишь обеспечивать поддержку принятия решений, автоматизируя определенные операции, выполняемые в процессе производства экспертизы.

Отмеченное обстоятельство присутствует и в других областях правоохранительной деятельности. Рассматривая области риска при использовании технологии ИИ в процессе раскрытия и расследования преступлений, Д. В. Бахтеевым справедливо отмечается, что в силу наличия таких характеристик, как скрытые слои, глубокое обучение и т. п., системы ИИ могут оказаться для человечества черным ящиком: неочевиден механизм принятия ими решений, известен лишь результат, для проверки которого может и не найтись корректного алгоритма [8, с. 371].

Кроме того, ст. 16 Федерального закона от 27 июля 2006 г. № 152-ФЗ «О персональных данных» устанавливает принципы их автоматизированной обработки, в частности, запрещается принятие на основании исключительно автоматизированной обработки персональных данных решений, порождающих юридические последствия в отношении субъекта персональных данных или иным образом затрагивающих его права и законные интересы, за исключением случаев, предусмотренных ч. 2 рассматриваемой статьи.

Соответственно, наиболее существенное значение при поиске ответа на вопрос о возможных направлениях использования технологий ИИ в деятельности по выявлению, раскрытию, расследованию и предупреждению преступлений имеет доверие к ним при определении возможности их применения при решении ответственных задач обработки данных. Оно характеризует уверенность правоприменителя и иных заинтересованных сторон в том, что система способна выполнять возложенные на нее задачи с требуемым качеством1.

В этих условиях на передний план выходят вопросы оценки качества систем ИИ на стадиях разработки, создания и эксплуатации в целях обеспечения необходимого уровня их соответствия установленным требованиям. Наличие грамотно выстроенной системы оценки качества позволяет повысить доверие к системам ИИ на физическом уровне путем подтверждения требований к надежности, безопасности и функциональности.

Приказом Росстандарта от 25 июля 2019 г. № 1732 создан специальный технический комитет по стандартизации ТК-164 «Искусственный интеллект», в рамках которого разработан комплекс из более 100 национальных стандартов, регламентирующих как общие, так и отраслевые требования к качеству систем ИИ и методам их испытаний. Указанная деятельность способствует обеспечению безопасности создания и применения систем ИИ.

Качество определяет способность системы ИИ в заданных условиях удовлетворять установленным или предполагаемым потребностям различных заинтересованных сторон, что позволяет таким образом оценить ее достоинства на основании множества характеристик, субхарактеристик, метрик и отношений между ними1. Показателем качества системы ИИ выступает при этом степень соответствия представительного набора существенных (значимых) характеристик системы ИИ заданным требованиям, т. е. потребностям или ожиданиям, которые установлены, обычно предполагаются или являются обязательными для этой системы. Указанный набор характеристик позволяет потребителю или любой другой заинтересованной стороне достоверно оценивать качество системы при решении конкретной прикладной задачи2.

При разработке программ и методик тестирования (испытаний) систем ИИ и определении номенклатуры показателей качества и критериев оценки следует использовать действующие отраслевые, национальные и международные стандарты (например, для оценки биометрических технологий и систем - ГОСТ Р ИСО/МЭК 19795-1, ГОСТ Р 58292, ГОСТ Р ИСО/МЭК 19795-6, ГОСТ Р 58624.1,ГОСТ Р 58667.3).

Программа тестирования должна быть разработана таким образом, чтобы полученные результаты тестирования (испытаний) позволили оценить, подходит ли исследуемая система ИИ для цели (целей) предназначения, и при этом обеспечить надежность, валидность и репрезентативность результатов тестирования. Надлежит четко определить гипотезу и цели (первичные и вторичные) программы тестирования, а также требования к тестовому набору данных, заявленные показатели качества и критерии оценки.

При подготовке программы тестирования (испытаний) следует провести объективный анализ доступных научных данных, позволяющий обосновать полноту и достаточность набора показателей качества, правильность критериев оценки, достаточность и репрезентативность тестовых наборов данных.

Для получения достоверных результатов оценки качества систем ИИ целесообразно, чтобы установленные показатели обладали следующими характерными свойствами, определяющими точность проводимых измерений согласно ГОСТ Р ИСО 5725-13:

достоверность - влияние случайных ошибок на результат измерения незначительно или может быть учтено в процессе анализа, т. е. не влияет на результат измерения;

воспроизводимость - повторное измерение показателя для той же системы с использованием той же самой шкалы ранжирования и оценки, входные данные и условия проведения тестирования различными специалистами по оценке должны привести к тем же самым результатам в пределах соответствующей погрешности;

повторяемость (также сходимость результатов измерений) - близость друг к другу результатов измерений одной и той же величины, выполненных повторно одними и теми же средствами, одним и тем же методом, в одинаковых условиях и с одинаковой тщательностью.

Для оценки функциональных возможностей систем ИИ применяется следующий набор функциональных субхарактеристик:

полнота, используемая для оценки степени покрытия совокупностью функций исследуемой системы всех определенных задач и целей пользователя в условиях отсутствия предвзятости (необъективности);

корректность (правильность) - для оценки обеспечения системы степени точности результатов, а также частоты встречаемости ошибок и недопустимых отклонений;

пригодность - для оценки степени функционального упрощения выполнения определенных задач и достижения целей;

способность к самообучению - для оценки уровня владения системы умением автоматически извлекать знания из накопленного опыта и применять их для улучшения качества решения поставленных задач.

Говоря о достоверности результатов использования систем ИИ, необходимо обратить внимание на еще одно важное обстоятельство - достоверность исходных данных. Э. В. Лантух, А. А. Смольяков и О. В. Гаврилова на этот счет справедливо отмечают, что остается открытым вопрос о том, насколько полные, достоверные и качественные данные с места совершения преступления и предоставленные анализы будут предложены на рассмотрение ИИ. Если предположить, что изначальные данные будут содержать ошибку или неточность, то высока вероятность того, что ИИ воспримет их неправильно и сделает неточные и ошибочные выводы [9, с. 32-37].

Таким образом, обеспечение доверия к системам ИИ в процессе выявления, раскрытия, расследования и предупреждения преступлений должно строиться на основе национальных стандартов, регламентирующих как общие, так и отраслевые требования к качеству систем ИИ и методам их испытаний.

Список источников

Васюков В. Ф., Шеметов А. К. Возможности использования искусственного интеллекта в раскрытии преступлений // Вестник Академии Следственного комитета Российской Федерации. 2022. № 1 (31). C. 82-87.

Ржанникова С. С. К вопросу о правовом регулировании использования искусственного интеллекта в экспертно-криминалистической деятельности // Технологии XXI века в юриспруденции: материалы V междунар. науч.-практ. конф., Екатеринбург, 19 мая 2023 г. / отв. ред. Д. В. Бахтеев. Екатеринбург: КримЛиб, 2023. C. 170-174.

Зинин А. М., Дьяконова О. Г. Мышление человека и искусственный интеллект в аспекте сравнительного исследования внешнего облика человека по его изображениям // Эксперт-криминалист. 2023. № 3. C. 2-4.

Бессонов А. А. Перспективы использования технологии искусственного интеллекта в экспертно-криминалистической деятельности // Судебная экспертиза и исследования. 2022. № 1. C. 16-21.

Федорович В. Ю., Химичева О. В., Андреев А. В. Внедрение технологий информатизации и искусственного интеллекта как перспективные направления развития современного уголовного судопроизводства // Вестник Московского университета МВД России. 2021. № 2. C. 205-210.

Батоев В. Б. Применение искусственного интеллекта в деятельности правоохранительных органов // Вестник Московской академии Следственного комитета Российской Федерации. 2020. № 4 (26). C. 83-87.

Гаврилин Ю. В., Салеева Ю. Е. О концепции государственной научной и научно-технической политики в области криминалистического обеспечения борьбы с преступностью // Труды Академии управления МВД России. 2023.

№ 4 (68). C. 80-87.

Бахтеев Д. В. Концептуальные основы теории криминалистического мышления и использования систем искусственного интеллекта в расследовании преступлений: дис. … д-ра юрид. наук. Екатеринбург, 2022. 504 с.

Лантух Э. В., Смольяков А. А., Гаврилова О. В. Актуальные проблемы внедрения новейших цифровых технологий для подготовки сотрудников экспертнокриминалистических подразделений // Психолого-педагогические проблемы безопасности человека и общества. 2023. № 4 (61). C. 32-37.

References

Vasyukov V. F., Shemetov A. K. Possibilities of using artificial intelligence in solving crimes. Bulletin of the Academy of the Investigative Committee of the Russian Federation, 82-87, 2022. (In Russ.).

Rzhannikova S. S. On the issue of legal regulation of the use of artificial intelligence in expert and forensic activities. In: Technologies of the 21st century in jurisprudence: materials of the 5th International scientific and practical conference, Ekaterinburg, May 19, 2023. Resp. ed. D. V. Bakhteev. Ekaterinburg: CrimLib; 2023: 170-174. (In Russ.).

Zinin A. M., Dyakonova O. G. Human thinking and artificial intelligence in the aspect of comparative research of human appearance according to his images. Forensic expert, 2-4, 2023. (In Russ.).

Bessonov A. A. Prospects for the use of artificial intelligence technology in forensic science. Forensic examination and research, 16-21, 2022. (In Russ.).

Fedorovich V. Yu., Khimicheva O. V., Andreev A. V. The introduction of information technologies and artificial intelligence as promising directions for the development of modern criminal proceedings. Bulletin of the Moscow University of the Ministry of Internal Affairs of Russia, 205-210, 2021. (In Russ.).

Batoev V. B. Application of artificial intelligence in the activities of law enforcement agencies. Bulletin of the Moscow Academy of the Investigative Committee of the Russian Federation, 83-87, 2020. (In Russ.).

Gavrilin Yu. V., Saleeva Yu. E. About the concept of state scientific and scientific and technical policy in the field of forensic support for the fight against crime. Proceedings of the Academy of Management of the MIA of Russia, 80-87, 2023. (In Russ.).

Bakhteev D. V. Conceptual foundations of the theory of forensic thinking and the use of artificial intelligence systems in crime investigation. Dissertation of doctor of juridical sciences. Ekaterinburg; 2022: 504. (In Russ.).

Lantukh E. V., Smolyakov A. A., Gavrilova O. V. Current problems of introducing the latest digital technologies for training employees of forensic units. Psychological and pedagogical problems of human and social security, 32-37, 2023. (In Russ.).

Размещено на Allbest.ru/