Разработки в области искусственного интеллекта как основа трансформации механизмов управления: ожидания и риски

Размещено на http://www.allbest.ru/

РАЗРАБОТКИ В ОБЛАСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА КАК ОСНОВА ТРАНСФОРМАЦИИ МЕХАНИЗМОВ УПРАВЛЕНИЯ: ОЖИДАНИЯ И РИСКИ

Коданева С.И.

к.ю.н., с.н.с. ИНИОН РАН

В последнее десятилетие наблюдается беспрецедентный рост анализа данных и алгоритмов в финансовом секторе, частной жизни и в государственной политике. Это обусловлено растущими требованиями к управлению сложностью современного общества, наличием огромного количества информации, генерируемой повсеместным использованием инновационных устройств, поддерживаемых Интернетом, и значительным ростом вычислительных мощностей. Финансовые институты используют большие данные для оценки структуры транзакций и рисков клиентов; компании электронной коммерции используют подходы, основанные на данных, для создания автоматизированных систем, которые рекомендуют продукты, музыку и услуги пользователям; фитнес-трекеры отслеживают личные данные о здоровье, обрабатывающая промышленность и сельское хозяйство также могут использовать такие новые методы для повышения эффективности и производительности.

Фактически, сегодня активное и грамотное использование цифровых технологий и, прежде всего, аналитики больших данных и искусственного интеллекта является основой конкурентоспособности не только частных компаний, но и государств.

Об этом говорит в своем Послании Федеральному Собранию Российской Федерации 2019 года Президент Российской Федерации В.В.Путин: «для того чтобы выйти на высокие темпы роста, нужно решить системные проблемы в экономике… Первое - это опережающий темп роста производительности труда, прежде всего на основе новых технологий и цифровизации, формирование конкурентоспособных отраслей и как результат - увеличение несырьевого экспорта более чем в полтора раза за шесть лет» [1].

Осознание важности разработки и внедрения самых передовых цифровых технологий во все отрасли хозяйства и сферы государственного управления нашло отражение в ключевых документах стратегического планирования Российской Федерации, а также в национальном проекте «Цифровая экономика Российской Федерации», в рамках которого уже сегодня стремительно меняется нормативная база, направленная на стимулирование развития и активного внедрения цифровых технологий, начиная от придания статуса имущества цифровым активам и регламентации оборота криптовалют, и заканчивая цифровизацией государственного управления (включая, унификацию правил обращения в суды в электронной форме, допустимость электронных доказательств, дистанционное участие в судебном заседании, изготовление нотариальных документов в электронной форме и дистанционное совершение нотариальных действий, а также переход к электронным трудовым книжкам). Но наиболее существенным и небесспорным является активно обсуждаемое сегодня использование цифровых технологий и, в особенности, искусственного интеллекта непосредственно в процессе реализации государственных полномочий, например, при подготовке законодательных и иных нормативных актов. Предполагается, что использование искусственного интеллекта при подготовке законопроектов сделает нормотворческий процесс «умным», что повысит качество принимаемых законов, а нормативную среду сделает более благоприятной, что, соответственно, сократит издержки бизнеса, связанные с преодолением административных барьеров и контрольной (надзорной) деятельностью государственных органов. Кроме того, сам процесс нормотворчества станет более прозрачным, что повысит уровень подотчетности государства перед своими гражданами.

Следует признать, что в этом отношении западные страны, в частности, страны Европы, уже сегодня шагнули значительно дальше России. Так, в Европе предметом научных дискуссий является вопрос о персонализации частного права с помощью искусственного интеллекта и аналитики больших данных. Цель такой персонализации - адаптация правовых норм к индивидуальным особенностям. Например, посредством анализа цифрового следа человека, определять степень рациональности принимаемых им потребительских решений и в зависимости от этого нормативно устанавливать для него максимальные ограничения по овердрафту, требования к уровню информирования его как потенциального инвестора и т.д. [2].

Что касается США, то эта страна является лидером в разработке и внедрении новых цифровых технологий не только в сфере бизнеса, но и в государственном управлении.

Соответственно, принимая решение о внедрении новых технологий, таких как искусственный интеллект, в различные сферы частной жизни и государственного управления России необходимо изучать уже имеющийся зарубежный опыт, с тем чтобы минимизировать выявившиеся риски.

Так, если обратиться к изложенному выше тезису о том, что использование искусственного интеллекта при разработке нормативных актов повысит их качество, то следует признать, что данный тезис сегодня становится все более популярным в самых разных сферах, требующих принятия решений на основе аналитических данных, поскольку считается, что алгоритмы позволят повысить качество анализа, а также избежать субъективности при принятии решений.

Действительно, когда речь идет о финансовой аналитике и, например, игре на бирже, то алгоритмы лучше и оперативнее человека могут принимать решения на основании заложенных в них данных.

Однако, в тех сферах, где принимаемые решения могут касаться судьбы человека, преимущества искусственного интеллекта становятся менее очевидными. Так, в зарубежной практике все шире используются возможности алгоритмов при выполнении антимонопольной и полицейской функций, что, по сути, меняет сам метод государственного управления, превращая органы власти в «планшетных чиновников» [3, с. 1083], все более зависимых от гаджетов и менее самостоятельных в принятии решений.

При этом нельзя забывать о важной особенности искусственного интеллекта. Действительно, сам по себе алгоритм не способен принимать «субъективные» решения, однако качество его решений зависит от того, каким образом он спроектирован, и какие данные в него внесены. Кроме того, сложные самообучающиеся алгоритмы изучают взаимосвязь между различной информацией и заложенными в них образцами поведения через многослойную структуру и разрабатывают свои собственные правила принятия решений, которые обычно не понятны людям, что создает эффект «черного ящика».

Эта особенность искусственного интеллекта имеет два очень важных последствия, которые ярко проявились в деле «Государство против Лумаса», когда преступник, заключивший сделку со следствием и рассчитывавший на условный срок, был приговорен к 6 годам тюремного заключения и 5 годам строгого надзора на основании заключения автоматизированной системы COMPAS о его склонности к рецидиву.

В этом деле интересно то, что использованная система, во-первых, не вполне соответствует целям принятия решений в уголовном судопроизводстве (она смоделирована для исполнительной системы, т.е. для рассмотрения вопроса о возможности досрочного освобождения, кроме того, она способна идентифицировать группы правонарушителей высокого риска, но не может оценить риск рецидива отдельного человека), во-вторых, уровень достоверности отчетов данного алгоритма был поставлен под сомнение рядом исследователей, которые отмечали, что оценки COMPAS совпали с реальным рецидивом только в 20% случаев; и, наконец, в-третьих, эта система принадлежит частной фирме, которая отказалась раскрывать механизм работы алгоритма, что превратило его в «черный ящик» и не позволило понять, на основании чего было сформировано именно такое заключение [4].

Обвиняемый в попытке оспорить решение суда дошел до Верховного суда штата, который отказал в удовлетворении его жалобы, несмотря на указанные «пороки» достоверности заключения алгоритма, но отметил, что автоматизированные системы не должны быть единственным обоснованием принимаемого решения.

Этот пример является наглядной демонстрацией серьезного риска, стоящего перед нашим обществом. Риска преклонения перед алгоритмами и чрезмерного доверия к результатам их работы.

Действительно, даже если предположить, что судья не будет опираться исключительно на заключение COMPAS, очевидно, что, ознакомившись с этим заключением, он уже не сможет быть объективным при вынесении своего решения, зная, что преступнику присвоена высокая категория риска. Это вполне естественный психический механизм «якоря».

Кроме того, сам Верховный суд продемонстрировал еще одну психологическую особенность человека. В обычных ситуациях любой отход от установленного процессуального порядка (например, от требования вынесения приговора только на основании точной и достоверной информации, а также право обвиняемого обжаловать аргументы, которые легли в основу приговора) должен включить механизм контроля и пересмотра решения.

Однако когда такой отход связан с применением современной технологии, он может быть расценен как незначительный или вообще остаться без внимания из-за тенденции относиться к технологии с чрезмерным доверием.

Риски, проявившиеся в данном деле, актуальны и для других сфер государственного управления, где уже применяется или будет в будущем использоваться искусственный интеллект, поскольку возникает вопрос, кто в реальности принимает решения - чиновники или программы, на которые они полагаются и которые разрабатываются частными компаниями для получения прибыли? Не сложится ли ситуация, когда реальной властью будут обладать не органы власти государства, а разработчики алгоритмов? Ведь давно известно, что при создании эксплуатационных параметров разработчики закладывают в них «желаемые результаты», которые привилегируют одни ценности и интересы над другими.

Таким образом, принимая решение об использовании искусственного интеллекта в управлении, необходимо отдавать себе отчет в риске «делегирования» управленческих функций алгоритму, а следовательно, в риске фактической передачи управления его разработчику.

Список литературы

искусственный интеллект цифровой технология

1. Послание Президента Российской Федерации В.В.Путина Федеральному Собранию Российской Федерации 20.02.19 г. // Официальный сетевой ресурс Президента Российской Федерации. - http://kremlin.ru/events/president/news/59863.

2. Hacker Ph. Personalizing EU private law: from disclosures to nudges and mandates // European review of private law. 2017. N 3. Р 651-678.

3. McGregor L. Accountability for governance choices in artificial intelligence: afterword to Eyal Benvenisti's foreword // The european journal of international law. 2018. Vol. 29, N 4. Р. 1079-1085.

4. Beyond State v Loomis: artificial intelligence, government algorithmization and accountability / Liu Н. e. a. // International journal of law and information technology. 2019. http://doi: 10.1093/ijlit/eaz001.

Размещено на Allbest.ru