Регулирование искусственного интеллекта: правовые и этические аспекты

Размещено на http://www.allbest.ru/

Академия правоохранительных органов при Генеральной прокуратуре Республики Казахстан

Регулирование искусственного интеллекта: правовые и этические аспекты

Калиолла Кабаевич Сейтенов

Астана, Республика Казахстан

Аннотация

В настоящей статье рассматриваются этические вопросы, свя- занные с искусственным интеллектом, ставшие особо актуальными в свете по- явления ChatGPT. Приведены примеры регулирования сферы искусственного интеллекта со стороны Европейского союза, Соединенных Штатов Америки и Китайской Народной Республики. Затронуты проблемы регулирования сфе- ры искусственного интеллекта и возможные причины их возникновения, такие как проблема темпа (pacing problem) и дилемма Коллингриджа (Collingridge dilemma). искусственный интеллект коллингридж

В качестве возможного решения проблем регулирования искусственного ин- теллекта предложено опережающее / предвосхищающее управление (anticipatory governance), так называемые мягкие законы (soft laws) и регуляторные песочни- цы (regulatory sandboxes). Обращено внимание на необходимость решения про- блем низкооплачиваемых работников по всему миру, выполняющих повторяю- щиеся задачи по маркировке и сбору данных для искусственного интеллекта в достаточно тяжелых условиях труда.

Ключевые слова: генеративный искусственный интеллект, ChatGPT, искус- ственный интеллект, большие данные, этика искусственного интеллекта, регу- лирование искусственного интеллекта

Abstract

REGULATION OF ARTIFICIAL INTELLIGENCE: LEGAL AND ETHICAL ASPECTS

Kaliolla Kabaevich Seitenov

Academy of Law Enforcement Agencies under the General Prosecutor's Office of the Republic of Kazakhstan, Astana, Republic of Kazakhstan,

This scientific article examines ethical issues related to artificial intelli- gence, which have become especially relevant in the light of the advent of ChatGPT. Examples of regulation of the field of artificial intelligence by the European Union, the United States of America and the People's Republic of China are given. The prob- lems of regulating the field of artificial intelligence and possible causes of their occur- rence, such as the pacing problem and the Collingridge dilemma, are touched upon.

Anticipatory governance, the so-called "soft laws" and "regulatory sandboxes" have been proposed as a possible solution to the problems of regulating artificial intel- ligence. Attention is also drawn to the need to solve the problems of low-paid workers worldwide who perform repetitive tasks of labeling and collecting data for artificial in- telligence in rather difficult working conditions.

Keywords: generative artificial intelligence, ChatGPT, artificial intelligence, big data, artificial intellect ethics, artificial intelligence regulation

Актуальность искусственного интеллекта (далее - ИИ) трудно переоценить благодаря его способности создавать, формировать новый контент: изображе- ния, тексты и даже музыку. Он имеет множество сфер применения и преиму- ществ в различных отраслях общественной жизнедеятельности: генерация креативного контента, персонализация и рекомендательные системы, расшире- ние данных, виртуальные миры и игры, здравоохранение и поиск лекарств, об- работка естественного языка, творческие инструменты и помощь в проектиро- вании. Указанный перечень не является исчерпывающим, в нем приведены лишь несколько примеров, которые иллюстрируют востребованность генеративного ИИ.

ИИ оказывает значительное влияние во всем мире и на науку, заставляя всех задуматься о его потенциале для повышения эффективности и границ по- знания в научных исследованиях. Исключением не стала судебная экспертология, которая позиционируется в качестве самостоятельной современной науки о су- дебной экспертизе и судебно-экспертной деятельности [1].

Сложившаяся ситуация требует научного осмысления происходящих про- цессов. В этих целях в текущем году была организована диалоговая площадка в г. Астане (Республика Казахстан), где в рамках международной конференции «Искусственный интеллект и большие данные (big data) в судебной и правоох- ранительной системе: реалии и требование времени» представители научного сообщества и практики обменялись знаниями и опытом. Особо отмечены впе- чатляющие возможности и широкое применение современных генеративных систем, к примеру, языковой модели ChatGPT, которые в настоящее время при- влекают все большее внимание представителей судебно-экспертной сферы [2].

Способность ChatGPT проявлять интеллект и интуицию на впечатляющем уровне в различных сценариях, включая кодирование, создание контента и ответы на различные вопросы, демонстрирует мощь этого инструмента ИИ. Используя машинное обучение (machine learning - ML) и обработку естественного языка (natural language processing - NLP), ChatGPT уже доказал свою способность ге- нерировать очень ценный и оригинальный контент. Между прочим, Илон Маск, один из основателей OpenAI (покинувший ее в 2018 г.), выразил удивление в одном из своих твитов, заявив, что мастерство ChatGPT одновременно впе- чатляет и немного нервирует, свидетельствуя о том, что мы приближаемся к потенциально опасному этапу развития ИИ [3].

Особого внимания, по нашему мнению, заслуживают этические проблемы, связанные с ИИ.

Не секрет, что в настоящее время автостроительные компании не будут рис- ковать, выпуская на дороги общего пользования автомобили без встроенных систем безопасности. Однако, по мнению журналиста Melissa Heikkilд с "MIT Technology Review", которая специализируется на теме ИИ, то, что сейчас де- лают компании-разработчики систем ИИ, похоже на производство спортивных авто без ремней безопасности или с не в полную меру функционирующей тор- мозной системой и разрешением возможных проблем по мере их поступления [4]. Представитель медиасообщества задается вопросом: «Почему же то, что не по- зволяют себе автостроители, позволяют себе IT-компании?»

Такое отношение к мерам предосторожности не могло остаться без реакции. В ряде стран начаты расследования в отношении разработчика ставшего широ- ко известным ChatGPT, а также соответствующие кампании Управлением ко- миссара по вопросам конфиденциальности Канады (The Office of the Privacy Commissioner of Canada) [5] и Итальянским управлением по защите данных (Garante per la protezione dei dati personali) [6]. В свою очередь, другие европей- ские государства заняли позицию наблюдателей, ориентируясь на последую- щее принятие мер по итогам расследования в Италии. В отдельных странах (Китай, Сирия, Иран, Северная Корея, Куба) приняты кардинальные меры, по различным причинам заблокирована работа сервиса [7].

Разделяя этические проблемы, связанные с ИИ, на три группы (справедли- вости (fairness), подотчетности (accountability) и прозрачности (transparency), Chiao задается следующими вопросами: «Во-первых, если ИИ опирается на необъективную информацию в ее необработанном виде, можем ли мы дове- рять такой технологии? Во-вторых, кто должен нести ответственность за небла- гоприятные результаты, возникающие в результате использования ИИ? В отли- чие от людей, споры с алгоритмом могут оказаться столь же плодотворными, как споры с холодильником или тостером. И наконец, насколько важно для лю- дей понимать внутреннюю работу алгоритма и какие последствия вытекают из нашего непонимания логики, используемой ИИ в процессе принятия реше- ний?» [8]

В последнее время как на национальном (в Республике Казахстан), так и межгосударственном уровнях (в других странах) активно обсуждается вопрос регулирования ИИ; со стороны ученых и частных лиц поступают предложения относительно введения моратория, реакция на который имеет неоднозначный характер. Отдельные правительственные институты приняли кардинальные ме- ры, установив запрет на ChatGPT, либо соответствующие правила для подоб- ных ботов ИИ, в свою очередь, другие субъекты никаких действий до сих пор не предприняли или могут не предпринять их в целом [9].

Следует отметить, что Европа занимает лидирующие позиции в области разработки законодательства по регулированию ИИ. Так, 11 мая 2023 г. веду- щие комитеты Европейского парламента одобрили Закон об ИИ (AI Act), разра- ботанный два года назад; 8 декабря 2023 г. представители Европейского парламента и Совета ЕС достигли предварительного соглашения по Закону об ИИ, которое будет гарантировать, что основные права, демократия, верховенство закона и экологическая устойчивость защищены от высокого риска ИИ, одновременно стимулируя инновации и делая Европу лидером в этой области. Правила устанавливают обязательства для ИИ исходя из его потенциальных рисков и уровня воздействия. Согласованный текст теперь должен быть официально принят как парламентом, так и Советом, чтобы стать законом ЕС. Парламентские комитеты по внутреннему рынку и гражданским свободам проголосуют по соглашению на предстоящем заседании [10].

"AI Act" служит основной законодательной базой для регулирования ИИ, учи- тывая его потенциальную возможность причинения вреда. Закон был совместно одобрен парламентскими комитетами по гражданским свободам и внутреннему рынку, получив поддержку значительного большинства. Он разделяет компью- терные программы на основе ИИ по трем уровням риска (неприемлемый риск, приложения с высоким уровнем риска, приложения, не запрещенные в явном виде или не отнесенные к категории высокого риска), которые предопределяют различные степени регулирования.

Наряду с вышеуказанным автор книги "Evasive Entrepreneurs" Адам Терье полагает, что инновации в ИИ, появившиеся в США, никогда не найдут своего места в Европе в связи с отсутствием соответствующих законов: европейский подход к регулированию ИИ лишь укрепит власть глобальных IT-гигантов, пото- му что лишь они могут содержать юридические подразделения, способные при- вести все в соответствие с нормами "AI Act" [11].

Учитывая высокий уровень ажиотажа, образовавшегося вокруг генеративного ИИ, чат-ботов и достигшего апогея, США, которые до настоящего времени позицио- нировались своего рода тихой гаванью для инноваций в области ИИ, наряду с либеральным подходом к регулированию данной сферы предпринимают предварительные шаги по установлению правил для инструментов ИИ. В апре- ле 2023 г. министерство торговли объявило о том, что оно официально просит общественность высказать замечания по поводу того, как создать меры подот- четности для ИИ, и оказать помощь американским политикам по определению подходов к этой технологии [12].

В данном направлении Белым домом предложен Билль о правах ИИ (Blueprint for an AI Bill of Rights), где отражены пять принципов предотвращения дискриминации, защиты конфиденциальности и безопасности пользователей. Национальным институтом стандартов и технологий (National Institute of Standards and Technology, NIST) выпущена рамочная программа управления рисками ИИ (AI risk management framework).

В указанном аспекте хотелось бы отметить, что NIST совместно с OSAC (Ор- ганизация научных комитетов по судебной экспертизе) проводит полномас- штабную работу по разработке национальных стандартов в области Forensic Science в рамках следующих направлений, где планируется учитывать тенден- ции по использованию ИИ: Drugs & toxicology; Firearms and toolmarks; Forensic biometrics; Forensic genetics; Trace evidence. Однако до сих пор Вашингтон при- менял добровольный подход к соблюдению требований, в то время как эксперты говорят о необходимости более обязательного подхода к регулированию ИИ [13].

Проект закона под названием «Административные меры для услуг генера- тивного искусственного интеллекта (Administrative Measures for Generative Artificial Intelligence Services)», опубликованный Администрацией киберпро- странства Китая (Cyberspace Administration of China), гласит, что национальные агентства по регулированию Интернета должны провести оценку безопасности, прежде чем предлагать общественности продукты генеративного ИИ. Цель за- кона - обеспечить ответственное и регулируемое использование технологии генеративного ИИ для его здорового развития. Контент, создаваемый ИИ, дол- жен соответствовать основным социалистическим ценностям и не содержать материалов, бросающих вызов государственной власти. Кроме того, он не дол- жен содержать террористическую или экстремистскую пропаганду, поощрять этническую ненависть или любой другой контент, способный нарушить эконо- мическую и социальную стабильность [14].

Таким образом, можно констатировать, что управление ИИ во всем мире но- сит фрагментарный характер. Существует множество инициатив в этой области, включая этические кодексы и принципы ответственного использования ИИ, но они не имеют обязательной силы. В перспективном плане указанная про- блема регулирования будет сохраняться, поскольку зиждется на двух вопросах, лежащих в основе управления всеми новыми технологиями (от синтетической биологии до криптовалют), и не поддается простым решениям. Это проблема темпа (pacing problem) и дилемма Коллингриджа (Collingridge dilemma), которые находят отражение в сфере судебно-экспертной деятельности.

Проблема темпа. Сфера применения, внедрения и распространения техно- логий развивается быстро, имеет универсальный характер, в то время как регу- лирование, законы, нормативные акты разрабатываются и принимаются мед- леннее, зависят от конкретной страны. Данную тенденцию можно охарактеризо- вать процессом, в котором регулирование догоняет технологии.

Разработка глобального регулирования требует огромного количества вре- мени и усилий и не во всех случаях достигает успеха. Такое несоответствие на- зывается проблемой темпа. Кроме того, она усиливается комбинаторными ин- новациями, когда технологические и развивающие возможности быстро и сим- биотически наращиваются друг на друга для ускорения инноваций.

Дилемма Коллингриджа. Дэвид Коллингридж представил концепцию, из- вестную сегодня как дилемма Коллингриджа, заключающаяся в следующем. Регулирование технологии на начальных этапах внедрения, когда потенциаль- ные опасности еще неочевидны, является легкой задачей, но становится слож- нее к тому времени, когда такие опасности выявлены. «Раннее регулирование, скорее всего, будет слишком ограничительным для дальнейшего развития и внедрения, в то время как регулирование на более зрелой стадии может быть ограничено в своей эффективности и способности предотвращать несчастные случаи» [9].

Решение проблем регулирования ИИ возможно следующими способами. В целом отдельные способы решения проблемы темпа и дилеммы Коллингрид- жа включают в себя опережающее, предвосхищающее управление (anticipatory governance), так называемые мягкие законы (soft laws) и регуляторные песочни- цы (regulatory sandboxes).

Под предвосхищающим управлением понимается концепция и практика, при которых используется предвидение грядущих событий для руководства политикой и практикой в настоящем. Субъекты могут предвидеть лучше, если они ре- гулярно и содержательно взаимодействуют с заинтересованными сторонами и имеют гибкое управление.

В свою очередь, мягкие законы включают добровольные руководства, стан- дарты, установленные промышленностью, а также принципы и механизмы, раз- работанные на основе консенсуса (нередко при косвенной роли регулирующих органов). Такая мера может не обладать юридической силой, но она проводит четкую грань между тем, что можно и что нельзя делать, предоставляя возмож- ность дополнения нормативных актов.

Что касается «регуляторной песочницы», в ней отмечены инструменты, по- зволяющие новаторам экспериментировать с новыми продуктами или услугами под надзором регулятора, который понимает технологию, сферу применения, а также имеет представление о возможностях выбора данной меры.

Принятие вышеуказанных стратегий поможет решить проблему темпа и ди- лемму Коллингриджа, а также предоставит регулирующим органам условия для осуществления контроля, установления предсказуемости в отношении ИИ. Од- нако предсказать эффективность и исключительность такого решения на дан- ном моменте является сложным [9].

В заключение хотелось бы обратить внимание исследователей и политиков на проблемы не только виртуального плана, но и реального мира.

Для любой технологической компании характерно наличие разных категорий работников по функционалу, к примеру, маркировщики данных, водители дос- тавки, модераторы контента и др. По данным исследователей, в затрагиваемой сфере общественных отношений технологический прогресс в области ИИ под- питывается миллионами низкооплачиваемых работников по всему миру, кото- рые выполняют повторяющиеся задачи в тяжелых условиях труда при низком уровне заработной платы (в отличие от исследователей ИИ, получающих шес- тизначные зарплаты в корпорациях Кремниевой долины). Такие работники час- то нанимаются на работу из бедных слоев населения за 1,46 долл./ч после уп- латы налогов. Несмотря на имеющиеся обстоятельства, эксплуатация труда не занимает центральное место в дискуссии вокруг этической разработки и вне- дрения систем ИИ. В одном из научных трудов Adrienne Williams в соавторстве с другими исследователями приводит примеры трудовой эксплуатации, лежа- щей в основе так называемых систем ИИ. Он поднимает вопрос поддержки уси- лий по организации транснациональных рабочих как основного приоритета в дискуссиях, касающихся этики ИИ.

В то время как исследователи различных аспектов затрагиваемого вопроса (ИИ, ориентированный на человека, ИИ для социального блага, этичный ИИ) в основном сосредоточены на «очистке» данных, обеспечении прозрачности и справедливости моделей, полагаем необходимым разрешить ситуацию, свя- занную с прекращением эксплуатации труда в индустрии ИИ, которая не должна оставаться вне поля внимания исследователей и политиков [15].

Применительно к судебно-экспертной деятельности это означает, что вопро- сы этики и правового регулирования ИИ должны охватывать не только судебно- экспертное производство (так называемый оперативный состав СЭУ), но и во- просы научно-методического обеспечения, связанные с разработкой прогрессивной методологии, информационного обеспечения (интегрированных баз зна- ний), кадрового обеспечения (технологии внедрения актуальных профессио- нальных компетенций), организационного обеспечения (создание и правовое регулирование деятельности различных типов организаций и учреждений, фор- мирование системы менеджмента качества СЭУ), финансового обеспечения, нацеленных на модернизацию моделей финансово-хозяйственной деятельно- сти и др.

Список источников

1. The hype and the reality of using generative AI in sales.

2. Генеральный прокурор принял участие в Международной конференции по вопросам использования искусственного интеллекта в правоприменительной практике // Генеральная прокуратура Республики Казахстан: офиц. сайт.

3. Is ChatGPT worthy of all the hype?

4. Heikkilд A Cambridge analytica-style scandal for AI is coming.

5. Announcement: OPC launches investigation into ChatGPT // Office of the Pri- vacy Commissioner of Canada.

6. Intelligenza artificiale: il Garante blocca ChatGPT. Raccolta illecita di dati per- sonali. Assenza di sistemi per la verifica dell'etа dei minori // Garante per la protezi- one dei dati personali.

7. Martindale J. These are the countries where ChatGPT is currently banned.

8. Chiao V. Fairness, accountability and transparency: notes on algorithmic deci- sion-making in criminal justice // International Journal of Law in Context. 2019. Vol. 15, iss. 2. P. 126-139.

9. Srinivas K. R. Two reasons AI is hard to regulate: the pacing problem and the Collingridge dilemma.

10. Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI // European Parliament.

11. Thierer A. Why the future of AI will not be invented in Europe. Technology liberation front.

12. Bhuiyan J. `We have to move fast': US looks to establish rules for artificial in- telligence.

13. The global race to regulate AI.

14. China to require 'security assessment' for new AI products: draft law.

15. Williams A., Miceli M., Gebru T. The exploited labor behind artificial intelli- gence.

References

1. The hype and the reality of using generative AI in sales.

2. The Attorney-General participated in the International conference on the use of artificial intelligence in law enforcement.

3. Is ChatGPT worthy of all the hype?

4. Heikkilд A Cambridge analytica-style scandal for AI is coming.

5. Announcement: OPC launches investigation into ChatGPT.

6. Intelligenza artificiale: il Garante blocca ChatGPT. Raccolta illecita di dati per- sonali. Assenza di sistemi per la verifica dell'etа dei minori.

7. Martindale J. These are the countries where ChatGPT is currently banned.

8. Chiao V. Fairness, accountability and transparency: notes on algorithmic deci- sion-making in criminal justice. International Journal of Law in Context, 126-139, 2019. (In Eng.).

9. Srinivas K. R. Two reasons AI is hard to regulate: the pacing problem and the Collingridge dilemma.

10. Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI.

11. Thierer A. Why the future of AI will not be invented in Europe. Technology lib- eration front.

12. Bhuiyan J. `We have to move fast': US looks to establish rules for artificial in- telligence.

13. The global race to regulate AI.

14. China to require 'security assessment' for new AI products: draft law.

15. Williams A., Miceli M., Gebru T. The exploited labor behind artificial intelli- gence.

Размещено на Allbest.ru