Обработка данных при помощи искусственного интеллекта и риски дискриминации

Таким образом, американский вариант представляет собой развитие преимущественно технического регулирования без жесткого законодательства. Примерно в том же ключе выстраивается понимание проблематики в Австралии. Комиссия по правам человека Австралии (the Australian Human Rights Commission) в марте 2021 года представила доклад «Human Rights and Technology»¹⁰. Принципы этики искусственного интеллекта, разработанные правительством Австралии, гласят, что системы искусственного интеллекта не должны приводить к несправедливой дискриминации. В принципах признается ответственность тех, кто участвует в принятии решений на основе искусственного интеллекта, чтобы гарантировать, что эти решения соответствуют антидискриминационным законам.

В качестве решения проблемы алгоритмической предвзятости в докладе предлагается расширить подотчетность принятия решений на основе искусственного интеллекта. Кроме того, может возникнуть необходимость в более целенаправленной реформе антидискриминационного законодательства, чтобы решить такие вопросы, как воздействие зависимости от конкретного фактора или комбинации факторов на защищенные признаки, и каким образом это может быть связано с правовыми концепциями прямой и косвенной дискриминации. Также необходимо изучить, как конкретные методы деятельности искусственного интеллекта, такие как предиктивные алгоритмы машинного обучения, могут привести к новым формам дискриминации посредством установления связей на основе множества точек данных. В итоге констатируется необходимость разработки руководства для правительственных и неправительственных организаций по соблюдению федеральных антидискриминационных законов при принятии решений на основе искусственного интеллекта.

Как видим, в силу инновационного характера искусственного интеллекта пока ни одно государство не выработало окончательной позиции и четких правил его антидискриминационного функционирования. Напомним, что в России использование искусственного интеллекта не регулируется специально, существуют только нормы законодательства о защите персональных данных, которые необходимо соблюдать, в том числе при использовании цифровых технологий. При этом в российской науке проблемы дискриминации при применении искусственного интеллекта практически не поднимаются.

Наконец, для полноты картины обратимся к международному уровню. Совет по правам человека ООН (Human Rights Council) принял по итогам своей 47-й сессии Резолюцию о поощрении, защите и осуществлении прав человека в Интернете¹¹ (июль 2021 г.). Данный документ ООН связан с конкретной ситуацией блокировок Интернета в Мьянме и разработан с целью осуждения практики блокировок Интернета и онлайн-цензуры; при этом в тексте многократно упоминается дискриминация. Резолюция призывает все государства активизировать усилия по преодолению цифрового разрыва, включая гендерный цифровой разрыв, и расширить использование информационно-коммуникационных технологий в целях содействия осуществлению прав человека для всех, в том числе путем содействия созданию благоприятной онлайновой среды, безопасной и способствующей участию всех без какой-либо дискриминации и с учетом интересов лиц, сталкивающихся с систематическим неравенством (systemic inequalities). Системный характер дискриминации, действительно, является наиболее опасным последствием применения искусственного интеллекта, в силу чего актуализируется необходимость полноценного урегулирования и контроля качества данных, используемых для обучения искусственного интеллекта.

Заключение

Обработка данных искусственным интеллектом, с одной стороны, повторяет, имитирует человеческую деятельность (и в этом смысле воспроизводит все человеческие предвзятости), но, с другой стороны, способна игнорировать нормативные препоны в виде декларативных призывов к недискриминации. Это означает, что законодательство, которое в будущем сложится в отноше-нии использования искусственного интеллекта, должно среди прочего учитывать и нейтрализовать риски дискриминации, сочетая при этом правовые и технические подходы. Предлагаемые параметры и критерии алгоритмической обработки должны пройти правовую экспертизу на предмет возможной дискриминации, это относится как к отбору данных для обучения, так и непосредственно к разработке алгоритма. Вероятно, потребуется специальная сертификация со стороны государства разрабатываемых алгоритмов (она может быть шире по предмету, но антидискриминационная оценка должна стать составной частью). Наконец, самое сложное -- приоткрыть «черный ящик», сделать алгоритмы понятными и доступными, в том числе для судебного обжалования принятых на их основе конкретных решений.

Список источников

I. Бартенев Д . Г Запрет дискриминации: практический обзор подходов Европейского суда по правам человека // Международное правосудие . 2019 . № 1. С . 43-66.

2 . Лапаева В . В . Правовой принцип формального равенства // Журнал российского права . 2008 . № 2 . С.67-80 .

3 . Нерсесянц В . С . К праву. О происхождении равенства (из неопубликованного) // История государства и права . 2009. № 17 . С . 2-7 .

4 . Романовский В . Г Профилирование террористов и конституционная защита прав человека // Конституционное и муниципальное право . 2020 . № 10 . С . 46-50 .

5 . Barocas S . , Selbst A . D . Big Data's disparate impact . California Law Review, 2016, vol. 104, pp . 671-732 .

6 . Bosco F , Creemers N . , Ferraris V et al . Profiling Technologies and Fundamental Rights and Values: Regulatory Challenges and Perspectives from European Data Protection Authorities / S . Gutwirth, R . Leenes, P de Hert (eds . ) . Reforming European Data Protection Law. Berlin: Springer, 2014, pp . 3-33 .

7 . Bygrave L . A . Data protection law: Approaching its rationale, logic and limits . The Hague: Kluwer Law International, 2002, 456 р .

8 . Feldman E . A . , Quick E . Genetic Discrimination in the United States: What State and National Government Are Doing to Protect Personal Information / Khoury L . , Blackett A . , Vanhonnaeker L . (eds . ) . Genetic Testing and the Governance of Risk in the Contemporary Economy. Berlin: Springer, 2020, pр . 331-354.

9 . G'sell F Les progres a petits pas de la «justice predictive» en France . ERA Forum, 2020, vol . 21, pp . 299-310 .

10 . Hildebrandt M . Profiling and AML / K . Rannenberg, D . Royer, A . Deuker (eds . ) . The Future of Identity in the Information Society. Challenges and Opportunities . Heidelberg: Springer, 2009, pр . 273-310 .

II. Khoury L . , Blackett A . , Vanhonnaeker L . Legal Aspects of Genetic Testing Regarding Insurance and Employment . General Report / Khoury L . et al (eds . ) . Genetic Testing and the Governance of Risk in the Contemporary Economy, Ius Comparatum -- Global Studies in Comparative Law 34 . Berlin: Springer, 2020, pр . 3-67 .

12 . Mine M . Les concepts de discrimination directe et indirecte . ERA Forum, 2003, vol . 4, pp 30-44

13 . Nomper A . Geenitestide oiguslikust regulatsioonist . Juridica II, 2001, pp . 113-123 .

14 . Pormeister K . The Prohibitions Against Genetic Discrimination in Estonia / Khoury L . , Blackett A . , Vanhonnaeker L . (eds . ) . Genetic Testing and the Governance of Risk in the Contemporary Economy. Berlin: Springer, 2020, pp . 179-191.

15 . Regan J . New Zealand passport robot tells applicant of Asian descent to open eyes, 2016 . Available at: URL: www. reuters . com/article/us-newzealand-passport-error/new- zealand-passportrobot-tells-applicant-of-asian-descent-to-open-eyes-idUSKBN- 13W0RL (дата обращения: 17.02.2022) .

16 . Rouvroy A . , Poullet Y The right to informational self-determination and the value of self-development . Reassessing the importance of privacy for democracy / S . Gutwirth et al . (eds . ) . Reinventing Data Protection? Dordrecht: Springer, 2009, pp . 45-76.

17 . Tischbirek А . Artificial Intelligence and Discrimination: Discriminating Against Discriminatory Systems / Th . Wischmeyer, T. Rademacher. Regulating Artificial Intelligence . Berlin: Springer, 2020, pp . 103-121.

18 . Zuiderveen Borgesius F. Discrimination, intelligence artificielle et decisions algorith- miques . Etude a l'intention du Service anti-discrimination du Conseil de l'Europe . Strasbourg: Conseil de l'Europe, 2018, 51 p .

References

1. Barocas S . , Selbst A . D . (2016) Big Data's disparate impact . California Law Review. Vol . 104, pp . 671-732 . DOI: http://dx . doi . org/10 . 15779/Z38BG31

2 . Bartenev D . G . (2019) Forbidding discrimination: the review of the approaches of the ECHR . Mezhdunarodnoe pravosudie=International Justice, no 1, pp . 43-66. (in Russ . ) .

3 . Bosco F. , Creemers N . , Ferraris V et al . (2014) Profiling Technologies and Fundamental Rights and Values: Regulatory Challenges and Perspectives from European Data Protection Authorities . S . Gutwirth, R . Leenes, P de Hert (eds . ) . Reforming European Data Protection Law Berlin: Springer, pp 3-33

4 Bygrave L A (2002) Data protection law: Approaching its rationale, logic and limits The Hague: Kluwer Law International, 456 p .

5 . Feldman E . A . , Quick E . (2020) Genetic Discrimination in the United States: What State and National Government Are Doing to Protect Personal Information . Khoury L . , Blackett A . , Vanhonnaeker L . (eds . ) . Genetic Testing and the Governance of Risk in the Contemporary Economy. Berlin: Springer, pp . 331-354.

6 . G'sell F. (2020) Les progres a petits pas de la «justice predictive» en France . ERA Forum . Vol . 21, pp . 299-310 . DOI 10. 1007/s12027-020-00618-6.

7 . Hildebrandt M . (2009) Profiling and AML . In: K . Rannenberg, D . Royer, A . Deuker (eds . ) . The Future of Identity in the Information Society. Challenges and Opportunities. Heidelberg: Springer,p p . 273-310 .

8 . Khoury L . , Blackett A . , Vanhonnaeker L . (2020) Legal Aspects of Genetic Testing Regarding Insurance and Employment . General Report . Khoury L . et al (eds . ), Genetic Testing and the Governance of Risk in the Contemporary Economy, Ius Comparatum -- Global Studies in Comparative Law 34, https://doi . org/10,1007/978-3-030-43699-5_1. Berlin: Springer, pp 3-67

9 . Lapaeva V V. (2008) The Principle of Formal Equality. Zhurnalrossijskogoprava=Russian Law Journal no 2, pp 67-80 (in Russ )

10 . Mine M . (2003) Les concepts de discrimination directe et indirecte . ERA Forum. Vol 4, pp 30-44 11. Nersesyants V. S . (2009) Towards law. About the origin of equality (from the unpublished) . Istoriya gosudarstva i prava=History of State and Law, no 17, pp . 2-7 (in Russ . ) .

12 . Nomper A . (2001) Geenitestide oiguslikust regulatsioonist . Juridica II, pp . 113-123 .

13 . Pormeister K . (2020) The Prohibitions Against Genetic Discrimination in Estonia . Khoury L . , Blackett A . , Vanhonnaeker L . (eds . ) . Genetic Testing and the Governance of Risk in the Contemporary Economy. Berlin: Springer, pp . 179-191.

14 . Regan J . (2016) New Zealand passport robot tells applicant of Asian descent to open eyes . Available at . www reuters . com/article/us-newzealand-passport-error/new-zea- land-passportrobot-tells-applicant-of-asian-descent-to-open-eyes-idUSKBN13W0RL (accessed: 17 February 2022)

15 . Romanovskiy V G . (2020) Profiling Terrorists and Human Rights Constitutional Protection . Konstitutsionnoe i municipal'noe pravo=Constitutional and Municipal Law, no 10, pp . 46-50. (in Russ . )

16 . Rouvroy A . , Poullet Y (2009) The right to informational self-determination and the value of self-development . Reassessing the importance of privacy for democracy S . Gut- wirth et al . (eds . ) . Reinventing Data Protection? Dordrecht: Springer, pp . 45-76 .

17 . Tischbirek А . (2020) Artificial Intelligence and Discrimination: Discriminating Against Discriminatory Systems . Th . Wischmeyer, T. Rademacher. Regulating Artificial Intelligence . Springer pp . 103-121. https://doi . org/10.1007/978-3-030-32361-5

18 . Zuiderveen Borgesius F. (2018) Discrimination, intelligence artificielle et decisions al- gorithmiques. Etude a l'intention du Service anti-discrimination du Conseil de l'Europe. Strasbourg: Conseil de l'Europe . 51 p .

Размещено на Allbest.ru