Великі дані як загроза праву людини на недискримінацію

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Національний університет «Львівська політехніка»

Великі дані як загроза праву людини на недискримінацію

Конюш М.Р.,

магістрант кафедри міжнародної інформації

Анотація

У статті розкрито проблему важливості і необхідності модернізації та адаптації права на недискримінацію в еру Великих даних та автоматизованих систем обробки даних. Запропоновано низку підходів, які потенційно можуть полегшити вирішення цієї проблеми, зокрема щодо попередньої та подальшої обробки даних. Проаналізовано концепцію «коду як права», яка допомагає краще зрозуміти вплив цифрових технологій на дискримінацію і знайти нові способи для протидії цьому явищу.

Ключові слова: дискримінація, Великі дані, «код як право», цифровий розрив.

Abstract

This article reveals the problem of the importance and necessity of modernization and adaptation of the right to non-discrimination in the era of Big data and automated data processing systems. A number of approaches that could potentially facilitate the solution of this problem is proposed, in particular with regard to pre - and post-processing of data. The concept of «code as law» is analyzed, which helps to understand the impact of digital technologies on discrimination and to find new ways to combat this phenomenon.

Keywords: discrimination, Big data, «code as law», digital divide.

Аннотация

В данной статье раскрыта проблема важности и необходимости модернизации и адаптации права на недискриминацию в эру Больших данных и автоматизированных систем обработки данных. Предложен ряд подходов, которые могут облегчить решение этой проблемы, в частности относительно предыдущей и последующей обработки данных. Проанализирована концепция «кода как права», которая помогает лучше понять влияние цифровых технологий на дискриминацию и найти новые способы противодействия этому явлению.

Ключевые слова: дискриминация, Большие данные, «код как право», цифровой разрыв.

Основна частина

Постановка проблеми. Розвиток системи прав людини у теперішньому швидкоплинному світі пов'язаний як із глобалізацією, так і з надзвичайно швидким удосконаленням різного роду інформаційних та комунікаційних технологій. Упродовж останніх декількох десятків років з'явилася необхідність правового захисту людини не лише у реальному світі, але й у мережі. З-поміж багатьох інших прав це стосується також і права на недискримінацію. Саме це право означає надання індивіду низки можливостей, важливих для нормального життя у сучасному суспільстві, які закріплені у більшості правових систем розвинених держав.

Завдяки розвитку технологій, які набули назву «Великі дані» (англ. - Big data) з часом проблема дискримінації може стати настільки ж масштабною, як і забруднення довкілля, особливо якщо вчасно не звертати на це увагу та не перейматися забезпеченням права осіб на недискримінацію у новому цифровому оточенні.

Метою статті є окреслення історії утвердження права на недискримінацію у системі прав людини та міжнародних документах, охарактеризування впливу Великих даних на це право, а також визначення потенційних шляхів вирішення проблеми дискримінації в сучасну епоху.

Результати аналізу досліджень і публікацій. Принцип недискримінації у своїх роботах досліджували багато вчених, зокрема О. Банчук, О. Васильченко, П. Рабінович, Г. Христова, С. Шевчук, О. Панкевич, С. Погребняк, З. Равлінко та інші. Однак у контексті застосування сучасних технологій та трансформації інформаційних відносин цей принцип досліджено недостаньо. Зважаючи на наявні тренди в інформаційній сфері, доцільним є вивчення реального і потенційного впливу Великих даних на право людини на недискримінацію.

Право на недискримінацію у міжнародних документах. Перш ніж розпочати обговорення права на рівність та недискримінацію, важливо розглянути саму концепцію дискримінації та її взаємозв'язок з принципом недискримінації. Загальновизнано, що рівність та недискримінація є позитивним та негативним твердженнями одного принципу. Інакше кажучи, рівність можна визначити як відсутність дискримінації та дотримання принципу недискримінації поміж усіма соціальними групами. Основною метою даного принципу є надання всім людям рівних та справедливих можливостей, доступних кожному [17].

До 1945 р. заборона дискримінації регулювалася лише так званими договорами про меншини (наприклад, Малий Версальський договір від 1919 р., укладений для захисту польських етнічних меншин у післявоєнний період [7]). Проте з прийняттям Статуту ООН положення про недискримінацію стало загальновизнаним елементом міжнародного права. Ідеї про те, що ООН повинна стати міжнародним захисником прав людей, виникла і утвердилася після трагічного досвіду Другої Світової війни та жахливих і масових порушень прав людини.

Важливим кроком світового співтовариства на шляху до мінімізації проявів дискримінації можна вважати прийняття Загальної декларації прав людини у 1948 р. [3]. Основні моменти щодо захисту від дискримінації були окреслені у її ст. 7, яка закріпила право людини на захист від дискримінації, а також у п. 2 ст. 23, котра гарантувала право на працю з гідною оплатою без будь-якої дискримінації.

Згодом у 1950 р. була прийнята Конвенція про захист прав та основоположних свобод [5], у ст. 14 якої визначені основні ознаки, що підпадають під захист від дискримінації, а саме: стать, раса, колір шкіри, мова, релігія, політичні чи інші переконання, національне чи соціальне походження, приналежність до національної меншини, майновий стан та низка інших ознак. Пізніше вона була доповнена положеннями Протоколу №12, ст. 1 якого встановлює загальну заборону будь якої дискримінації [9].

У Європейському Союзі прояви дискримінації за національною ознакою та ознакою статі були заборонені установчими договорами, інші ж підстави дискримінації були додані після підписання Амстердамського договору від 1997 р. [1]. У теперішній час Договір про функціонування ЄС [2] забороняє будь-яку дискримінацію за ознаками національності, статі, раси, етнічного походження, релігії чи переконань, інвалідності, віку та сексуальної орієнтації. Також принцип недискримінації закріплений у ст. 21 Хартії Європейського Союзу про основні права від 2000 р. [11].

Не менш важливими інструментами є міжнародні договори та інші документи, які стосуються протидії дискримінації найуразливіших груп населення. З-поміж них можна виділити Конвенцію про права осіб з інвалідністю від 2007 р. [6], Міжнародну конвенцію про ліквідацію всіх форм расової дискримінації від 1965 р. [8], Конвенцію ООН про ліквідацію всіх форм дискримінації щодо жінок від 1979 р. [4], а також Стратегію Європейської Комісії щодо ЛГБТ від 2020 р. [10].

Великі дані. Великі дані - це загальна назва структурованих та неструктурованих даних у значних обсягах (що підлягають обробці та аналізу не лише програмними інструментами, але й різного роду аналітиками у значно менших обсягах), які прийшли на заміну традиційним структурам керування базами даних наприкінці 2000-х рр. [12]. Терміном «Великі дані» прийнято описувати обробку великих масивів різноманітної інформації зі складною, неоднорідною або взагалі невизначеною структурою. Ця інформація може бути структурована або неструктурована [13]. Оскільки ми живемо у «мережевому світі», кількість структурованих числових та неструктурованих даних невпинно збільшується.

Одним з найтривожніших аспектів використання Великих даних є зростання ризиків щодо їх застосування з метою дискримінації людей. Варто зазначити, що дискримінація певною мірою корелюється з нерівністю, адже шкода, спричинена дискримінацією, часто призводить до нерівності. Іншим важливим моментом у дослідженні цієї проблеми є потенційна неготовність правових систем до боротьби з дискримінацією, яка виникає чи багатократно збільшується внаслідок використання Великих даних.

Ці небезпеки висвітлені у звіті Білого Дому про впровадження антидискримінаційної політики в моделях статистичного моделювання [21]. Зокрема, у ньому йдеться про проблеми використання алгоритмів та статистичних моделей при наявності таких характеристик як раса, стать, вік; доцільність заборони збору даних про расу та стать для використання у сфері іпотеки та страхування; впровадження прозорої системи роботи алгоритмів.

Надзвичайно важливим фактором також є цифровий розрив (або цифрова нерівність) [14], який утворюється через недостатній рівень фінансового забезпечення разом з неможливістю отримати сучасний пристрій для доступу до мережі, а також через високу ціну на доступ до мережі.

Враховуючи вищезазначене, можна виділити окремі загрози у сфері дискримінації, зумовлені поширенням Великих даних:

• мережа може стати упередженою щодо певних груп людей [16];

• предикативна функція Великих даних для попередження злочинів може дискримінувати частіше одну групу населення через значну кількість схожих порушень у цієї групи [15].

Підходи до вирішення проблеми дискримінації, зумовленої використанням Великих даних. Зважаючи на масштабність проблеми, окремі спеціалісти та дослідники вже зараз пропонують її практичні рішення. Найчастіше йдеться про розробку методу, який допомагав би розпізнавати та усувати дискримінацію. Зокрема, можна застосувати методи:

• попередньої обробки даних, які виключатимуть можливість створення нової моделі дискримінації;

• подальшої обробки даних, які проводитимуть певний аудит даних для виявлення потенційних дискримінаційних моделей [19].

Запровадження більш «прозорих процесів» збирання даних може допомогти уникати завданню шкоди та несправедливості. Для імплементації зазначених процесів збирання даних потрібно розробляти нові методи інтелектуального аналізу даних, що включають створення нового алгоритму та обґрунтування логічності кроків для простеження того, як поведінка й вибір людини будуть інтерпретовані алгоритмом.

Іншим потенційно можливим способом вирішення проблеми можна вважати вдосконалення системи збереження конфіденційності та способів отримання інформації, адже дискримінацію важко повністю викорінити, якщо в систему інтегрована модель, яка виключає конфіденційність інформації [18].

Щодо правового регулювання, то його потрібно здійснювати з урахуванням особливостей програмного та апаратного забезпечення, які самі собою можуть чинити значний вплив на суспільні відносини. Інакше кажучи, технічні засоби можуть посилювати або послаблювати ефективність правового регулювання. Як у свій час зазначав Л. Лессінг, «код - це право» [20], тобто програмний код як елемент архітектури Інтернету здатен певною мірою обмежувати дії людини або схиляти їх у певному напрямку.

Проте, на відміну від звичних традиційних правових норм, які вказують на можливість чи необхідність певної дії, включаючи утримання від неї, особливості коду та апаратного забезпечення безпосередньо визначають поле можливого і виключають будь-яке втручання третіх сторін у прийняття рішення щодо поведінки особи. Яскравим прикладом регулювання кодом є біткойн або будь-яка інша криптовалюта. Це фінансові системи, які функціонують на основі строгих правил, що закладені безпосередньо у коді. Якщо ж говорити про дискримінацію, що є наслідком роботи алгоритму або коду, то такі випадки зустрічаються при використанні автоматичних систем фіксації порушень у великих містах. Наприклад, об'єктом уваги алгоритму щодо пошуку підозрюваних у скоєнні правопорушень частіше стають афроамериканці [16].

Зміни, які відбуваються у сучасному глобалізованому світі, із кожним новим стрибком у технологічному прогресі створюють нові виклики як для суспільства, так і для права, головною функцією якого є врегулювання суспільних відносин. З - поміж них важливе місце займає проблема дискримінації, особливо у контексті поширення Великих даних та процесів, коли автоматизовані системи змінюють та витісняють людей з певних галузей прийняття рішень.

Незважаючи на те, що західні дослідники приділяють цій проблемі багато уваги, і напрямки, у котрих вони рухаються, дають підстави сподіватися на краще, все ж досі існує вірогідність зіткнутися зі значними труднощами у процесі розробки і упровадження механізмів, покликаних зменшити ймовірність дискримінаційних проявів, спричинених Великими даними.

По-перше, не дивлячись на спроби адаптуватися до викликів, пов'язаних з дискримінацією, виникають суперечки щодо того, чи зможе алгоритм або код убезпечити від таких проявів, і наскільки такі ініціативи сумісні з принципом прозорості правового регулювання, а також із принципом свободи особи.

По-друге, залишається відкритим питання, наскільки ефективним буде таке регулювання і чи не породить воно збільшення дискримінації у інших сферах.

По-третє, необхідно з'ясувати, чи можливо створити і адаптувати алгоритм, який міг би ефективно, чітко та швидко приймати правильні рішення без необхідності сторонньої допомоги - спеціаліста, який за потреби вносив би правки або вручну вводив би рішення для остаточного врегулювання ситуації.

Використана література

право недискримінація автоматизований

1. Амстердамський договір від 1997 р. URL: https://pidru4niki.com/201510n66769/politolog iya/amsterdamskiy_dogovir

2. Договір про функціонування Європейського Союзу від 1957 р. URL: https://zakon.rada. gov.ua/laws/show/994_017#T ext

3. Загальна декларація прав людини: Резолюція ООН від 1948 р. URL: https://zakon.rada. gov.ua/laws/show/995_015#Text

4. Про ліквідацію всіх форм дискримінації щодо жінок: Конвенція ООН від 1979 р. URL: https://zakon.rada.gov. Ua/laws/show/995_207#Text

5. Про захист прав та основоположних свобод: Конвенція ООН від 1950 р. URL: https://zakon. rada.gov.ua/laws/show/995_004#Text

6. Про права людей з інвалідністю: Конвенція ООН від 2006 р. URL: https://zakon.rada.gov. ua/laws/ show/995_g71#T ext

7. Малий Версальський договір від 1919 р. URL: https://uk.wikipedia.org/wiki/Малий_ Версальський _договір

8. Про ліквідацію всіх форм расової дискримінації: Конвенція ООН від 1965 р. URL: https://zakon.rada.gov. Ua/laws/show/995_105#Text

9. Протокол №12 до Конвенції про захист прав людини та основоположних свобод від 2006 р. URL: https://zakon.rada.gov. Ua/laws/show/994_537#Text

10. Стратегія рівності ЛГБТ 2020-2025 від 2020 р. URL: https://ec.europa.eu/info/polic ies/justice-and-fundamental-rights/combatting-discrimination/lesbian-gay-bi-trans-and-intersex-equali ty/lgbtiq-equality-strategy-2020-2025_en

11. Про основні права: Хартія Європейського Союзу від 2000 р. URL: https://zakon.rada. gov.ua/laws/show/994_524#Text

12. Шаховська Н.Б., Болюбаш Ю.Я. Модель Великих даних «сутність - характеристика». Вісник Національного університету «Львівська політехніка». Серія: «Інформаційні системи та мережі». 2015. №814. С. 186-196.

13. Брижко В.М., Фурашев В.М. Конвергенція новітніх технологій: стан і перспективи змін у інформаційних відносинах. Інформація і право. №1 (20)/2017. С. 51-67.

14. Barocas S., Selbst A. Big Data's Disparate Impact. California Law Review. 2016. 104.

P. 671-732. URL: https://ssrn.com/abstract=2477899

15. Burgess M. UK police are using AI to inform custodial decisions - but it could de discriminating against the poor. Wired. 2018. URL: https://www.wired.co.uk/article/police-ai-uk-dur ham-hart-checkpoint-algorithm-edit

16. Courtland R. Bias detectives: the researches striving to make algorithms fair. Nature. 2018.

P. 357-360. URL: https://www.nature.com/articles/d41586-018-05469-3

17. Glossary of summaries: non-discrimination principle. URL: https://eur-lex.europa.eu/sum mary/glossary/nondiscrimination_principle.html

18. Hildebrandt M., Kroops B-J. The challenges of ambient law and legal protection in the profiling era. The Modern Law Review. 2010. P. 273-307. URL: https://www.academia.edu/702736/ The_challenge s_of_ambi ent_l aw_and_legal_protecti on_i n_the_profiling_era

19. Kamiran F., Zliobaite I., Calders T. Quantifying explainable discrimination and removing illegal discrimination in automated decision making. Knowledge and Information Systems. 2013. 35. P. 613-644. URL: https://doi.org/10.1007/s10115-012-0584-8

20. Lessig L. Code and other law of cyberspace. Review. 1999. P. 179-180. URL: http://surl. li/ofap

21. Pope D., Sydnor J. Implementing Anti-Discrimination Policies in Statistical Profiling Models. American Economic Journal: Economic Policy. Vol 3. 2011. P. 206-301. URL: https://pdfs. Semantic scholar.org/0532/ad6127c0ffef23258bff42e33d314d28f6bb.pdf

Размещено на Allbest.ru