Вплив алгоритмічних систем на права людини та керівні принципи щодо його усунення

Размещено на http://allbest.ru

ВПЛИВ АЛГОРИТМІЧНИХ СИСТЕМ НА ПРАВА ЛЮДИНИ ТА КЕРІВНІ ПРИНЦИПИ ЩОДО ЙОГО УСУНЕННЯ

Рєпіна Ю.С.,

кандидат економічних наук, доцент, науковий співробітник відділу дослідження проблем кримінального процесу та судоустрою науково-дослідного інституту вивчення проблем злочинності імені академіка В.В. Сташиса НАПрН України

Європейські суспільства переживають процеси технологічного прогресу та цифрової трансформації. Аналогічні процеси відбуваються в Україні - державі-члені Ради Європи також. Визнаючи безпрецедентне зростання використання цифрових додатків як найважливіших інструментів повсякденного життя, включаючи комунікації, освіту, охорону здоров'я тощо, їх зростаючу роль у структурах управління, адміністрування та розподілу ресурсів та те, що наскрізні технології, що використовують алгоритмічні системи з відповідними стимулами, мають потенціал для вирішення важливих проблем та при цьому усвідомлюючи розвиваючий вплив, який може бути позитивним чи негативним на здійснення, реалізацію та захист усіх прав людини та основоположних свобод, Комітет Міністрів Ради Європи (далі - КМ РЄ) 08 квітня 2020 року прийняв Рекомендації СМ/Rec (2020) 1 державам-членам щодо впливу алгоритмічних систем на права людини (далі - Рекомендації СМ/Rec (2020) 1) [1]. Підкреслюючи особливо важливість існуючих стандартів захисту персональних даних, зокрема, Конвенцію про захист осіб у зв'язку з автоматизованою обробкою персональних даних (ETS № 108) [2], її модернізацію Протоколом про внесення змін до неї (CETS № 223) [3] та те, що вплив алгоритмічних систем на права людини є ширшим і вимагає додаткового захисту, КМ РЄ рекомендує урядам держав-членів здійснити низку заходів, розробивши Керівні принципи щодо усунення впливу алгоритмічних систем на права людини (далі - Керівні принципи) [4], які покликані консультувати країни, а також суб'єктів публічного та приватного секторів у всіх їхніх діях щодо проектування розробки та постійного розгортання алгоритмічних систем. Саме тому Керівні принципи містять два окремих розділи: 1) зобов'язання держав щодо захисту та просування прав людини та основоположних свобод у контексті алгоритмічних систем та 2) обов'язки суб'єктів приватного сектору щодо прав людини та основоположних свобод у контексті алгоритмічних систем.

Для цілей Рекомендації СМ/Rec (2020) 1 «алгоритмічні системи» розуміються як додатки, які, часто використовуючи методи математичної оптимізації, виконують одне або більше завдань, таких як збір, об'єднання, очищення, сортування, класифікація та виведення даних, а також вибір, визначення пріоритетності, прийняття рекомендацій та прийняття рішень. Спираючись на один або кілька алгоритмів, щоб виконати свої вимоги в умовах, в яких вони застосовуються, алгоритмічні системи автоматизують діяльність таким чином, що дозволяє створювати адаптовані послуги в масштабі та режимі реального часу.

Далі зауважується, що алгоритмічні системи призводять до величезних удосконалень у категоризації та пошуку цифрової інформації, що дозволило розширити та прискорити обмін інформацією в усьому світі та створюючи можливі нові форми співробітництва та координації. Однак існують значні виклики в галузі прав людини, пов'язані із зростанням залежносі від алгоритмічних систем в повсякденному житті, наприклад, серед іншого і щодо права на справедливий суд, і з приводу права на конфіденційність та захист даних тощо.

Зобов'язання держав щодо захисту та просування прав людини та основоположних свобод у контексті алгоритмічних систем стосуються прозорості, підзвітності та всеосяжності процеса розробки, прийняття та оцінки політики та законодавства чи регуляторних актів, що застосовуються до проектування, розробки та постійного впровадження алгоритмічних систем. Державі протягом усього життєвого циклу алгоритмічної системи слід регулярно оцінювати вплив окремих систем на права людини та їх взаємодію з іншими технологіями на основі широких, ефективних консультацій з тими, хто постраждав або тими, кого це може торкнутися. Держави повинні сприяти поінформованості загальної громадськості про потенціал, потужність та наслідки впливу алгоритмічних систем, включаючи їх потенційне використання для маніпулювання, експлуатації, обману тощо. Держави повинні идентифікувати та/або розробляти відповідні інституційні та регуляторні рамки і стандарти, які встановлюють загальні або галузеві орієнтири та гарантії, щоб забезпечити сумісність проектування, розробки та постійного розгортання алгоритмічних систем з правами людини.

Серед іншого КМ РЄ рекомендує державам зосередити свої зусилля, у тому числі й на наступному. Так, держави повинні забезпечити, щоб усі проекти, розробки та поточне розгортання алгоритмічних систем забезпечували можливість заздалегідь інформувати людей про відповідну обробку даних (включаючи її цілі та можливі результати) та контролювати свої дані (інформаційне самовизначення). Державам при управлінні даними також слід ретельно оцінювати, які правила в сфері прав людини та недискримінації можуть бути порушені внаслідок якості даних, що вводяться та вилучаються із алгоритмічних систем, та походження та можливі недоліки баз даних, можливість їх нераціонального та деконтекстуального використання, а також негативні зовнішні наслідки та умови, в яких база даних буде або може бути використана.

Держави повинні гарантувати, що алгоритмічне пректування, розробка та поточні процеси розгортання включали в себе безпеку, конфіденційність, захист даних та гарантії безпеки за своїм задумом з метою запобігання та зменшення ризику порушення прав людини та інших несприятливих наслідків для людей та суспільства.

Державам слід встановити відповідні рівні прозорості стосовно державних закупівель, використання, проектування та основних критеріїв обробки і методів алгоритмічних систем, впроваджених ними та для них, або суб'єктами приватного сектору. Держави повинні забезпечити рівні, доступні, належні, незалежні та ефективні судові та несудові процедури, які гарантують неупереджений перегляд у відповідності зі статтями 6, 13 та 14 Конвенції про захист прав людини та основоположних свобод (далі - Конвенція) всіх вимог про порушення прав Конвенції через використання алгоритмічних систем, не залежно від того, чи є вони суб'єктами публічного або приватного сектору.

Держава повинна сприяти розвитку алгоритмічних систем та технологій, залучати та підтримувати незалежні дослідження алгоритмічних систем для створення позитивного впливу на права людини та просування суспільної вигоди, стимулювати технологічні інновації відповідно до існуючих прав людини.

Суб'єкти приватного сектору, які займаються проектуванням, розробкою, продажом, розгортанням, впровадженням та обслуговуванням алгоритмічних систем, як у публічній, так і приватній сфері, повинні проявляти належну ретельність щодо дотримання прав людини. Вони несуть відповідальність за повагу міжнародно визнаних прав людини та основоположних свобод своїх клієнтів та інших сторін, яких стосується їхня діяльність, та існує незалежно від здатності або готовності держав виконувати свої зобов'язання з прав людини. Крім того, їх обов'язки щодо прав людини та основоположних свобод у контексті алгоритмічних систем стосуються правил згоди користувачів алгоритмічних систем на використання їхніх даних, налаштувань конфіденційності, систем безпеки даних, умов надання послуг тощо.

Отже, враховуючи що держави-члени Ради Європи зобов'язалися забезпечити права та свободи, закріплені в Конвенції, вони протягом усієї технологічної еволюції повинні утримуватися від порушення прав людини через використання алгоритмічних систем, а також розробити законодавчі та регуляторні рамки, що сприяють створенню середовища, коли всі суб'єкти поважають і сприяють правам людини та прагнуть запобігти можливим порушенням. Незалежно від державних зобов'язань та різних юрисдикцій, суб'єкти публічного та приватного секторів несуть відповідальність за дотримання міжнародно визнаних прав людини.

порушення право людина алгоритмічна система

Список використаних джерел:

1. Рекомендація CM / Rec (2020) 1 Комітету Міністрів державам-членам щодо впливу алгоритмічних систем на права людини : Прийнято Комітетом Міністрів 08.04.2020 р. на 1373^-му засіданні заступників міністрів. URL: https://www.echr.com.ua/document/rekomendaciya-cm-rec-20201-vid-08-04-2020/

2. Про захист осіб у зв'язку з автоматизованою обробкою персональних даних: Конвенція Ради Європи від 28.01.1981 р. № 108. URL:

http: // ippi. org.ua/ sites/default/files/conv108.pdf

3. Protocol amending the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (CETS No. 223). URL:

https://www.coe.int/en/web/conventions/fuh-list?module=treaty-detail&treatynum= 223

4. Керівні принципи щодо усунення впливу алгоритмічних систем на права людини / Додаток до Рекомендації CM / Rec (2020) 1. URL:https://www.echr.com.ua/document/rekomendaciya-cm-rec-20201-vid-08-04-2020/

Размещено на Allbest.ru