Проблеми захисту трудових прав під час прийняття на роботу з використанням алгоритмів штучного інтелекту

Размещено на http://www.allbest.ru/

Навчально-науковий інститут права Київського національного університету імені Тараса Шевченка

Проблеми захисту трудових прав під час прийняття на роботу з використанням алгоритмів штучного інтелекту

Сергій Ярославович Вавженчук, Владислав Олегович Жмака

Київ, Україна



Анотація

Актуальність дослідження зумовлено тим, що останніми роками штучний інтелект набув широкого застосування в трудовому праві, зокрема у процесах, пов'язаних із прийняттям на роботу. Алгоритми штучного інтелекту використовуються для автоматизації рекрутингу, оцінки навичок і прийняття рішень. Хоча це може забезпечити певні переваги й ефективність у доборі кандидатів, використання алгоритмів штучного інтелекту також створює нові правові проблеми та виклики, а саме в контексті захисту трудових прав під час прийняття на роботу: дискримінація, прозорість алгоритмів штучного інтелекту, захист персональних даних. Проблеми, спричинені застосуванням штучного інтелекту в трудовому праві, породжують виклики для правників у контексті створення етичних критеріїв і правових рамок, що регулюють використання штучного інтелекту в процесі прийняття на роботу. Метою цієї статті є окреслення основних правових проблем, пов'язаних із порушенням та захистом трудових прав у разі застосування алгоритмів штучного інтелекту при прийнятті на роботу. Для досягнення мети дослідження було використано методи аналізу, узагальнення, формально-логічний, порівняння, прогнозування, діалектичний та інші. Розглянуто сучасний стан законодавства України та досвід зарубіжних країн. Виокремлено ознаки, за якими система штучного інтелекту може належати до високоризикової. Проаналізовано проблеми захисту персональних даних під час прийняття на роботу з використанням алгоритмів штучного інтелекту. Проаналізовано визначення дискримінації, що містяться в міжнародно-правових актах. Установлено недостатню правову регламентацію дискримінації з використанням алгоритмів штучного інтелекту, що також породжує проблеми у правозастосуванні. Виокремлено критерії, що є необхідними для запобігання проявам дискримінації під час прийняття на роботу з використанням алгоритмів штучного інтелекту. На підставі проведеного дослідження зроблено висновок про недостатнє правове регулювання використання алгоритмів штучного інтелекту у вітчизняному законодавстві, критерії, які мають стати ключовими для захисту трудових прав під час прийняття на роботу з використанням алгоритмів штучного інтелекту.

Ключові слова: трудові права; дискримінація; захист персональних даних; штучний інтелект; прийняття на роботу; захист трудових прав; алгоритми штучного інтелекту; укладення трудового договору.



Abstract

Problems of Protection of Labor Rights During Hiring with the Use of Artificial Intelligence Algorithms

Sergiy Ya. Vavzhenchuk*

Educational and Scientific Institute of Law of Taras Shevchenko National University of Kyiv,

Kyiv, Ukraine

Vladyslav O. Zhmaka

Educational and Scientific Institute of Law of Taras Shevchenko National University of Kyiv,

Kyiv, Ukraine

In recent years, artificial intelligence has found wide application in labor law, including in hiring processes. Artificial intelligence algorithms are used to automate recruiting, skills assessment and decision making. Although this can provide certain advantages and efficiency in the selection of candidates, the use of artificial intelligence algorithms in hiring also creates new legal problems and challenges, in particular in the context of the protection of labor rights in hiring: discrimination, transparency of artificial intelligence algorithms, protection of personal data. The problems caused by the use of artificial intelligence in labor law create challenges for lawyers in the context of creating ethical criteria and legal frameworks that regulate the use of artificial intelligence in the hiring process. The purpose of this article is to outline the main legal issues related to the violation and protection of labor rights in the case of the use of artificial intelligence algorithms in hiring. To achieve the goal of the research, methods of analysis, generalization, formal- logical, comparison, forecasting, dialectical and others were used. The current state of Ukrainian legislation and the experience of foreign countries are considered. The signs by which the artificial intelligence system can be classified as high-risk are highlighted. The problems of personal data protection during recruitment using artificial intelligence algorithms are analyzed. The definition of discrimination contained in international legal acts has been studied. Insufficient legal regulation of discrimination with the use of artificial intelligence algorithms has been established, which in turn creates problems in law enforcement. The criteria necessary to prevent manifestations of discrimination during recruitment with the use of artificial intelligence algorithms are highlighted. On the basis of the conducted research, a conclusion was made about the insufficient legal regulation of the use of artificial intelligence algorithms in domestic legislation, criteria that should become key for the protection of labor rights during employment with the use of artificial intelligence algorithms.

Keywords: labor rights; discrimination; personal data protection; artificial intelligence; hiring; protection of labor rights; artificial intelligence algorithms; concluding an employment contract.



Вступ

Попит на «ринку праці» щодо впровадження алгоритмів штучного інтелекту (далі - ШІ) постійно зростає. Водночас він становить серйозні загрози для реалізації трудових прав, збереження робочих місць. Відповідно до дослідження, проведеного ще в 2013 р. американським економістом Карлом Фреєм, під впливом ШІ у США до 2033 р. на межі зникнення перебуватимуть близько 47 % робочих місць [1]. У прогнозі на 2023 р. Організація економічного співробітництва та розвитку (далі - ОЕСР) повідомляє, що робочі місця з найвищим ризиком бути автоматизованими становлять 27 % робочої сили в середньому в країнах ОЕСР, а найбільш схильними до цього є країни Східної Європи [2].

Означена тенденція стосується багатьох сфер економіки (ІТ, логістика, кіно- індустрія та ін.). Щодо цього потрібно згадати масштабний страйк, оголошений акторами і сценаристами Голлівуду через невдоволення зарплатами й використання ШІ, від 14 липня 2023 р. Так, гільдія кіноакторів (The Screen Actors Guild) у межах страйку вимагала гарантій того, щоб ШІ і створені комп'ютером обличчя та голоси не використовувалися для заміни акторів. Ця ситуація спричинила серйозне занепокоєння серед працівників і призупинила низку процесів, що відбуваються в кіноіндустрії [3].

Як показує дослідження Resume Builder, до 2024 р. 43 % компаній планують почати або вже використовують ШІ у ході співбесід під час прийняття на роботу [4]. Про значний вплив ШІ на процес найму свідчить також той факт, що багато компаній на власних сайтах інтегрували спеціальні чат- боти, які здатні давати відповіді на питання, якими цікавляться потенційні працівники.

Можна вказати на кілька причин такого стрімкого зростання попиту на використання алгоритмів ШІ. По-перше, цифровізація найму на роботу відбувалася поетапно. Так, Ж. Чен, виокремив три етапи: 1) цифровий рекрутинг 1.0 (середина та кінець 1990-х), коли Інтернет оцифрував вакансії та інформацію про кандидатів; 2) цифровий рекрутинг 2.0 (з кінця 2000-х), коли виникла можливість об'єднувати оголошення про роботу на кількох незалежних вебсайтах із вакансіями; 3) цифровий рекрутинг 3.0 (з 2015), коли програмне забезпечення зі ШІ зуміло автоматизувати завдання найму за допомогою алгоритмів [5, с. 139]. По-друге, вплив пандемії COVID-19. Так, через карантинні обмеження рекрутери не мали можливості проводити зустрічі наживо з потенційними працівниками, адже працювали за договором про дистанційну роботу з використанням інформаційно-телекомунікаційних систем (ІТС). Це призвело до зростання кількості відеоспівбесід, де використання алгоритмів ШІ допомогли швидко аналізувати значні обсяги інформації та обрати осіб, які найбільше відповідають заданим роботодавцем критеріям. Пандемія COVID-19 спричинила стрімке збільшення кількості онлайн-заявок, які рекрутери фізично не встигали самостійно проаналізувати без використання алгоритмів ШІ.

Спираючись на причини дедалі стрімкого поширення використання алгоритмів ШІ під час прийняття на роботу, припускаємо, що це дає чимало переваг, зокрема допомагає роботодавцям полегшити працю відповідних структурних підрозділів та пришвидшити процес найму. З іншого боку, необхідність такого використання несе високі ризики та загрози у трудо-правовому полі, а тому вона має бути обумовлена чіткими та прозорими нормативними критеріями для роботодавця, що використовує алгоритми ШІ під час прийняття на роботу. Саме на останньому зосередимо увагу в цьому дослідженні.

Метою цієї статті є з'ясування основних правових проблем використання алгоритмів ШІ. Досягнення мети дослідження передбачає вирішення таких завдань: з'ясування стану національного законодавства стосовно використання алгоритмів ШІ у трудовому наймі, виокремлення ознак висо- коризиковості системи ШІ, з'ясування наявності судової практики щодо недопущення дискримінації з використанням алгоритмів ШІ.



Огляд літератури

Проблеми, пов'язані із захистом трудових прав під час прийняття на роботу з використанням алгоритмів ШІ, є недостатньо вивченими у вітчизняній правовій доктрині. Тенденцію до початку дослідження впливу ШІ на ринок праці в Україні можна простежити, зокрема, у роботах О. О. Сташкевич [6], С. Ф. Гуцу [7], О. М. Охотнікової та К. Я. Кудіної [8]. Водночас більшу увагу означеним проблемам приділено у працях зарубіжних вчених, а саме: Х. Абраха [9], Х. Парвіайнен [10], А. Алоїзі та В. Де Стефано [11] та ін. штучний інтелект рекрутинг трудовий

Проте існує простір для розвитку досліджень, що стосуються найму з використанням алгоритмів ШІ. Водночас зарубіжні вчені вже напрацювали чимало конкретних пропозицій щодо правового регулювання використання ШІ у трудовому праві. Тому для всебічного аналізу варто зважати на іноземне законодавство, що регламентує застосування ШІ, порушені в іноземній літературі проблемні питання та екстраполювати їх на українські правові реалії.

Матеріали та методи

Методологічно це дослідження побудоване на аналізі вітчизняного, зарубіжного законодавства, міжнародно-правових актів, судової практики та доктринальних положень, що стосуються предмета вивчення. Особливу увагу приділено зарубіжним нормативно-правовим актам, що регулюють використання ШІ.

Методи узагальнення та лінгвістичного аналізу використовувалися для дослідження позицій зарубіжних вчених щодо розвитку законодавства у сфері використання ШІ та захисту персональних даних.

У ході дослідження було використано порівняльно-правовий метод для зіставлення досвіду зарубіжних країн та напрацювань вітчизняного законодавця.

Із використанням формально-юридичного методу вдалося виявити прогалини в національному правовому регулюванні. За допомогою методу прогнозування передбачено, які зміни можуть виникнути в сфері застосування алгоритмів ШІ під час найму працівників. Також було застосовано такі методи, як діалектичний, формально-юридичний та синтезу. Використано інші спеціальні та загальні методи для отримання більш повного та об'єктивного розуміння порушених проблем правового регулювання.

Результати та обговорення

Тенденції законодавства про ШІ (у контексті найму з використанням алгоритмів ШІ)

Зважаючи на актуальність та попит на використання алгоритмів ШІ, провідні держави почали приділяти значну увагу розвитку власного законодавства в контексті врегулювання останнього.

Одним із найважливіших нормативно-правових актів, що регулює правовідносини, пов'язані з використанням алгоритмів ШІ, є General Data Protection Regulation (далі - GDPR) від 27 квітня 2016 р. Його положення спрямовані на захист приватності та персональних даних громадян Європейського

Союзу (далі - ЄС). GDPR встановлює правила для збору, обробки та зберігання персональних даних, що застосовуються до всіх організацій, які діють в ЄС або обробляють персональні дані громадян ЄС. Через те, що використання алгоритмів ШІ під час прийняття на роботу тісно пов'язане з обробкою персональних даних, GDPR встановлює правові гарантії, спрямовані на недопущення порушення прав потенційних працівників.

10 квітня 2018 р. 24 країни ЄС підписали Декларацію про співпрацю у сфері ШІ. Держави-члени погодилися працювати разом над найважливішими питаннями, що виникають із приводу ШІ: від забезпечення конкурентоспроможності Європи в дослідженнях і розгортанні ШІ до вирішення соціальних, економічних, етичних і правових питань.

Нормативно-правовим актом, що має врегулювати один з етапів прийому на роботу, є Закон штату Іллінойс (США) про відеоінтерв'ю з ШІ. Від січня 2020 р. цей Закон накладає обов'язки на роботодавців, які використовують системи ШІ для аналізу співбесід із метою найму, щодо розкриття інформації, забезпечення прозорості та її видалення [11].

Одним із прогресивних кроків щодо розвитку законодавства, спрямованого на захист персональних даних, є пропозиція Директиви про роботу платформи від 9 грудня 2021 р. у ЄС, яка: розширює режим прозорості алгоритмів GDPR, щоб охопити як виключно автоматизовані, так і напівавтоматичні рішення; забороняє обробку персональних даних, які не пов'язані та не є суворо необхідними для виконання контракту; забороняє обробку будь-яких персональних даних про емоційний або психологічний стан працівників платформи за будь-яких обставин; встановлює колективне право на інформацію, вимагаючи від цифрових платформ праці зробити алгоритмічні системи управління зрозумілими для працівників платформи, їхніх представників і органів управління праці; виключає згоду як правову основу для виправдання алгоритмічного управління [10].

Неможливо не помітити, що суттєвим недоліком вказаної Директиви є вузька сфера застосування суб'єктного складу, адже вона обмежена лише працівниками платформи та особами, які виконують роботу на платформі.

Цікавим є досвід Канади, де уряд у 2022 р. подав до парламенту законо- проєкт С-27, що включає Закон про захист конфіденційності споживачів (CPPA) та Закон про ШІ і дані (AIDA). AIDA передбачає, що особи, відповідальні за систему високого рівня впливу, як це визначено в нормативних актах, повинні, відповідно до нормативних актів, вжити заходів для виявлення, оцінки та пом'якшення ризиків шкоди або необ'єктивних результатів, які може спричинити використання системи [11].

У вітчизняному законодавстві відсутній спеціальний закон, який би регулював трудові правовідносини, пов'язані з використанням алгоритмів ШІ. Як повідомляв голова Міністерства цифрової трансформації України М. Федоров, в Україні лише почали роботу над нормативним полем для ШІ [12]. Початковим етапом є розробка Дорожньої карти з регулювання ШІ в Україні [13].Однією з її цілей є захист прав людини від ризиків розробки та використання систем із ШІ. Ураховуючи те, що захист прав людини залежить, у тому числі й від характеру порушеного права, на перший план виходить специфіка захисту конкретного виду такого права, що може бути порушено внаслідок використання алгоритмів ШІ. Саме тому вартий уваги, як окрема мета, захист трудових прав від використання алгоритмів ШІ.

Водночас потрібно згадати про певні законодавчі кроки в напрямі врегулювання використання алгоритмів ШІ, а саме: затвердження Розпорядження Кабінету Міністрів України від 2 грудня 2020 р. № 1556-р «Про схвалення Концепції розвитку штучного інтелекту в Україні» (далі - Концепція). Зазначена Концепція, здебільшого, має декларативний характер. Відповідно до Концепції, однією з проблем, що потребує вирішення, є відсутність єдиних підходів, що застосовуються при визначенні критеріїв етичності під час розроблення та використання технологій ШІ для різних галузей, видів діяльності та сфер національної економіки. Постановка вказаної проблеми свідчить про те, що законодавець розуміє виклики, які може породжувати використання алгоритмів ШІ. Правильне визначення критеріїв має стати наріжним каменем для розвитку вітчизняного законодавства у сфері використання алгоритмів ШІ.

Найбільш фаховим нормативно-правовим актом у сфері ШІ є Пропозиція щодо Регламенту Європейського парламенту та Ради, яка встановлює гармонізовані правила щодо ШІ (далі - Акт про ШІ) від 21 квітня 2021 р. Важливим нововведенням Акта про ШІ є запровадження, так званої, моделі «високого ризику», яка має на меті встановити набір правил та норм, що регулюють використання ШІ в різних сферах. Згідно з цією пропозицією, модель «високого ризику» охоплює певні категорії системи ШІ, які вважаються потенційно небезпечними або здатними до значного впливу на права, свободи та безпеку осіб. Ці системи можуть мати високий рівень автономії та впливати на ключові сфери життя.

Варто звернути увагу на норми ст. 6 (2) Акта про ШІ, які відсилають до Додатку III, що містить перелік систем ШІ, які вважаються високоризи- ковими. Насамперед становить інтерес п. 4, де йдеться про таке: системи ШІ призначені для набору чи добору фізичних осіб, зокрема для реклами вакансій, перевірки чи фільтрації заяв або оцінювання кандидатів під час співбесід чи тестів.

Дійсно, використання алгоритмів ШІ під час прийняття на роботу пов'язується з високим ризиком. Проблеми можуть виникнути вже на етапі створення ШІ через помилки у вихідному коді, що також може негативно вплинути на опрацювання даних. Однією з таких проблем може бути упереджене ставлення до правового становища певних категорій потенційних працівників унаслідок неточного (неправильного) налаштування алгоритмів ШІ. Ще одним ризиком є відсутність контролю та прозорості. У багатьох випадках системи ШІ приймають рішення на підставі великої кількості вхідних даних та алгоритмів, які можуть бути непередбачуваними та складними для розуміння. Це може ускладнити ідентифікацію причин тих чи інших рішень, що були прийняті ШІ.

Наступним проблемним питанням є порушення права на приватність. А. Цефальєло та М. Куллманн у своєму дослідженні наводять пропозицію компанії IndustriALL, яка у відгуку на громадські консультації щодо Акта про ШІ зазначає, що при визначенні того, чи слід кваліфікувати програмне забезпечення як високоризикове, також потрібно враховувати характер даних, які потенційно збираються [14, с. 546]. Варто концептуально підтримати згаданих вище науковців у тому, що система ШІ матиме ознаки висо- коризикової з огляду на характер даних, що збираються чи обробляються. Прикладом може бути ситуація, коли ШІ збирає чутливі дані, наприклад, інформація про стан здоров'я, біометричні дані, що може спричинити порушення прав на приватність та конфіденційність. Права на такі дані, на їх збір та обробку мають підлягати особливій регламентації, захисту та контролю в трудовому праві. Вказане спричинене тим, що згадані чутливі дані окреслюють межі приватності особи, які у жодному разі не можна перетинати роботодавцю. У Кодексі законів про працю України (далі - КЗпП України) відсутня норма, в якій вживається термін «чутливі дані» працівника. Однак, виходячи з аналізу норми ст. 25 КЗпП України, до таких даних можна віднести відомості про партійну і національну належність, походження, реєстрацію місця проживання чи перебування працівника та документи, подання яких не передбачено законодавством при прийнятті на роботу [15]. Отже, використання алгоритмів ШІ під час прийняття на роботу вважається високоризиковим.

Ураховуючи наведене, системи ШІ слід вважати високоризиковими під час прийняття на роботу, якщо вони відповідають таким ознакам: 1) мають цільове призначення: для набору, добору потенційних працівників; 2) призначені для перевірки, фільтрації заяв, резюме, проєктів трудових договорів від потенційного працівника; 3) призначені для прямого або непрямого оцінювання потенційного працівника, його вмінь та навичок під час співбесід, виконання завдань; 4) спрямовані на відкриту або приховану рекламу вакансій роботодавця; 5) призначені для збору, обробки (аналізу) чутливих даних про потенційного працівника за визначеними ШІ або третіми особами критеріями.

Захист персональних даних

В умовах стрімкої цифровізації всіх галузей економіки на перший план виходить особливо цінний ресурс - дані споживачів послуг, працівників, потенційних працівників тощо. Великі компанії конкурують за цей ресурс, адже його можна використовувати для багатьох цілей, наприклад, для покращення якості надання послуг, оптимізації робочих процесів тощо. Як показує дослідження Міжнародної організації праці (2021), дані, зібрані платформами електронної комерції про вподобання споживачів - їхні моделі споживання та смаки тощо, дають широку інформацію, яка може допомогти компаніям у прийнятті економічних рішень щодо переліку продуктів, дизайну, цін, асортименту та логістики. Так само інформацію про дорожній рух у режимі реального часу, зібрану компаніями, що займаються додатками, такими як DiDi, Ola або Uber, можна використовувати для зменшення заторів і пере- направлення трафіку, особливо в країнах, що розвиваються, де є проблеми з інфраструктурою [16].

Однак виникають ситуації, коли до алгоритмів ШІ потрапляють чутливі дані. Зокрема, під час прийняття на роботу з використанням алгоритмів ШІ від кандидатів на посаду може вимагатися надання різних особистих даних, таких як: резюме, контактна інформація, інформація про кваліфікацію, спеціальність та досвід роботи. Ці дані можуть бути збережені й використані роботодавцем без належного контролю з боку працівника або особи, яка шукає роботу, створюючи ризик їх неналежного, протиправного використання або незаконного розкриття.

Як вже зазначалося, найбільш широко питання захисту персональних даних урегульовано у GDPR. Відповідно до ст. 22 GDPR, суб'єкт даних має право не піддаватися рішенню, яке засноване виключно на автоматизованій обробці, у тому числі й профілюванні, що спричиняє для нього юридичні наслідки або ж істотно впливає на нього.

Це правило містить винятки щодо такого рішення. Зокрема, воно: 1) необхідне для укладення або виконання договору між суб'єктом даних та контролером даних; 2) дозволене законодавством Союзу або держави-члена, якій підпорядковується контролер, та яка також встановлює належні заходи захисту прав, свобод та законних інтересів суб'єкта даних; 3) ґрунтується на чіткій згоді суб'єкта даних.

Особливу увагу привертають перший та третій винятки з правила ст. 22 GDPR. Наведені винятки, дійсно, можуть дуже широко тлумачитися роботодавцем або судом. Щодо першого винятку існує невизначеність, на чию користь його сформульовано в прив'язці до трудових відносин. Зокрема, на думку Х. Парвіайнен, залишається незрозумілим, як слід тлумачити цей виняток і чи може автоматизоване прийняття рішень, за певних обставин, бути необхідним для укладення трудового договору [10, с. 240].

Відповідно до ст. 43 Конституції України, кожен має право на працю, що включає можливість заробляти собі на життя працею, яку він вільно обирає або на яку вільно погоджується [17]. Схоже положення міститься у ст. 6 Міжнародного пакту про економічні, соціальні і культурні права (далі - Пакту). Так, у розумінні Пакту право на працю включає право кожної людини дістати можливість заробляти собі на життя працею, яку вона вільно обирає або на яку вона вільно погоджується [18]. Також згідно зі ст. 23 Загальної декларації прав людини, кожна людина має право на працю, на вільний вибір роботи, на справедливі і сприятливі умови праці та на захист від безробіття. Ці положення спрямовані на захист прав потенційного працівника, в тому числі від неправомірних дій з боку роботодавця. Враховуючи наведене, надання згоди на обробку персональних даних з використанням ШІ пов'язане з можливістю заробляти собі на життя працею, яку особа вільно обирає чи на яку вільно погоджується через укладення трудового договору. Ситуація, коли претенденту на робоче місце відмовляють через ненадання такої згоди, може призвести до порушення наведених вище основоположних трудових прав, тому згаданий виняток варто тлумачити саме на його користь.

Що стосується третього винятку з правила ст. 22 GDPR, можна зазначити, що у трудовому праві традиційно існує нерівність правового становища працівника та роботодавця, і це ускладнює застосування означеної норми в регламентації трудових відносин із використанням ШІ. Як наслідок у роботодавця наявний широкий арсенал механізмів тиску на працівника щодо отримання згоди на застосування алгоритмів ШІ. На думку Х. Парві- айнен, ст. 22(2)(c) вимагає, щоб згода була «явно вираженою», але вона не розкриває цю вимогу [10]. У пункті 43 GDPR зазначено, що згода не буде дійсною, якщо існує явний дисбаланс між суб'єктом даних і контролером. Однак законодавець не наводить критерій визначення такого дисбалансу.

Це створює можливість для зловживання правом з боку роботодавця. Згода на обробку персональних даних може бути добровільною, але в контексті відносин між роботодавцем і потенційним працівником існує високий ризик нерівного становища та тиску, що може впливати на добровільність згоди.

Із боку роботодавця це створює можливість визначення такого дисбалансу, що спричиняє люфт для зловживання правом. У таких випадках важливо, щоб згода на обробку персональних даних була отримана від особи без будь- якого тиску, обману чи застосування різних впливів у межах імперативно визначених нормативних процедур. Роботодавець зобов'язаний забезпечити ретельне ознайомлення потенційного працівника з умовами обробки даних, щоб останній мав можливість поставити запитання та відмовитися від надання згоди без негативних наслідків для себе й обмеження трудових прав.

Отже, у зв'язку з тенденцією до зростання цінності даних на перший план виходить необхідність захисту права особи на свої дані, захист даних від неправомірного збирання, обробки та поширення. Законодавство ЄС містить положення, спрямоване на недопущення неправомірних дій, проте внаслідок застосування широких формулювань залишається простір для тлумачення ст. 22 GDPR, що також може призвести до проблем у правозастосуванні.

Дискримінація та алгоритми ШІ

Наступним джерелом проблем, з якими може стикнутися потенційний працівник, є порушення, пов'язані з дискримінацією. Вітчизняне законодавство містить положення, що покликані запобігати проявам дискримінації. Відповідно до ст. 43 Конституції України держава створює умови для повного здійснення громадянами права на працю, гарантує рівні можливості у виборі професії та роду трудової діяльності. Так, ст. 21 КЗпП України декларує рівність трудових прав громадян України, недопущення дискримінації у сфері праці. Також законодавство України містить спеціальний нормативно-правовий акт у сфері протидії проявам дискримінації - Закон України «Про засади запобігання та протидії дискримінації в Україні».

Аналіз зазначених вище актів дає змогу викристалізувати позицію щодо відсутності спеціальної правової норми, що забороняє дискримінацію внаслідок рішень, прийнятих із використанням алгоритмів ШІ. Потреба у захисті порушених трудових прав під час прийняття на роботу з використанням алгоритмів ШІ підкреслює важливість пошуку нормативної підстави серед положень міжнародних правових актів, учасником яких є Україна.

Потрібно звернути увагу на Конвенцію Міжнародної організації праці «Про дискримінацію в галузі праці та занять» № 111 [19]. Відповідно до ст. 1 цієї Конвенції термін «дискримінація» охоплює: а) будь-яке розрізнення, недопущення або перевагу, що робиться за ознакою раси, кольору шкіри, статі, релігії, політичних переконань, іноземного або соціального походження і призводить до знищення або порушення рівності можливостей чи поводження в галузі праці та занять; b) будь-яке інше розрізнення, недопущення або перевагу, що призводить до знищення або порушення рівності можливостей чи поводження в галузі праці та занять і визначається відповідним членом Організації після консультації з представницькими організаціями роботодавців і працівників, де такі є, та з іншими відповідними органами. Хоча в цій нормі також не згадується про застосування алгоритмів ШІ, варто підкреслити, що таке використання може потенційно підпадати під досить широке за змістом визначення дискримінації, якщо воно призводить до порушення рівності можливостей у галузі праці на підставі зазначених ознак.

У Загальній декларації прав людини не міститься згадки про дискримінацію із застосуванням алгоритмів ШІ. Натомість вона має широкі формулювання, що стосуються дискримінації. Так, у ст. 7 Загальної декларації прав людини проголошується, що усі люди мають право на рівний захист від якої б то не було дискримінації, що порушує цю Декларацію, і від якого б то не було підбурювання до такої дискримінації. Відповідно до ч. 2 ст. 23 Декларації кожна людина, без будь-якої дискримінації, має право на рівну оплату за рівну працю.

Важливим є положення щодо недопущення дискримінації, яке закріплено у ст. 14 Конвенції про захист прав людини і основоположних свобод. Відповідно, користування правами та свободами, визнаними в цій Конвенції, має бути забезпечене без дискримінації за будь-якою ознакою - статі, раси, кольору шкіри, мови, релігії, політичних чи інших переконань, національного чи соціального походження, належності до національних меншин, майнового стану, народження або за іншою ознакою. Серед невичерпного переліку ознак також відсутня ознака, яка б указувала на дискримінацію із застосуванням алгоритмів ШІ.

Міжнародна конвенція про ліквідацію всіх форм расової дискримінації, яка є спеціальним міжнародно-правовим актом у сфері протидії та запобігання дискримінації, містить таке визначення: расова дискримінація означає будь- яке розрізнення, виняток, обмеження чи перевагу, основані на ознаках раси, кольору шкіри, родового, національного чи етнічного походження, метою або наслідком яких є знищення або применшення визнання, використання чи здійснення на рівних засадах прав людини та основних свобод у політичній, економічній, соціальній, культурній чи будь-яких інших галузях суспільного життя. Констатуємо тенденцію щодо відсутності вказівок на дискримінацію із застосуванням алгоритмів ШІ.

Із аналізу наведених міжнародно-правових актів випливають широкі формулювання, що стосуються дискримінації в трудовому праві. Така ситуація може створити неоднозначне трактування того, що є дійсно дискримінацією працівника (особи, що шукає роботу) із застосуванням алгоритмів ШІ.

Розглядаючи проблеми прояву дискримінації під час прийняття на роботу з використанням алгоритмів ШІ, варто згадати про неоднозначну ситуацію, що пов'язують з компанією Amazon. Як стверджує Reuters, експериментальний інструмент компанії для найму на роботу використовував ШІ, щоб надавати кандидатам оцінки від однієї до п'яти зірок - подібно до того, як покупці оцінюють продукти на Amazon. Компанія зрозуміла, що її нова система не оцінює кандидатів на посади розробників програмного забезпечення та інші технічні посади гендерно-нейтральним способом. Система Amazon навчилася, що кандидати-чоловіки є кращими. Вона відхиляла резюме, які містили слово «жіночий», наприклад «капітан жіночого шахового клубу» [20]. Наведене яскраво висвітлило проблему можливої упередженості в системах ШІ та важливість урахування гендерної рівності й недискримінації при їх розробленні й застосуванні у трудовому праві.

Як відомо, дискримінація може бути прямою та непрямою. З огляду на це пряма дискримінація має місце, коли алгоритми ШІ явно використовують дискримінаційні критерії, такі як раса, стать, національність або вік, для відбору або ігнорування кандидатів для укладення трудового договору. Наприклад, якщо алгоритм виключає з розгляду кандидатів певної раси або статі без обґрунтування, це може бути прямою дискримінацією. Як зазначають А. Л. Ханкеншроер та A. Крібіц, стандартизований процес, який застосовується разом із прийняттям на роботу зі ШІ, викликає несправедливе ставлення до нестандартних кандидатів, таких як люди з обмеженими можливостями [21, с. 207].

Непряма дискримінація - це прихованіший вид дискримінації, коли алгоритми ШІ застосовують нейтральні критерії, але призводять до нерівних можливостей для різних груп кандидатів на роботу. Наприклад, якщо алгоритм ШІ враховує вимоги, що не є об'єктивно необхідними для виконання роботи, але вони виявляються випадковими перешкодами для деяких груп людей, то це може створювати непряму дискримінацію. Прикладом може бути ситуація, де алгоритм ШІ використовує вимогу мати досвід роботи протягом останніх п'яти років у певній галузі. Ця вимога може створити нерівні умови для тих кандидатів, які мали часовий розрив стажу роботи, наприклад, у зв'язку з вихованням дітей, доглядом за хворими членами сім'ї або з інших поважних причин. Такий критерій має ознаки негативного впливу на трудові права жінок, що, як правило, частіше перебувають у таких ситуаціях порівняно з чоловіками. Особливо гостро це питання постає у зв'язку з такою властивістю ШІ, як здатність до самонавчання. Алгоритми ШІ у ході свого розвитку можуть вийти за межі встановлених критеріїв або оминути їх, що, втім, становить загрозу непрямої дискримінації у сфері праці і не тільки.

Аналіз судової практики Верховного Суду за останні 5 років з урахуванням ключових слів пошуку «алгоритми штучного інтелекту» [22], «дискримінація з використанням алгоритмів штучного інтелекту» [23] у реєстрі судових рішень показав відсутність правових позицій стосовно дискримінації із застосуванням алгоритмів ШІ. У цьому контексті варто згадати справу, слухання в якій наразі тривають у США, - Mobley v. Workday [24]. Чоловік подав заявки на 80- 100 вакансій у різних роботодавців, які, на його думку, використовують програмне забезпечення Workday, і скрізь отримав відмову. Він подав позов проти компанії Workday, стверджуючи, що її програмне забезпечення ШІ дозволяє дискримінувати людей, які відповідають його профілю: темношкірих, з інвалідністю і старше 40 років [25].

Наведене вище ще раз підкреслює необхідність уведення в антидискри- мінаційне трудове законодавство ознак прямої та непрямої дискримінації з використанням алгоритмів ШІ. Під час подальшого врегулювання відносин, пов'язаних із дискримінацією, має враховуватися розвиток технологій, у тому числі й алгоритмів ШІ. З огляду на це потрібно звернути увагу на таке: 1) заборона врахування особистих характеристик (раса, стать, вік, національність тощо) під час прийняття на роботу з використанням алгоритмів ШІ; 2) звітність про алгоритми прийняття рішень: роботодавці мають надавати звіти про алгоритми та параметри, які вони використовують для ухвалення рішень щодо прийняття на роботу, уповноваженому органу державної влади; 3) повідомлення кандидатів про використання алгоритмів ШІ: роботодавці мають повідомляти потенційних працівників про використання алгоритмів ШІ під час прийняття на роботу та надавати можливість ознайомитися з процесами та критеріями відбору; 4) заборона врахування несуттєвих параметрів: потрібно встановити норму, що забороняє алгоритмам ШІ враховувати параметри, які не мають суттєвого значення для професійних якостей кандидатів; 5) відповідальність за дискримінацію: закон має відображати відповідальність роботодавців за дискримінацію, спричинену використанням алгоритмів ШІ, включаючи штрафи та інші санкції.



Висновки

На підставі проведеного дослідження можна дійти таких висновків.

По-перше, використання алгоритмів ШІ у трудовому наймі має потенціал створити значні юридичні, етичні та практичні проблеми. Регулювання цього процесу потребує розробки і впровадження відповідного законодавства з етичними стандартами, спрямованими на захист приватності кандидатів на роботу, запобігання дискримінації й забезпечення прозорості та контролю в роботі алгоритмів ШІ. Потрібно також на рівні закону визначити системи ШІ, які вважаються високоризиковими, особливо ті, що обробляють чутливі дані потенційних та реальних працівників.

По-друге, системи ШІ слід вважати високоризиковими під час прийняття на роботу, якщо вони відповідають таким ознакам: 1) мають цільове призначення: для набору, добору потенційних працівників; 2) призначені для перевірки, фільтрації заяв, резюме, проєктів трудових договорів від потенційного працівника; 3) призначені для прямого або непрямого оцінювання потенційного працівника, його вмінь та навичок під час співбесід, виконання завдань; 4) направлені на відкриту або приховану рекламу вакансій роботодавця; 5) призначені для збору, обробки (аналізу) чутливих даних про потенційного працівника за визначеними ШІ або третіми особами критеріями.

По-третє, з поширенням використання алгоритмів ШІ у трудовому праві створено нові ризики непрямої дискримінації.

По-четверте, на законодавчому рівні потрібно встановити імперативний запобіжник для недопущення виникнення ризику непрямої дискримінації внаслідок здатності алгоритмів ШІ до самонавчання.

По-п'яте, відсутність правових позицій Верховного Суду за останні 5 років свідчить про незастосування судами загальних норм щодо недопущення дискримінації з використанням алгоритмів ШІ, що так само потребує окремої уваги законодавця. Тому існує потреба в розробленні чітких нормативних меж для використання ШІ в процедурах найму з метою захисту персональних даних у сфері праці та забезпечення рівних можливостей для найму працівників, запобігання будь-якій формі дискримінації.



Список використаних джерел

1. Frey Carl Benedikt, Michael Osborne. The future of employment: how susceptible are jobs to computerisation? 2013.

2. 27 % of jobs at high risk from AI revolution, says OECD. 11.07.2023. Reuters.

3. SAG strike: Avatar and Gladiator sequels look set to be hit as actors walk out. 14.07.2023 r. BBC.

4. Resume Builder - «4 in 10 Companies Will Be Using AI Interviews by 2024».

5. Chen Z. Collaboration among recruiters and artificial intelligence: removing human prejudices in employment. Cognition, Technology & Work. 2023. Vol. 25. Р. 135-149.

6. Сташкевич О. Вплив технологій та штучного інтелекту на ринок праці в Україні. Scientific Collection «InterConf+» : International Scientific Discussion: Problems, Tasks and Prospects. 2021. № 81. С. 25-30.

7. Гуцу С. Ф. Штучний інтелект і трудові відносини: вплив і взаємодія. International scientific and practical conference. 23-24.04.2021 r. P. 99-103.

8. Охотнікова О. М., Кудіна К. Я. Деякі питання щодо впливу штучного інтелекту на право людини на працю. Забезпечення прав людини: національний та міжнародний виміри : зб. матеріалів І Всеукр. наук.-практ. конф. (м. Вінниця, 10 груд. 2021 р.). Вінниця, 2022. С. 102-105.

9. Abraha H. Regulating algorithmic employment decisions through data protection law. European Labour Law Journal. 2023. Vol. 14, issue 2. Р. 172-191.

10. Parviainen H. Can algorithmic recruitment systems lawfully utilise automated decisionmaking in the EU? European Labour Law Journal. 2022. Vol. 13, issue 2. Р 225-248.

11. Aloisi A., De Stefano V. Between risk mitigation and labour rights enforcement: Assessing the transatlantic race to govern AI-driven decision-making through a comparative lens. European Labour Law Journal. 2023. Vol. 14, issue 2. Р. 283- 307.

12. Кацімон О. Україна почала роботу над правовим регулюванням штучного інтелекту - Федоров. 03.08.2023 р. Суспільне. Новини.

13. Дорожня карта з регулювання штучного інтелекту в Україні. 07.10.2023 р.

14. Cefaliello A., Kullmann M. Offering false security: How the draft artificial intelligence act undermines fundamental workers rights. European Labour Law Journal. 2022. Vol. 13, issue 4. Р. 542-562.

15. Кодекс законів про працю України : офіц. текст від 10.12.1971 р. № 322 -VIII.

16. World Employment and Social Outlook. The role of digital labour platforms in transforming the world of work International Labour Office. Geneva: ILO, 2021.

17. Конституція України : офіц. текст від 28.06.1996 р.

18. Міжнародний пакт про економічні, соціальні і культурні права : Пакт Орг. Об'єдн. Націй від 16.12.1966 р.

19. Конвенція про дискримінацію в галузі праці та занять № 111 (укр/рос) : Конвенція Міжнар. орг. пр. від 25.06.1958 р. № 111.

20. Dastin J. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. 11.11.2018 r.

21. Hunkenschroer A. L., Kriebitz A. Is AI recruiting (un) ethical? A human rights perspective on the use of AI for hiring. AI and Ethics. 2023. Vol. 3. Р. 199-213.

22. Перелік судових рішень за ключовими словами «алгоритми штучного інтелекту».

23. Перелік судових рішень за ключовими словами «дискримінація з використанням алгоритмів штучного інтелекту».

24. Case: Mobley v. Workday, Inc. Ciliv Rights Litigation Clearinghouse. 21.02.2023 r.

25. Gilbert A. «Workday AI Biased Against Black, Older Applicants, Suit Says (1)». Bloomberg. 22.02.2023 r.



References

1. Frey, Carl Benedikt, & Michael, Osborne. (2013). The Future of Employment.

2. 27 % of Jobs at High Risk from AI Revolution, says OECD. (July 11, 2023). Reuters.

3. SAG Strike: Avatar and Gladiator Sequels Look Set to be Hit as Actors Walk out. (July 14, 2023). BBC.

4. Resume Builder - "4 in 10 Companies Will Be Using AI Interviews by 2024".

5. Chen, Z. (2023). Collaboration Among Recruiters and Artificial Intelligence: Removing Human Prejudices in Employment. Cognition, Technology & Work, 25(1), 135-149.

6. Stashkevych, O. (2021). Impact of Technology and Artificial Intelligence on the Labor Market in Ukraine. Scientific Collection "InterConf+": International Scientific Discussion: Problems, Tasks and Prospects, 81, 25-30.

7. Gutsu, S.F. (April 23-24, 2021). Artificial Intelligence and Labor Relations: Impact and Interaction. International scientific and practical conference, 99-103.

8. Okhotnikova, O.M., & Kudina K.Y. (December 10, 2021). Some Issues Regarding the Impact of Artificial Intelligence on the Human Right to Work. In Ensuring Human Rights: National and International Dimensions: Coll. materials of the First All-Ukrainian scient. and pract. conf. (рр. 102-105). Vinnitsa.

9. Abraha, H. (2023). Regulating Algorithmic Employment Decisions Through Data Protection Law. European Labour Law Journal, 14(2), 172-191

10. Parviainen, H. (2022). Can Algorithmic Recruitment Systems Lawfully Utilise Automated Decision-Making in the EU? European Labour Law Journal, 13(2), 225248.

11. Aloisi, A., & De Stefano, V. (2023). Between Risk Mitigation and Labour Rights Enforcement: Assessing the Transatlantic Race to Govern AI-driven Decision-Making Through a Comparative Lens. European Labour Law Journal, 14(2), 283-307.

12. Katsimon, O. (August 3, 2023). Ukraine has Started Work on the Legal Regulation of Artificial Intelligence - Fedorov. Suspilne.

13. Roadmap for Regulation of Artificial Intelligence in Ukraine. (October 7, 2023).

14. Cefaliello, A., & Kullmann, M. (2022). Offering false security: How the draft artificial intelligence act undermines fundamental workers rights. European Labour Law Journal, 13(4), 542-562.

15. Code of Labor Laws of Ukraine No. 322-VIII. (December 10, 1971).

16. World Employment and Social Outlook. The role of digital labour platforms in transforming the world of work International Labour Office. (2021). Geneva: ILO.

17. Constitution of Ukraine. (June 28, 1996).

18. Pact Org. United of Nations "International Covenant on Economic, Social and Cultural Rights". (December 16, 1966).

19. Convention of International org. pr. No. 111 "Convention on Discrimination in the Field of Work and Occupations". (June 25, 1958).

20. Dastin, J. (October 11, 2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.

21. Hunkenschroer, A.L., & Kriebitz, A. (2023). Is AI recruiting (un) ethical? A human rights perspective on the use of AI for hiring. AI and Ethics, 3, 199-213.

22. List of Court Decisions by Keywords "Artificial Intelligence Algorithms".

23. List of Court Decisions by Keywords "Discrimination With the Use of Artificial Intelligence Algorithms".

24. Case: Mobley v. Workday, Inc., Ciliv Rights Litigation Clearinghouse. (February 21, 2023).

25. Gilbert A. (February 22, 2023). "Workday AI Biased Against Black, Older Applicants, Suit Says (1)". Bloomberg.

Размещено на Allbest.ru

...