Новації прав дитини в системі штучного інтелекту

Размещено на http://www.allbest.ru/

Навчально-науковий інститут права та кібербезпеки Одеського державного університету внутрішніх справ

НОВАЦІЇ ПРАВ ДИТИНИ В СИСТЕМІ ШТУЧНОГО ІНТЕЛЕКТУ

Костова Н.І., к.ю.н., доцент кафедри

конституційного та міжнародного права

Хабєєв В.М., студент ІІ курсу факультету № 1

Анотація

право діти штучний інтелект

Цифрові технології змінили життя дітей, створивши нові можливості й ризики для їхнього добробуту та прав. У цьому досліджується вплив цифрових технологій на права дітей через призму Конвенції ООН про права дитини. Досі не всім правам приділяли однакову увагу в цифровому контексті. Правовий і політичний дискурс у сфері дітей і цифрових медіа переважно зосереджений на правах на «захист», хоча й із усвідомленням напруженості між правами «захист» та «участь». Права на «забезпечення» нечасто наголошуються, за винятком важливої сфери освіти. Однак усі права дітей варто підтримувати, цінувати та розвивати як в онлайн, так і в офлайн-сфері взаємодії. Уряди, батьки, освітяни, промисловість, громадянське суспільство, уповноважені чи омбудсмени з прав дитини повинні взяти на себе відповідальність за посилення прав дітей у зв'язку з цифровими технологіями, активно прислухаючись до поглядів і враховуючи погляди дітей при розробці законів, політики, програм та інших заходів у цій сфері. Цифрове середовище складне й може зазнати швидких, а часом і непередбачуваних змін. Воно всіляко змінює життя дітей, що призводить до можливостей і ризиків для їхнього добробуту та здійснення прав людини. У преамбулі Рекомендації Рада Європи визнає, що інформаційно-комунікаційні технології (ІКТ) - важливий інструмент у житті дітей для освіти, соціалізації, вираження, залучення й розвитку, проте водночас їх використання може породжувати ризики, зокрема насильство, експлуатацію та жорстоке поводження. Рекомендація містить вичерпні настанови, що визначають, як держави можуть забезпечити підтримку та наставництво для дітей, на яке вони мають право під час знайомства й користування цифровим середовищем, поважаючи їхні права та гідність. Ці настанови визнають, що на дітей будь-якого віку (до 18 років) впливають способи використання ІКТ іншими людьми й установами. Настанови охоплюють зобов'язання держав і відповідальність інших зацікавлених сторін, зокрема міжнародних, національних, регіональних, місцевих установ і підприємств.

Ключові слова: права дитини, штучний інтелект, стандарт CRbD, інформаційні технології, міжнародні стандарти, інновації.

Annotation

INNOVATIONS IN CHILDREN'S RIGHTS IN THE ARTIFICIAL INTELLIGENCE SYSTEM

Digital technologies have changed the lives of children, creating new opportunities and risks for their well-being and rights. It examines the impact of digital technologies on children's rights through the prism of the UN Convention on the Rights of the Child. Until now, not all rights have received the same attention in the digital context. Legal and policy discourse in the field of children and digital media has focused primarily on the rights to “protect”, albeit with a growing awareness of the tension between the rights to “protect” and “participate”. Rights to “provision” are not often celebrated except in the important area of education. However, all children's rights should be upheld, valued and developed both online and offline. Governments, parents, educators, industry, civil society, child rights ombudsmen or ombudsmen should take responsibility for strengthening children's digital rights by actively listening to and considering the views of children when developing laws, policies, programs and other activities in this area. The digital environment is complex and can undergo rapid and sometimes unpredictable changes. It transforms the lives of children in every possible way, leading to opportunities and risks to their well-being and the enjoyment of human rights. In the preamble to the Recommendation, the Council of Europe recognizes that information and communication technologies (ICTs) are an important tool in children's lives for education, socialization, expression, engagement and development, but their use can pose risks, in particular violence, exploitation and abuse. The Recommendation provides comprehensive guidance on how states can provide the support and mentoring children are entitled to as they meet and use the digital environment, while respecting their rights and dignity. These guidelines recognize that children of all ages (up to 18 years of age) are influenced by the way other people and institutions use ICTs. The guidelines cover the obligations of states and the responsibilities of other stakeholders, including international, national, regional, local institutions and businesses.

Key words: child rights, artificial intelligence, CRbD standard, information technology, international standards, innovation.

Постановка проблеми

Системи штучного інтелекту (далі - ШІ), хоча й мало сприймаються як частина нашого повсякденного життя, стають повсюдно поширеними для всіх людей, включаючи дітей. ШІ використовується в містах з метою громадської безпеки та організації дорожнього руху; у лікарнях через застосування в пристроях, які допомагають лікарям у виявленні захворювань; в освіті з використанням алгоритмів, що створюють можливості для індивідуального навчання або технологій розпізнавання облич; у розвагах, з алгоритмами, що вказують нові відео та допомагають із пошуком в Інтернеті. Існує незліченна кількість прикладів уже наявних систем штучного інтелекту, які мають на меті полегшити та покращити життя громадян у різних сферах їхнього життя, значно змінюючи спосіб життя, роботи і ставлення людей один до одного. Зростання ШІ є повсюдним явищем у всьому світі, пов'язаним із тим, що багато хто називає 4-ю промисловою революцією. Діти неминуче зазнають впливу цих змін і все більше включаються до користувачів систем ШІ, прямо чи опосередковано. Діти також є громадянами, які користуються міськими центрами, медичними послугами, формальною освітою та різними доступними для них формами розваг. Окрім можливості, взаємодіяти з предметами побуту, які використовують технології ШІ, автоматизовані системи прийняття рішень уже вбудовані в продукти та послуги, призначені для дітей, такі як відеоігри, віртуальні персональні помічники. Алгоритми надають дітям рекомендації щодо того, які фільми дивитися, які пісні слухати, які новини читати, які відповіді знайти за допомогою пошукової системи та хто може бути їхніми друзями.

Аналіз останніх досліджень і публікацій

Питаннями прав дитини в інформаційному суспільстві займаються науковці: А. Куйбіда, А. Гусєва, І. Котляра, Ю. Павленко та інші. Основні принципи доступу до ШІ закріплені в аналізованих міжнародних нормативних документах.

Метою статті є усвідомленні основні загрози й можливості для реалізації прав дитини в ШІ, а також у розвитку вмінь реагувати на ці виклики. Виокремлюються глобальні та національні стратегії регулювання відповідних стандартів прав дитини в ШІ.

Виклад основного матеріалу

Незважаючи на весь цей технологічний розвиток і його кілька потенційно позитивних аспектів, таких як швидке вирішення різноманітних проблем, автоматизація різних процесів і полегшення людського життя в цілому, ШІ спровокував низку етичних питань і пов'язаних із ними дискусій навколо прав людини та безпеки. Такі занепокоєння не включають розгляд більш апокаліптичних прогнозів майбутнього, де машинні технології зливаються з біологією та фізіологією людини за допомогою використання загального або супер ШІ. Ці проблеми є ще складнішими, якщо врахувати демографію країн Глобального Півдня, які мають велику кількість дітей на сім'ю. ШІ може сприяти експоненційному пом'якшенню структурних нерівностей. Це може допомогти гарантувати права людини, такі як право на достатнє харчування, базові санітарні умови, якісну освіту, працевлаштування та безпеку.

Однак це також може викликати роздратування раніше наявної дискримінації, у тому числі в освіті, впливаючи на доступність дітей до освіти й насолоду від доступної освіти. Взаємозв'язок ШІ як прямого чи опосередкованого впливу на освітні процеси дітей, зокрема, на Глобальному Півдні. Зосереджуючись на Бразилії, підкреслимо, де структурні проблеми формальної освіти, на які впливає ШІ, зростають.

У ньому наголошується на відповідальності організацій-учасниць поважати та захищати права дітей, включаючи уряд і державу (при розробці політики), а також технологічні компанії (у розробці й наданні технологій, продуктів і послуг ШІ). Захистом прав дитини за задумом (CRbD), стандартом, який варто завжди застосовувати, таким чином гарантуючи, що найкращі інтереси дітей завжди переважають, як це передбачено Конвенцією ООН про права дитини [ 1].

Системи ШІ мають заохочувати права дітей і підтримувати їхній розвиток у всьому світі. Однак, ураховуючи той факт, що все більше й більше рішень делегується інтелектуальним системам, важливо зберігати критичну перспективу, щоб на додаток до позитивних аспектів, наданих ШІ, належним чином перевірялися притаманні ризики.

ЮНІСЕФ у першому проекті Політичного керівництва щодо ШІ зазначено: «Хоча ШІ є силою інновацій і може підтримувати досягнення цілей сталого розвитку, він також створює ризики для дітей, зокрема їх конфіденційність, безпеку, оскільки системи ШІ можуть працювати непомітно й у великих масштабах, ризик широкого виключення та дискримінації» [2].

Хоча кількість дітей, на які впливають системи ШІ, є значною - вони представляють 1/3 користувачів у всьому світі лише в Інтернеті (без урахування того, що ШІ масово використовується в школах, містах та інших місцях), - переважна більшість існуючих ініціатив щодо політики ШІ в усьому світі їх майже не згадують, а коли вони згадують, вони обмежуються широкими цитуваннями, без деталей чи глибших міркувань щодо їхніх особливостей.

Вони не розглядають, наприклад, можливе використання прогнозного аналізу чи інших типів алгоритмічного моделювання, які можуть визначити майбутнє дітей, викликаючи для них непередбачувані наслідки. Це демонструє величезну невідкладність розширення вивчення наслідків ШІ в багатьох країнах світу, у тому числі серед дітей на Глобальному Півдні, де доступ до Інтернету часто обумовлений моделями комерційної експлуатації, такими як нульовий рейтинг у Бразилії для деяких додатків і сервісів, усі вони рясніють автоматизованими рішеннями. Одним із рідкісних документів на цю тему є перший проект Політичного керівництва щодо штучного інтелекту для дітей, нещодавно запущеного ЮНІСЕФ, у якому викладено дев'ять вимог до ШІ, орієнтованого на дитину, який має ґрунтуватися на захисті прав дитини через захист, забезпечення й участь.

Вони мають: (1) підтримувати розвиток і благополуччя дітей; (2) забезпечувати охоплення й для дітей; (3) надавати пріоритет справедливості й недискримінації для дітей; (4) захищати дані та конфіденційність дітей; (5) забезпечити безпеку для дітей; (6) забезпечувати прозорість, зрозумілість і підзвітність дітям; (7) надавати урядам і підприємствам знання про ШІ та права дітей; (8) підготувати дітей до теперішнього та майбутнього розвитку ШІ; (9) створювати сприятливе середовище для всіх, щоб зробити внесок у розвиток ШІ, орієнтованого на дитину. З огляду на транскордонне розмноження систем ШІ, у тому числі тих, що впливають на дітей, нові глобальні ініціативи, такі як ініціатива ЮНІСЕФ, керуючись етикою, будуть орієнтованими на людину, матимуть першочергове значення.

Безсумнівно, системи штучного інтелекту, які впливають на дітей, прямо чи опосередковано, також повинні бути, як і будь-які системи ШІ, передусім орієнтованими на людину, як зазначається в Європейській комісії, яка прагне сприяти надійному ШІ: «Системи штучного інтелекту повинні бути орієнтованими на людину, спираючись на відданість їх використанню на службу людству та загальному благу, з метою покращення добробуту та свободи людини».

Таким чином, окрім завдання гармонізації інновацій, ефективності та свободи бізнес-моделей із захистом прав людини, підзвітністю, зрозумілістю й прозорістю систем ШІ, є ще одне: знайти баланс, який гарантує найкращі інтереси дітей і їхніх особливих прав у всіх програмах, які не заборонені та можуть використовуватися ними або впливати на них навіть опосередковано.

І не тільки в тих програмах ШІ, спеціально спрямованих на використання та споживання дітьми, також як запобіжний захід проти потенційних ризиків, яким вони можуть піддатися. І весь ШІ, який може прямо чи опосередковано впливати на дітей, має передусім брати участь у їхніх правах та інтересах на додаток до забезпечення їхніх найкращих інтересів та орієнтації на людину.

Це означає, що кожен розробник ШІ має враховувати найкращі інтереси дітей і їхні права, навіть якщо їхній продукт чи послуга не призначені для використання дітьми чи не мають опосередкованого впливу на них з першого погляду. У цьому сенсі необхідно розширити зусилля для демократизації переваг систем ШІ для дітей, а також для пом'якшення можливих ризиків, особливо в різних контекстах і для багаторазового розвитку дітей по всій планеті.

ШІ втілюється як доповнення до освітніх процесів, ніколи не замінюючи обміну людьми з викладачами та колегами. У цьому сенсі діти мають право на освіту, яка являє собою знання й цінності в інтерактивний спосіб (через когнітивний та афективний обмін) через етичні цінності (свобода думки та пошук автономії); політичні цінності (права й обов'язки громадянина); естетичні цінності.

Діти - це особистості з еволюціонуючими здібностями, вони менш здатні повністю розуміти наслідки ШІ, часто не мають можливостей або засобів для повної передачі своїх поглядів, а також не мають відповідних захисників, які б їх підтримували. Беручи до уваги законодавче регулювання та регулювання ринку, включаючи обов'язки компаній щодо прав дітей, необхідно гарантувати спільні зусилля в побудові етичних принципів, а також ураховуючи, що сама технологічна архітектура може принести інноваційні рішення.

Крім того, з Інтернетом речей, заснованим на машинно- машинній комунікації, використання AI, як воно є сьогодні й має бути в майбутньому, сприятиме прогресуючій автоматизації цілих секторів економіки та соціального життя на планеті, особливо перед обличчям розповсюдження даних, які сприяють розвитку ШІ на основі алгоритмів машинного навчання, у цій новій економіці даних, яка представляє стосунки настільки ж асиметричні, як і взаємини між дітьми, їхніми сім'ями та компаніями, які займаються збором та обробкою ваших персональних даних. Таким чином, стандарт CRbD гарантує, що керовані бізнес-моделі з нової економіки даних не експлуатують дітей хижацьким чином. Часто шкідлива діяльність компаній створює загрозу праву дітей на приватність, безпеку та свободу.

Разом із цим він може сприяти дискримінаційній практиці та комерційній експлуатації, у тому числі під час освітньої діяльності, що може серйозно поставити під загрозу розвиток дітей у різних формах і рівнях, а також сприяти безпосередньому посиленню та поглибленню вразливості дітей у контексті структурної нерівності.

Щоб найкращі інтереси дітей були враховані, щоб захистити право всіх дітей на приватність і на повний розвиток у пошуках своїх найкращих інтересів, виникає стандарт дизайну, орієнтованого на дитину, який підтримується сферою застосування Конвенції про права дитини, оскільки кожна дитина повинна бути здатною повністю розвинути свій потенціал, так як вони громадяни не майбутнього, а сьогодні.

Зокрема, стандарт CRdD для AI можна було б перевести в такі конкретні рекомендації для суб'єктів, які керують, розробляють і надають продукти й послуги за допомогою ШІ, що безпосередньо чи опосередковано впливають на дітей: 1) інтегрувати положення Конвенції про права дитини; 2) використовувати міждисциплінарну перспективу для досягнення найкращих інтересів дитини; 3) загальне прийняття найкращих технологій і політики; 4) Due diligence політики та стандартів громади; 5) мінімізація даних; 6) повне володіння дітьми своїми даними; 7) безкомерційні цифрові простори; 8) підштовхувати техніку в найкращих інтересах дитини; 9) норми безпеки; 10) налаштування високої конфіденційності за замовчуванням; 11) батьківський контроль і посередництво; 12) право використовувати, грати та брати участь без збору даних (опції, вільні від обробки даних дітьми); 13) прийняття оцінки впливу на захист даних дітей; 14) використання даних без шкоди (обробка даних дітей повинна завжди відповідати їхнім найкращим інтересам); 15) прозорість, доступність і розбірливість умов використання й політики конфіденційності; 16) немає обміну даними. Крім усього цього, для всіх автоматизованих рішень за допомогою ШІ завжди важливо гарантувати їх зрозумілість і підзвітність, особливо пояснювати, чому та як права дітей будуть захищатися й заохочуватися. І, нарешті, не тільки батьки відповідають за захист дітей і їхні найкращі інтереси: усе суспільство, включаючи приватних агентів, таких як технологічні бізнес-підприємства, цифрові платформи, програми, підключені пристрої, алгоритми, має надавати їм пріоритет.

Висновки

Підсумовуючи, можна сказати, що етику, людську гідність і права дітей необхідно заохочувати та впроваджувати від початку розвитку будь-якої системи ШІ, що може вплинути на дітей, прямо чи опосередковано, до їх ефективного використання. Можна сказати, що сьогодні ми маємо чотири сили, які можуть діяти разом або навіть окремо, щоб створити певний баланс щодо регулювання ШІ. Цими силами є закон; архітектура та дизайн систем ШІ; регулювання ринку, етика й принципи. Основа всього регулювання ШІ - у цих чотирьох силах, включаючи питання освіти, має ґрунтуватися на етичних цінностях: пояснюваності; підзвітності й прозорості. Отже, важливо гарантувати права дитини шляхом створення систем ШІ, які впливають на дітей, виходячи з їхніх найкращих інтересів, щоб заохочення прав дітей, а також їх захист були ефективними, чинили реальний позитивний вплив на життя дітей, навіть якщо вони перебувають у ситуації сильної соціально-економічної вразливості. У випадку систем ШІ, які стосуються дітей, у тому числі для навчання, які використовуються ними або для них, їхні інтереси завжди мають переважати, і в цьому сенсі весь ШІ також повинен завжди на перше місце ставити свої права й інтереси.

Література

1. Конвенція про права дитини / Організація Об'єднаних Націй. URL: https://www.ohchr.org/en/professionalinterest/pages/crc.aspx.

2. ЮНІСЕФ, Політичні вказівки щодо ШІ для дітей - проект 1 вересня 2020 р. URL: https://www.unicef.org/globalinsight/media/1171/file/ UNICEF-Global-Insight-policy-guidance-AI-children- draft-1.0-2020.pdf.

Размещено на Allbest.ru