Протиріччя інструментального та суб'єктного підходів в осмисленні загального штучного інтелекту

Размещено на http://allbest.ru

Український державний університет науки і технологій

Протиріччя інструментального та суб'єктного підходів в осмисленні загального штучного інтелекту

Бескаравайний Станіслав

Дніпро, Україна

Анотація

Мета: розкрити одне з протиріч у розумінні «загального штучного інтелекту» (ЗШІ), а саме уявлення про ЗШІ одночасно як про інструмент і як про суб'єкт, та виявити шлях його усунення.

Актуальність: виявлення перспективних напрямів розвитку ШІ, а також уточнення потенційних загроз, які він може нести. Усунення деяких фобій, що супроводжують процес становлення ЗШІ.

Результати: інструментальний підхід у розумінні ШІ має основу в інструментальному розумінні техніки взагалі, а також у класичних уявленнях про штучний інтелект, що були сформовані у працях А. Тьюринга. Такий підхід редукує роль ШІ до ролі «автономного помічника», спрямованого на вирішення обмеженого кола завдань, що викликає перманентну етичну дискусію про відповідальність людини-керівника.

Опоненти суто інструментального розуміння ШІ розглядають його узагальнено, у межах концепції глобального еволюціонізму, або фокусуються на прогнозуванні соціальних та біологічних наслідків створення ЗШІ.

Щоб усунути ці протиріччя, ШІ необхідно розглядати як суб'єкт, який повинен взаємодіяти з реальними об'єктами, для чого потрібне тіло. Саме власне тіло може верифікувати для ШІ процеси абстрагування для дослідження навколишнього середовища.

Отже, роботехніку необхідно розглядати не як прикладну дисципліну, а як одну із фундаментальних складових створення ЗШІ. Для оцінки можливості створення ЗШІ при існуючому рівні розвитку техніки, використано діалектичний метод, історичний підхід, критерії автономності та цілепокладання.

Висновки: створення ЗШІ без надання йому якостей суб'єктності неможливе. Які б утилітарні можливості не отримали ШІ, самі собою вони залишаються інструментами, а такі не можуть становити загрозу соціуму. ЗШІ повинен мати можливість формулювати власні цілі розвитку.

Значною загрозою може бути звуження соціальної ролі людини, коли цілі діяльності індивіду в соціумі задаватимуться вже ЗШІ.

Ключові слова: автономність, робот, суб'єкт, цілепокладання, етика, надрозум, сінглтон

Abstract

Beskaravainyi Stanislav

Ph.D., Assoc. Prof.,

Ukrainian State University of Science and Technology (Dnipro, Ukraine)

Purpose. To reveal one of the contradictions in the understanding of "artificial general intelligence" (AGI), namely the idea of AGI as both a tool and a subject, and to identify a way to eliminate it.

Relevance. Identifying promising areas for the development of AI, as well as clarifying the potential threats that it can carry. Elimination of some phobias that accompany the process of becoming an AGI.

The results: the instrumental approach to understanding AI is based on the instrumental understanding of technology in general, as well as in the classical ideas about artificial intelligence, formed in the works of A. Turing. This approach reduces the role of AI to the role of an "autonomous assistant" aimed at solving a limited range of tasks.

Opponents of a purely instrumental understanding of AI consider it in general, within the concept of global evolutionism, or focus on predicting the social and biological consequences of the creation of AI.

To resolve these contradictions, AI must be seen as a subject that must interact with real objects, which requires a body. It is the body that can verify for AI the processes of abstraction in the study of the environment. Therefore, robotics should be considered not as an applied discipline, but as one of the fundamental components of the creation of general AI. To assess the possibility of creating AGI at the current level of technology development, the dialectical method, historical approach, criteria of autonomy were used.

Conclusions. The creation of an AGI without giving it the qualities of subjectivity is impossible. Whatever utilitarian opportunities AI has received, they themselves remain tools, such cannot pose a threat to society. AGI should be able to formulate its own development goals. A significant threat may be the narrowing of the social role of a person when the goals of an individual's activity in society will be set by AGI.

Keywords: autonomy, robot, subject, purpose, ethics, overmind, singleton

Вступ.

Актуальність. Проблема розширення можливостей штучного інтелекту (ШІ), створення універсальних, призначених на вирішення будь-яких завдань, т.зв. «загальних ШІ» - актуальна тим більше, чим більша участь ШІ в житті людини.

Аналіз попередніх досліджень і публікацій. З одного боку, переважно ШІ мисляться як суто інструментальні, службові програми. Інструменти можуть бути дуже різноманітні: використовуватися в медичних цілях (Lahoud et al., 2022), або у військових (Gomez de Agreda А., 2020). Інструмент, в ідеалі, передбачає збереження за людиною повноти контролю, моральної та юридичної відповідальності за його використання.

Результати дослідження

Якщо дослідницька програма А. Тьюринга фактично виконана - комп'ютери у просторі гри перемагають людину і можуть здійснювати значну частину завдань з перекладу текстів - а «загальний ШІ» ще не з'явився, то що може бути причиною такої суперечності?

Ймовірно, вихідною проблемою такого осмислення ШІ можна вважати інструментальний підхід до розуміння техніки взагалі. Техніка - це щось утилітарне, корисне.

Філософія технікі традиційно розглядає пристрої та технології як інструменти досягнення мети, задоволення потреб та ін. (Mitcham, 1994, pp. 22-26). Природно, нові програми створюються, щоб отримати від ШІ суто інструментальні якості.

Суб'єкт, навпаки, це початок, що діє та пізнає, та яким у рамках класичної філософії має виступати людина. Але що можливо зазначити як історичні передумови виникнення суб'єкта? Якщо розглядати як суб'єкт ще не людину, але просто організм, то основа суб'єктності - можливість підтримувати власне існування. Тобто життя як джерело нашої цивілізації починається з можливості одноклітинної істоти підтримувати власний гомеостаз. Звичайно, індивід не має абсолютної незалежності від соціуму. Суперечності між егоїзмом і альтруїзмом, відображають необхідність індивіда приймати власні рішення, але забезпечувати родичів, періодично виступаючи для них у ролі інструменту. Але індивід, якого було зведено до єдиної функції, до інструменту, втрачає суб'єктність. Тобто життя вимагає виконання цілей соціуму, і одночасно формування цілей кожного окремого індивіда, що періодично суперечать цілям інших індивідів.

Тоді для характеристики цього індивіду можливо використовувати поняття «автономності»: його поведінка визначається його внутрішніми підставами і не залежить від впливу зовнішнього середовища та інших індивідів.

Виходячи з цього критерію, можливо зазначити, що «загальний ШІ» - це суб'єкт, який настільки автономний, що виробляє власні цілі діяльності та потенційно може вступити у протиріччя з людиною.

Чи достатній зараз для цього рівень розвитку техніки?

Роботам, наприклад, потрібно приймати рішення у межах управління своїм тілом. Але підготовка робота до періоду функціонування майже скрізь залишається справою людей, які його обслуговують. У сенсі автономності навіть домашній пилосос, який автоматично стає на зарядку, є куди самодостатній за сучасний важкий дрон, що стартує з палуби авіаносця: після приземлення дрон обслуговується десятком техніків. Тобто у роботів немає цілісної незалежної структури управління своїм тілом.

Створено частково автономні програми: це системи безпеки, різноманітні електронні брокери, оптимізаційні помічники менеджерів тощо. Будь-яка програмна оболонка на персональному комп'ютері прагне оптимізувати його діяльність, взяти на себе суто технічні операції. Але навіть найдосконаліші системи безпеки не можуть забезпечити повний цикл переустановлення програмного забезпечення.

Не може забезпечити техніка й автономного від людини розвитку науки і культури, як засобів пізнання світу та створення правил поведінки, наприклад, антропоморфних роботів у суспільстві. Немає навіть автоматизованих засобів формулювання нових обмежень: ухвалення законів про роботів у будь-якому парламенті в жодному разі не є автоматизованою процедурою.

Не досягнуто автономності у становленні індивідуального ШІ-суб'єкта: якщо зараз уявити автономного робота, який отримав найпередовіше програмне забезпечення, та розпочав трудову діяльність, для того щоб заробляти гроші на запчастини - то немає жодних сумнівів, що розробка його програмного забезпечення буде здійснена багато в чому людьми та не автоматизована. Навіть найсучасніша нейронна мережа при своєму навчанні потребує супроводу та контролю фахівців. Так, частково автоматизовано розробку носія для програмного забезпечення: існують різні пакети САПР, але ось поєднання проекту з вимогами економіки та суспільства (тобто розробка соціального тіла робота) щоразу є плодом цілої суми компромісів: економічних, політичних, етичних, соціальних.

Ще менш автономним є процес еволюції ШІ- суб'єкта: якщо говорити про розробку принципово нових видів ШІ, наприклад, заснованих на використанні квантових комп'ютерів, то розробка теорії кантових комп'ютерів була проведена людьми, і сучасні лабораторії так само лише частково автоматизовані. Винаходи робляться за допомогою комп'ютерних програм, але ще не виключно програмами.

Тобто суб'єктність ШІ, як умова, має на увазі набуття певного рівня автономності. Звичайно, автономність не може бути абсолютною, якщо тільки перед нами не «сінглтон», не моносуб'єкт, який включив у себе всю існуючу техносферу та контролює суспільство.

Але що використовувати як критерій автономності штучного інтелекту?

З одного боку, критерієм може бути контроль над потоками речовини та енергії, які споживає техніка. Але повного контролю над такими потоками не змогла досягти навіть сучасна людська цивілізація: ознакою неповноти контролю є актуальні екологічні проблеми та спроби врятувати біосферу від апетитів власної промисловості.

З іншого боку, можливо сформулювати когнітивні критерії: можливість незалежно від людини проводити абстрагування - підніматися від відчуття феномену, до формулювання поняття. Поки що для комп'ютерної програми це так само неможливе. Але навіть якщо стане можливо в найближчому майбутньому, то чи отримає ШІ автономність у сенсі свободи дій?

Щоб усунути це протиріччя, тіло робота можливо розглядати як набір його індивідуальних актуаторів (інструментів для впливу на навколишній світ) та як об'єкт-верифікатор, той полігон, що дозволяє техногенному суб'єкту проводити процедури абстрагування. Інші якості цього тіла - розміри, джерела енергії, матеріали - це питання, що виходить за межі цієї статті.

Тобто роботехніка неспроможна розглядатися як якась побічна, суто утилітарна область, де можна застосовувати знахідки, зроблені у процесі створення загального ШІ. Це базова дисципліна для досліджень процесів абстрагування, які мають проводити ШІ- суб'єкти.

Однак, навіть потенційна наявність ШІ-суб'єкту зіткається з побоюваннями суспільства.

Сьогодні існують різні форми неолуддизму (досить типовим є страх водіїв таксі, що Uber почне експлуатацію безпілотних автомобілів), не кажучи вже про те, що люди побоюються безпосередньо взаємодіяти з роботами (Subero-Navarro et al., 2022).

Але це страх втрати соціального статусу, пов'язаний із програшем конкуренції машинам: трудові операції, які виконувала людина, тепер виконуватиме машина. Страх сучасних художників чи сценаристів перед ШІ-інструментом, не відрізнити від страху середньовічних переписувачів книг перед появою друкарського верстата.

Історія показує, що люди переходять до виконання інших трудових операцій. Сучасні дослідники пропонують художникам колаборацію, співпрацю з роботами (Mazzon, & Elgammal, 2019), тобто все одно бачать у машинах - інструмент, хай і вищого рівня.

Аналогічна ситуація з військовими роботами: проблема остаточного ухвалення рішення на відкриття вогню породжує суму побоювань. Основні загрози вбачають у «дружньому вогні» (випадковому знищенні своїх солдатів), перехопленні керування бойовими машинами, розмитій відповідальності командування тощо. При цьому образи бунту машин залишаються атрибутом фантастичних творів, а не виважених прогнозів. Тому що навіть можливість «ухвалення остаточного рішення» не робить військового робота автономним у сенсі обслуговування.

Чого справді може побоюватися суспільство?

Звичайно, неминучий перехід кількості в якість: якщо машини виконують краще за людину всі можливі трудові операції, роблять це дешевше, швидше, а також швидше за людський колектив створюється безлюдний техноценоз - то так, людина витісняється з виробничого процесу. Поки що класичний пролетаріат рятує «парадокс Моравека»: простіше автоматизувати процес, який уже алгоритмізований, а якщо технологія ще не алгоритмізована, тобто потребує буквально навичок однорічної дитини у розпізнанні та орієнтуванні, то людина справляється з нею краще (Moravec, 1988, p. 15.). При цьому у 2023 році парадокс Моравека явно застаріває: нейронні мережі все краще освоюють наслідування, мімезис.

Але в історії техніки безліч прецедентів, коли виробничий процес теоретично, начебто, можна автоматизувати, а він зберігає в собі частку ручної праці. У цьому висуваються не виробничі вимоги: безпека, конфіденційність, необхідність зберігати традицію (тобто соціальні процеси у суспільстві), необхідність підтримки незаможних тощо. Сума цих вимог фактично є відображенням не-автономності ШІ.

Але уявімо ШІ, які почнуть самостійно заробляти на ринку праці, акумулюючи кошти на власному розрахунковому рахунку, замовляти програмні оновлення, запасні частини та послуги роботів з їх встановлення. Щоб таке сталося, ШІ повинен мати можливість планування витрат, купівлі оновлених пакетів програм, легальний юридичний статус, тобто якусь форму автономності. Для автономності у суспільстві - необхідне набуття кількох десятків критичних навичок, і відсутність будь-якого їх ставить під сумнів суб'єктність людина чи машини. Наприклад, інвалідність людини, якій не могли допомагати треті особи, ще відносно недавно була підставою, щоб поставити під сумнів її дієздатність. У цьому сенсі показовим є набір можливостей, які Б. Герцель вважає за необхідне для загального ШІ, хоча б порівнянного з людиною: серед них можна побачити «соціальне планування», «імпровізації при групових взаємодіях», «орієнтованість на соціальні відносини» тощо (Goertzel, 2014, pp. 9-10).

Якщо ШІ отримує автономність як суб'єкт, він починає конкурувати з людиною не за трудові операції, а за соціальні ролі та контроль за розподілом ресурсів. Роль характеризується масштабом, формалізацією процесів, методом отримання цієї ролі. Вирішальний вплив на неї можуть задавати фактори, що пов'язані не лише з отриманням даних, але з формуванням світогляду та становленням особистості. Метою конкуренції стає можливість ухвалювати управлінські рішення, планувати розвиток. І як найвищий вираз розвитку - формулювати цілі, перспективи та цінності, яких необхідно досягти в процесі розвитку. Тому перспективним об'єктом дослідження може бути безпілотні автомобілі як такі, а умовна вантажівка на самоокупності, яка оснащена ШІ, має юридичний статус платника податків та намагається подовжити своє функціонування. Природно,подібній процес навряд чи розпочнеться у карикатурних чи жахливих образах, які створюють фантасти. Спроби конструювання етики для ШІ, яким, наприклад, багато в чому присвячена книга Н. Бострома (Bostrom, 2014) - це спроби помислити «виховання» майбутнього ШІ сприятливим для людини способом, тобто сформувати у ШІ гуманні уявлення про світ. Ці міркування вкладаються у традицію авторів Просвітництва, і суму концепцій, що шляхом виховання людину можливо зробити кращою.

Зрозуміло, подібна етика не дає гарантії: якщо етичні кодекси автономних помічників раз і назавжди задаються при їхньому «вихованні» та не можуть змінюватися в процесі діяльності, то такі помічники позбавлені можливості конструювання цілей свого розвитку та їх свобода є неповною. Реальний конфлікт у соціумі завжди ставить під сумнів норми моралі.

Тому для суспільства актуальними стають питання співпраці з роботами, коректного вибудовування людино-машинних взаємодій та колективів.

Висновки

1. Створення «загального ШІ» без надання йому якостей суб'єктності неможливо. Повноцінне пізнання ним світу, накопичення знань, використання інформації у своїх інтересах - можливо лише в тому випадку, якщо автономність ШІ не буде жорстко обмежена цілереалізацією людських вказівок. «Загальний ШІ» повинен мати можливість формулювати власні цілі та хоча б обмежену можливість їх досягнення;

2. Терміни «автономний помічник», «автономний агент», які широко використовуються в роботобудуванні та індустрії ШІ - відображають перехідний статус програмних продуктів і машин: їхня дійсна автономність значно, якісно поступається автономності біологічних організмів, хоча має тенденцію до зростання;

3. Набуття ШІ якостей суб'єкту пов'язане з можливістю автономної підтримки власних технологічних циклів, і навіть з можливостями автономного від людини становлення техногенного індивіду, технологічної еволюції. Але за нинішнього рівня розвитку техніки це неможливо. Також для суб'єктивації ШІ у суспільстві йому потрібне набуття численних соціальних навичок;

4. Для усунення протиріччя інструмент-суб'єкт як критерій автономності ШІ можливо використовувати його тіло: з одного боку тіло можливо розглянути як набір індивідуальних актуаторів-кінцівок, причому вони можуть бути підконтрольні лише даному конкретному ШІ, з іншого боку тіло - це найкращий для індивіда об'єкт-верифікатор, який дозволяє техногенному суб'єкту проводити процедури абстрагування;

5. Технофобії, пов'язані з поліпшенням ШІ окремих інструментальних якостей - відбивають реальні проблеми лише окремих соціальних груп, і є проявами неолуддизму. «Слабкі ШІ» призводять до великих змін на ринку праці, але які б утилітарні можливості не отримали ШІ, самі по собі, такі зміни не можуть загрожувати соціуму в цілому. Поки цільову вказівку для ШІ формулює користувач, люди пристосуються до нових можливостей програм та роботів;

6. Загрози, викликані суб'єктивацією ШІ, можуть виявлятися в узурпації ним соціальних ролей, які досі виконують люди. Будь-які етичні кодекси «автономних помічників» не зможуть стримувати суб'єктів, які мають свободу вибору. Тому як перспективу подальших досліджень необхідно розглянути, як потенційно небезпечну для людини, практику звуження або формалізації її соціальної ролі при взаємодії з ШІ. Також можливо розглянути проміжні стадії становлення суб'єктності ШІ, наприклад, як юридичної особи або робота з обмеженим набором навичок.

References

Andreae, J. H. (2021). An AGI Brain for a Robot. Academic Press.

Boltuc, P (2020). Consciousness for AGI. Procedia Computer Science, 169, 365-372.

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.

Brooks, R. A. (1991). Intelligence Without Representation. Artificial Intelligence, 47, 139-159.

Doy, K., & Taniguchi, T. (2019), Toward evolutionary and developmental intelligence. Current Opinion in Behavioral Sciences, 29, 91-96.

Fragapane, G., de Koster, R., Sgarbossa, F., & Strandhagen, J. O. (2021). Planning and control of autonomous mobile robots for intralogistics: Literature review and research agenda. European Journal of Operational Research, 294(2), 405-426.

Goertzel, B. (2014), Artificial General Intelligence: Concept, State of the Art, and Future Prospects. Journal of Artificial General Intelligence, 5(1), 1-46.

Gomez de Agreda, А. (2020). Ethics of autonomous weapons systems and its applicability to any AI systems. Telecommunications Policy, 44(6).

Kurzweil, R. (2006). The Singularity Is Near: When Humans Transcend Biology. London: Penguin Books.

Lahoud, P., Diels, S., Niclaes, L., Van Aelst, S., Willems, H., Van Gerven, A., ..., & Jacobs, R. (2022). Development and validation of a novel artificial intelligence driven tool for accurate mandibular canal segmentation on CBCT. Journal of Dentistry, 103891

Mazzon, M., & Elgammal, A. (2019). Art, Creativity, and the Potential of Artificial Intelligence. Arts, 8(1). DOI: 10.3390/ arts8010026

Mitcham, C. (1994). Thinking Through Technology: The Path Between Engineering and Philosophy. Chicago: University of Chicago Press.

Moravec, H. (1988). Mind Children: The Future of Robot and Human Intelligence. Harvard: University Press.

Putnam, H. (1960). Dimensions of Mind. In S. Hook (Ed.), Minds and machines (pp.148-179). N.Y.: New York University Press.

Russell, S., & Norvig, P., (2010). Artificial Intelligence: A Modern Approach. 3rd Ed. New Jersey: Pearson Education, Inc.

Savage, N. (2019). How Al and neuroscience drive each other forwards. Nature, 571(7766), 15-S17. DOI: 10.1038/d41586-019- 02212-4

Subero-Navarro, A., Pelegrin-Borondo J., Reinares-Lara, E., & Olarte-Pascual, C. (2022). Proposal for modeling social robot acceptance by retail customers: CAN model + technophobia. Journal of Retailing and Consumer Services, 64(102813), 30-39.

Turing, A. M. (2013). Intelligent Machinery. In S. B. Cooper, & van Leeuwen J. (Ed.), The selected works of A.M. Turing: his work and impact (pp. 501-517). Waltham, MA.

Размещено на Allbest.ru