По той бік технологічної сингулярності: дилема гуманістичних обмежень і необмеженого "постгуманного" розвитку

Размещено на http://www.allbest.ru/

СТАТТЯ З ТЕМИ:

ПО ТОЙ БІК ТЕХНОЛОГІЧНОЇ СИНГУЛЯРНОСТІ: ДИЛЕМА ГУМАНІСТИЧНИХ ОБМЕЖЕНЬ І НЕОБМЕЖЕНОГО «ПОСТГУМАННОГО» РОЗВИТКУ

Ожеван Микола Андрійович, доктор філософських наук, професор

Сингулярність за умов бурхливого розвитку конвергентних технологій четвертого покоління («Індустрія 4.0») перетворилася нині на один з ключових термінів для філософських роздумів про майбутнє людини й людства (Human 2.0). Філософські міркування щодо сингулярності стосуються багатьох розділів філософії включно з історією філософії, метафізикою, філософією науки, філософією техніки тощо.

Філософські міркування про майбутнє «по той бік точки сингулярності» не є міркуваннями поза межами науковості. Дійсно, йдеться про те, чого поки що реально не існує й що неможливо уявити, якщо вважати наші уявлення принципово обмеженими відчуттями й сприйняттями. Але творча уява людини є наслідком її вродженого намагання здолати природу включно зі своєю власною людською природою, результатом самотрансцендування й самоподолання.

Ключові слова: конвергентні технології, надлюдина, антропоцентризм, сингулярність, технологічна сингулярність, сингулярітаріанізм, трансцензус, трансгуманізм, постгуманізм, роботи.

Ozhevan Mykola

BEYOND TECHNOLOGICAL SINGULARITY: DILEMMA OF HUMANISTIC RESTRICTIONS AND UNLIMITED «POSTHUMAN» DEVELOPMENT

«Singularity» is one of the key terms for philosophical reflection on the future of human beings (Human 2.0) in the conditions of rapid development of convergent technologies of the fourth generation («Industry 2.0»). The philosophical thoughts about the singularity intersect many areas, including the history of philosophy, metaphysics, the philosophy of science, the philosophy of technics etc.

The philosophical arguments about the future «beyond the point of singularity» aren't beyond the scientific considerations. Indeed, the question is what still does not really exist and is impossible for imagination, if we assume that our understanding is fundamentally limited by sensations and perceptions. But creative imagination of human being is the result of innate desire to overcome the nature including the nature of human being, the result of self-trancensus and self-overcoming.

Keywords: convergent technologies, overhuman, anthropocentrism, singularity, technological singularity, singularitarianism, transcensus, transhumanism, posthumanism, robots.

Самотрансцендування як атрибут «природної людини»

У Передньому слові до знаменитого трактату «Так мовив Заратустра» Фрідріх Ніцше уподібнив людину у всіх трьох її часових станах - минулому, сучасному й майбутньому - до канатохідця, який рухається по тісно натягнутій між двома баштами линві над проваллям. Башта, що позаду, символізує тваринне минуле (недолюдину). Башта попереду, - майбутню Надлюдину (нім. Ubermensch; англ. Overman).

Звертаючись до натовпу, ніцшеанський Заратустра мовить: «Я скажу вам, хто така надлюдина. Людина - це те, що треба здолати. Що ви зробили, аби її здолати? Всі істоти досі створювали щось вище від себе, а ви хочете стати відпливом цієї великої повені й ладні скоріше вернутись до звіра, аніж здолати людину? Що для людини мавпа? Посміховище або нестерпний сором. І тим самим має бути людина для надлюдини - посміховищем або нестерпним соромом» [1].

Власне, точки кріплення «линви» можна вважати точками сингулярності або гуманістичних революцій (дарвінівської й постдарвінівської). Звідси виникають уявлення про три різні стани «людських умов» і, власне, «природи людини» - гуманний, трансгуманний та постгуманний.

Естетичною відповіддю на ніцшеанський заклик до «самоподолання» людини став сформульований Ф. Т. Марінетті Маніфест футуризму (повна назва - «Обґрунтування і маніфест футуризму»), - основоположний документ футуристичних авангардистських течій в європейському мистецтві початку XX століття. (Маніфест футуризму вперше був опублікований у вигляді платного оголошення на першій шпальті французької газети «Фігаро» 20 лютого 1909 р.)

У повній відповідності з ученням Ф. Ніцше «Маніфест» проголосив культ руйнування минулого заради майбутнього, возвеличив прагнення до швидкості, незвичних форм [2]. «Міфологія, містика - все це вже позаду! На наших очах народжується новий кентавр - людина на мотоциклі, - а перші ангели злітають в небо на крилах літаків!», - стверджував автор Маніфесту, відкидаючи страхи і пасивність, усе логічне, будь-які синтаксичні зв'язки і правила, оскільки все це заважало розвивати «нових кентаврів», під якими вочевидь мислилися людино-машинні симбіонти [2].

І філософські роздуми Ф. Ніцше про людське самодолання й вихід на рівень «надлюдини», і маніфести футуристів безумовно були своєрідними реакціями на перші хвилі технологічних революцій. Подібні реакції зумовлює й пришвидшений розвиток «конвергентних технологій», що зазвичай «шифрується» абревіатурою NBIC (N - nanotechnology; B - biotechnology; I - information technology; C - cognitive science) або ж абревіатурою GNR (від genetics; nanotechnology; robotics).

Відповідна тематика віддавна вийшла за межі фантастичних оповідей і лабораторних досліджень, перетворившись на артефакти масової свідомості. Інтерес до «екзотики» NBIC або GNR підігрівають не тільки автори фантастичних та напівфантастичних оповідей та засновники нетрадиційних релігійних культів, але й організатори рекламних маркетингових кампаній, які розраховують на величезні зиски від впровадження новітніх технологій.

Водночас NBIC мають безпосереднє відношення до футурології, у якій широко представлені роботи з аналізу методів, критеріїв, систем прогнозування майбутнього. Зокрема, це характерно для праць Ф. Фукуями [3; 4], Е. Тоффлера [5; 6; 7], С. Лема [8], у яких міститься чимало апагогічних міркувань про «правильний метод» пізнання майбутнього шляхом обґрунтування хибності «неправильних методів», тобто доведення тези шляхом зведення до абсурду аргументів на користь протилежного, - антитези. Відтак, футурологи конструюють об'єктивні передумови суспільних процесів, аби в подальшому застосувати «правильні» методи і критерії для пришвидшення або уповільнення процесів, які ведуть до бажаного або небажаного майбутнього. У таких побудовах найважливішими є уявлення про бажане й дійсне майбутнє. Звідси - численні «контури майбутнього», які заперечують один одного, залежно від суб'єктивних уподобань футурологів [9].

Але, хоч у які доповнювальні до машин «гвинтики» перетворювали людей автори філософських трактатів і фантастичних оповідей, однак їхні погляди є антропоцентричними і навряд чи можуть бути іншими. Бо машини - не самостійна реальність, оскільки так або інакше вони обслуговують людські потреби якщо не «нижчих», то «вищих» людських істот (фараонів, імператорів, капіталістів тощо), які намагаються через різноманітні машинно-технологічні опосередкування самоствердитися, підняти продуктивність праці тощо. Саме тому «який би ступінь відчуження свободи не змальовували філософи, cause finales є людськими, антропоцентричними» [9].

Одначе всі ці міркування справедливі лише до того пункту, де починається сингулярність, яка є справжнісінькою розумовою катастрофою для любителів «правильного мислення».

«Сингулярність» із філософської й нефілософської точок зору

Сингулярність (лат. singulis - єдиний, одиничний) є антонімом множинності, плюральності (лат. pluralis - множинний). У філософії така характеристика означає неповторність істоти, події, явища тощо, тобто неможливість редукувати певні характеристики до категорій загального й особливого, якими, власне, оперують різноманітні «закони розвитку», «закони функціонування» тощо. Отже, сингулярне у цьому розумінні завжди є «чудом із чудес», - порушенням законів, протиприродністю.

У вищенаведеному розумінні син- гулярністю є Бог і будь-яка людська Особистість, створена, згідно з юдеохристиянським віровченням, за його Божественним образом і подобою. Сингулярністю є Історія як сукупність унікальних подій, явищ, процесів, постатей, а не уявлень та міфів, з цим усім пов'язаних. Саме через свою сингулярність історичні та інші соціогуманітарні явища та процеси не можуть бути sensu scripto предметами наукового пізнання. «Історія означає повідомлення про одиничне» («Historia significat singulorum notitiam»), - резонно стверджував неосхоласт, картезіанець Р. Гокленіус у «Словнику філософської лексики» [10].

Сингулярність математична - значення або діапазон значень функції, для якої не існує похідної. Йдеться про точку, в якій математична функція «ламається» й прямує до нескінченності або ж виявляє інші відхилення від «правильної поведінки». Це спостерігається зокрема тоді, коли графік функції підходить до часової точки «нуль» (будь-яке число, яке описує цю функцію, поділене на нуль, набуває вимірів нескінченості) [11]. Сингулярність геометрична - точка, в якій перетинаються (зустрічаються) усі паралельні лінії [11]. Сингулярність фізична - точка, в якій усі вимірювальні змінні досягають значень невимірювальних або нескінченних [11]. Сингулярність гравітаційна (просторово-часова) - область простору-часу, в якій гравітаційні сили спричинюють утворення речовини нескінченної щільності, що зазвичай пов'язують із «чорними дірами». Це область, через яку неможливо «гладко» продовжити геодезичну лінію, яка в неї входить [11]. Сингулярність космологічна - стан Всесвіту в початковий момент гіпотетичного Великого вибуху, що характеризувався нескінченною щільністю і температурою праречовини [11].

Загалом, протиставлення двох типів буття - одиничного (умовно номінованого) й універсального (безумовного) - було характерною ознакою середньовічної схоластики, яка ознаменувалася поділом філософів на номіналістів й реалістів. Згодом таке протиставлення сингулярного (унікального) та плюрального (повторюваного, рутинного) перетворилося на протиставлення двох типів знань і наук - «розуміючих» і «нерозуміючих», гуманітарних та природничих, неточних і точних (natural sciences & human sciences).

Мабуть, серед сучасних філософів найбільш глибоко сутність сингулярності розкрили французькі філософи-постмодерністи й зокрема - Жіль Дельоз, який тлумачив сингулярність у дусі монадології Г. Лейбніца як складку (згин) буття, як подію, що породжує сенс і має точковий характер, як «зворотні пункти і точки згинів; вузькі місця, вузли, передпокої і центри; точки плавлення, конденсації і кипіння; точки сліз і сміху, хвороби і здоров'я, надії і зневіри, точки чутливості». При цьому, залишаючись конкретною точкою, подія неуникно пов'язана з іншими подіями. Тому точка одночасно є і лінією, що виражає всі варіанти модифікації цієї точки і її взаємозв'язків з усім світом [12].

Сингулярність - це «революційна» точка, в якій усі зміни, що уповільнено відбувалися мільйонами або мільярдами років, раптово змінюються на радикальні зміни, які відбуваються впродовж трьох-п'яти хвилин. Саме цю обставину мав на увазі Стівен Вайнберг, який назвав свою популярну книгу, присвячену космологічній сингулярності (Великому Вибухові), «Перші три хвилини» [13].

Сингулярність технологічна (technological singularity - надалі TS) описує період надзвичайно швидких перетворень, які настільки кардинально поміняють людську природу, що згодом не доведеться навіть ставити питання про «природу людини», оскільки йтиметься про феномен надприродний щодо добре нам відомої «природи», - технологічний супранатуралізм. TS, синонімами якої є «емерджентність», «трансцендування» тощо, - умовна точка, в якій «інтелектуальні машини» або зрівняються у своїх здібностях і можливостях з людьми, або навіть перевершать людей, що позначається поняттями трансгуманізму й постгуманізму [14].

Ідеться передусім про перспективи створення штучного інтелекту, могутнішого від людського (smarter-than- human artificial intelligence). Надалі, якщо рухатися за тією ж логікою, настане черга машинних «буцімто-людських» якостей: емоційності й моральності, волевиявлення й цілепокладання тощо. Важко сказати, чого в таких міркуваннях більше, - науки, технологізму чи нетрадиційної (секулярної) релігії.

Настання ери artificial intelligence (AI) призначається адептами TS й трансгуманізму на 2020, 2030, 2045 роки та інші «круглі дати» з такою ж есхатологічною послідовністю, з якою послідовники певних релігійних віровчень призначають «круглі дати» кінця світу, зазвичай вказуючи на різноманітні «мілленіуми», що дає підстави стверджувати існування певного квазірелігійного й квазіполітичного руху, - сингуляритаріанізму [15; 16; 17].

Релігійно-етичні й соціальні, психологічні й правові колізії, пов'язані з подібним переходом, «тверезо налаштовані» науковці й «технарі» зазвичай або ігнорують, або намагаються їх розв'язувати суто утилітарними засобами й способами. Парадоксально, але таке ігнорування питань саме і підсилює позиції прибічників новітніх технологій, схильних витлумачувати їхні соціально-гуманітарні наслідки в дусі «секулярної віри» [15]. Для такого квазірелігійного позитивного настановлення щодо перспектив «трансгуманізму» придумали навіть умовну позначку «H+» (від Huma- nity+), що є символом людського самотрансцензусу (self-transcensus), - самопожертви «старої людини» заради «нової людини» [15; 16].

Наприкінці 1990-х років сформувалася Світова трансгуманістична асоціація (World Transhumanist Association) (WTA), засновниками якої стали філософи Нік Бостром та Девід Пірс. Щоправда, у 2009 р. WTA здійснила ребрендинг, позначивши себе як «Група Humanity+».

Відтак, починаючи від кінця 80-х - початку 90-х рр., коли терміни «сингулярність», «трансгуманізм», «постгуманізм» почали набувати популярності у колах не тільки любителів фантастики та паранауки, але й серйозних науковців та інженерів, накопичилися чималі ресурси праць на подібну тематику включно з філософськими, теологічними, політичними й політологічними. Створені спеціалізовані форуми в Інтернеті, написані програми політичних та громадянських рухів і політичних партій.

Очікування радикального переходу до технологій «четвертої індустріальної хвилі» (NBIC) породжують цілковито вмотивовані надії й «зазіхання» не тільки на радикальне поліпшення умов людського існування (human enhancement), але й на радикальну зміну самої біологічної природи людини й навіть на її підміну (заміну) іншою природою - штучно-сконструйованою, яка піддаватиметься свідомим регулятивним впливам людини. Сучасний стан людини й людства «трансгуманістам» уявляється кінцевим пунктом біосоціальної еволюції й початковим пунктом подальшої технологічної революції (точкою сингулярності), коли людина візьме свою подальшу еволюцію під власний контроль, наслідком чого надалі стане повне «розтваринювання» (деанімалізація) людини [15; 16].

Водночас, коли в однієї частини мешканців планети виникають обґрунтовані (або безпідставні) очікування стосовно отримання за рахунок нових технологій «людської природи», позбавленої хвороб, старіння й смерті, то в іншої частини людства виникають законні або незаконні фобії щодо потрапляння у рабську залежність від суперістот, наділених інтелектом, потужнішим від людського.

У середовищі «технарів», тобто представників природничо-наукового людинознавства (науковців та технологів), перспектива підсилення за рахунок нових технологій можливостей «природної людини» (human enhancement) та виходу людського розвитку на принципово «вищий» трансгуманний або постгуманний щабель розвитку зазвичай не викликає особливого спротиву, а радше навпаки - пробуджує чималий ентузіазм.

Приміром, у виборчій президентській кампанії США 2016 року брала участь Трансгуманістична партія (The Transhumanist Party) Золтана Іштвана (Zoltan Istvan Gyurko) [18], який у суто рекламних цілях 19 червня 2015 р. офіційно зареєструвався кандидатом у президенти США. В інтерв'ю The Newsweek

З. Іштван не без іронії пропонує на президентських виборах 2018 р. обрати ... робота. «Історично, одна з найбільших проблем з лідерами є те, що вони виявляються самозакоханими ссавцями (selfish mammals). Президент зі штучним інтелектом буде насправді альтруїстичним» [19].

У тлумаченні трансгуманістів емерджентна революція означає необхідність відмови від традиційних моральнісно-етичних принципів, які досі «принижували» людські можливості й саму людську гідність, прищеплювали людині радикальний комплекс меншовартості тощо. Адже людина у вимірах традиційної моральності є не творцем, а творінням (тварністю, твариною тощо). У кращому разі, у випадку з неортодоксальних версіями християнства (П. Тейар де Шарден, М. Бердяєв), людина тлумачиться як співтворець Господа, хоча в чітко окреслених межах.

Технологічна сингулярність як настання ери трансгуманізму та постгуманізму

Уперше термін «сингулярність» (singularity) в розумінні «технологічної сингулярності» вжив у 1958 р. відомий кібернетик Станіслав Улам із посиланням на розмови з одним з основоположників кібернетики Джоном фон Нейманом щодо подальших перспектив розумних машин та пришвидшеного технологічного прогресу [20].

Принагідно варто нагадати про принципові розходження Дж. фон Неймана з Н. Вінером в тлумаченні предмета й завдань кібернетики. У розумінні Н. Вінера кібернетика має втілювати ідеї управління, контролю й конструювання (дизайну), тоді як в розумінні Дж. фон Неймана - ідеї складності й самоорганізації. «Розумні машини», як їх в антропоцентричному стилі розумів Н. Вінер, мають бути помічниками людини, її продовженням, тоді як «розумні машини» Дж. фон Неймана можуть і повинні вийти на рівень автономного існування й самоорганізації як «авто-поетичні системи».

Згодом популяризації ідеї TS й відповідного терміну істотно посприяв Вернор Стівен Віндж, який пов'язав TS з постгуманізмом. Термін TS Вернор Віндж радше всього запозичив з астрофізики, де він означає «горизонт» чорної діри, за яким усе «зникає», оскільки через надзвичайно високу гравітацію навіть світло не зможе цю діру покинути. У метафоричному сенсі так само не може покинути горизонт непередбачуваності світло людських знань щодо «природи людини», - людського самопізнання. У промові «Майбутня технологічна сингулярність.

Як вижити у «постгуманну еру», проголошеній у 1993 р. на спеціально організованому НАСА симпозіумі з питань ТS [23], Вернор Віндж зобразив алармуючий сценарій настання «точки закінчення людської ери», попередивши людство, що наразі у нього немає жодних засобів передбачити чи попередити настання такої ери. «Впродовж найближчих тридцяти років у нас з'явиться технічна можливість створити надлюдський інтелект. Невдовзі після цього людська епоха завершиться», - з песимістичним ентузіазмом стверджував Вернон Віндж [21], водночас не заперечуючи, що «у нас є свобода для встановлення початкових умов, щоб робити речі способами, менш ворожими, аніж інші» [21].

Але найбільше, мабуть, прислужився популяризації ідей ТS Рей Курцвейль, книги якого дали широкій публіці тривожне відчуття того, що новітні «розумні» технології призведуть до радикальних змін в житті людини і людства. На запитання «Що таке сингулярність?» Рей Курцвейль відповідає: «Це майбутній період, впродовж якого темпи технологічних змін пришвидшаться настільки і їхній вплив настільки поглибиться, що людське життя буде незворотно трансформуватися. Як би ми не розцінювали цю епоху, - утопійно чи антиутопійно, вона трансформуватиме концепції, на які ми спираємося, намагаючись надати сенсу нашому життю: починаючи від розуміння наших бізнес-моделей й циклу людського життя включно із самою смертю. Сингулярність змінить наші погляди на значення нашого минулого і наслідки нашого майбутнього, дозволить по-справжньому зрозуміти життя в цілому і своє власне конкретне життя. Я вважаю «сингулерітеріанцем» (singularitarian) того, хто розуміє сингулярність і хто задумався про її наслідки для власного життя» [24].

За Р. Курцвейлем, глобальна еволюція поділяється на шість «епох»:

Епоха І. Фізики й хімії (інформація міститься в атомних структурах);

Епоха ІІ. Біології (інформація закодована в ДНК);

Епоха ІІІ. Мозку (інформація - в нейронних паттернах);

Епоха IV. Технологій (інформація - в комп'ютерах та комп'ютерних програмах);

Епоха V. Злиття технологій й людського інтелекту (методи біології включно з людським інтелектом інтегровані у людську технологічну базу, яка експоненційно розширюється);

Епоха VI. Пробудження Всесвіту (паттерни речовини й енергії очищуються у Всесвіті завдяки інтелектуальним процесам та знанням) [22].

Найбільш відомий і безкомпромісний ідеолог сингулярності Рей Курцвейль, формулюючи думку про ймовірний «супранатуралізм», пропонує слоган: «Давайте не повертатися назад до природи!». Своє звернення Рей Курцвейль адресує «секулярним фундаменталістам», - людям, які противляться змінам, обумовленим бурхливим технологічним прогресом, ідеї мінливості людської природи [24].

У літературі можна нарахувати щонайменше півтора десятки різноманітних тлумачень ТS. Скажімо, Нікола Данаїлов (у блогосфері - «Сократ») пропонує 17 таких визначень? [25], тоді як Андерс Сендберг - тільки дев'ять [26]. Стисло охарактеризуємо цю «дев'ятку».

Найбільш «радикальне» окреслення ТS її з пришвидшеними змінами (fccelerating change), експоненційним чи суперекспоненційним зростанням можливостей «розумних машин» з усіма подальшими наслідками для економіки й соціуму [27].

Ще одне окреслення TS, популярне, але менш «епатажне» порівняно з попереднім, зводить ТS до виходу технологій на етап самовдосконалення (self improving technology), що дозволить пришвидшити розробку нових і кращих технологій [28].

Концепція ТS як «інтелектуального вибуху» (intelligence explosion) стверджує можливості самовдосконалення «розумних систем» на засадах «сильної петлі зворотного зв'язку», що дозволить цим машинам «продукувати дедалі більше інтелекту» [27-28].

Концепція TS як раптового настання ери суперінтелекту (Emergence of superintelligence; Singularity Institute під керуванням Елізера Юдковського) [29].

Концепція TS як горизонту прогнозування (prediction horizon), оскільки вважається, що швидка зміна машинного інтелекту або поява надлюдського інтелекту унеможливлює передбачення майбутнього з позицій нашого поточного обмеженого знання і досвіду [33].

Концепція TS як метафізичного фазового переходу (phase transition) до нових форм організації людини й людства, принципово відмінних від попередніх «натуральних форм», коли на зміну звичайному Homo sapiens прийдуть постлюдські богоподібні істоти зі штучним інтелектом [32; 33], що філософ і богослов П. Тейар де Шарден у трактаті «Феномен людини» позначив точкою «Омега», витлумачивши саме таким чином Друге Пришестя Христа [30; 31].

Концепція TS як катастрофічної складності (complexity disaster) акцентує на складності нового нестабільного взаємопов'язаного світу, що дедалі частіше потраплятиме в різноманітні кризи, вихід з яких обходитиметься людству дедалі дорожче [33].

Концепція TS як точки інфлексії (inflexion point) - досягнення нижнього пункту на логістичній кривій, яка характеризує динаміку розвитку економіки або технологій, що означатиме перехід від зростання до занепаду, від пришвидшення - до уповільнення (shifts from acceleration to deacceleration) [33].

Концепція TS як нескінченого прогресу (infinite progress), коли темпи прогресу в певних сферах досягнуть нескінченості за скінчений час [34].

Усі дев'ять концепцій TS, на думку Андерса Сендберга, можна звести до трьох:

пришвидшених змін (accelerating change);

«горизонту прогнозування» (prediction horizon);

інтелектуального вибуху з переходом до надінтелекту (intelligence explosion leading to superintelligence) [26].

Трансгуманізм власне артикулює концепцію як метафізичного фазового переходу до нових форм організації людини й людства, прибічники якого пропагують принципи «морфологічної свободи» й права людини на індивідуальний вибір технологій поліпшення людської природи. Серед цінностей трансгуманізму один з його чільних адептів, Нік Бостром, передусім виокремлює:

краще розуміння людської природи й заохочення з цією метою досліджень і громадських дискусій щодо майбутнього;

критичне мислення; відкритість; наукові запити; відкрите обговорення майбутнього.

отримання як індивідуального, так і колективного штучного розуму, розвиток машинного інтелекту;

філософський фаллібілізм; готовність переглянути припущення «по ходу справи»; прагматизм; інженерно-підприємницький дух; науковість;

різноманіття (видів, рас, релігійних вірувань, сексуальної орієнтації, способу життя тощо);

турбота про благополуччя;

збереження й примноження життя (життє-розширення (life-extension), дослідження питань анти-старіння;

терпимість до «фальсифікації природи» (tampering with nature); відкидання критики людської «зарозумілості»;

індивідуальний добір «підсилюючих технологій (enhancement technologies); морфологічна свобода (morphological freedom);

мир; міжнародне співробітництво; антирозповсюдження зброї масового ураження;

турбота про усі прояви духовного життя [35].

Новий луддизм та примари «робото-етики»

Питання етики й права є найбільш вразливими контрапунктами розвитку технологій NBIC. Україна, наприклад, спромоглася лише в квітні 2016 р. ухвалити закон, який регулює питання донорства органів, а отже, - їх пересадки. Зате Україна (як і деякі інші країни СНД) є унікальною країною Європи, де дозволене сурогатне материнство на суто комерційних засадах.

Лабораторні дослідження у сфері коригування людського геному, які з моральнісно-етичних та правових міркувань фактично призупинені в розвинених демократичних країнах, більш-менш успішно просуваються в Китаї та інших подібних країнах. У квітні 2016 р. китайські науковці з медичного університету в Гуанчжоу, скориставшись забороненою поки що на Заході для використання в практичних цілях методикою «коротких паліндромних повторів, регулярно розташованих групами» (англ. CRISPR - Clustered Regularly), уже вдруге (першу спробу здійснено в 2015 р.) вторглися з допомогою «наноінжектора» в клітину зиготи й «відредагували» геном людини, видаливши звідтіль «небезпечні гени». За словами автора статті про подібні дослідження Джін'ю Хуанга, цю роботу відмовилися приймати у найвагоміших наукових рецензованих журналах Nature та Science. Сама ж публікація призвела до того, що Національний інститут охорони здоров'я США поновив заборону на редагування ембріонів людини, в тому числі нежиттєздатних [36].

Автори, які працюють у такому жанрі дистопійної наукової фантастики, як «кіберпанк» (англ. cyberpunk, від cybernetics - кібернетика і punk - непотріб, «фігня») відобразили негативістську реакцію на розвиток високих технологій. У їхній песимістичній інтерпретації, вже в недалекому майбутньому високі технології призведуть до ще глибшого соціального розшарування, посилення убогості, безправ'я і вуличної анархії у міських хрущобах («13-х районах»).

Неважко розпізнати в таких поглядах ознаки постнекласичного луддизму - соціального спротиву технологічним інноваціям, обґрунтованого різноманітними фобіями, в чомусь вельми схожими на фобії фабричних робітників, які під проводом Генерала Лудда (напівміфічний персонаж) упродовж 1811-1817 рр. громили в Англії епохи Промислової революції ткацькі верстати, які відбирали у робітників робочі місця.

Безпосереднім приводом до луддистського повстання стало ухвалення британським парламентом у 1808 р. закону, який дозволяв капіталістам встановлювати на суконних фабриках нове автоматизоване обладнання, не рахуючись з долею «переміщених робітників». Тобто луддитів не варто зображати ретроградами, які заперечували (чи заперечують) технологічний прогрес заради самого заперечення. Бо насправді вони заперечували «встановлення машинерії, яка руйнує людські спільноти» (Put down all Machinery hurtful to Commonality) [37]. Такий здоровий соціальний спротив не втратив актуальності й донині. Бо технологічне й економічне зростання - не самоціль. Воно має бути підпорядковане базовим етичним принципам.

Характерно, що чимало неолуддитів походить із нещодавніх ентузіастів новітніх комп'ютерних технологій. У 2000 р. дослідник Sun Microsystems Білл Джой виступив в ролі неолуддита, опублікувавши статтю з алармуючою назвою «Чому ми не потрібні майбутньому», яка містила попередження щодо неприємних для людства наслідків «інтернетівського життя» [38]. «Наділяючи ці новітні технології неймовірною владою, - стверджував Білл Джой, - чи усвідомлллюємо ми до кінця, як будемо з ними співіснувати? І якщо наше власне зникнення є ймовірним, або навіть можливим результатом нашого технологічного розвитку... І, якщо ймовірним наслідком розвитку цих технологій може бути наше власне зникнення, то чи не слід нам діяти вкрай обережно?» [38].

Чимало філософських ідей, пов'язаних з луддитським рухом, можна знайти в класичних творах з філософії й соціології техніки та технологій Льюїса Мемфорда [39; 40]. Ще в 1967 р. філософ попереджав про небезпеку появи «Мегамашини» як наслідку «конвергенції науки, техніки й політичної влади» [41]. Мегамашини Льюїса Мемфорда «вживатимуть» людей для самоконструювання як свої компоненти.

Неолуддити цілком слушно зауважують, що сучасні технології формують механістичний тип людини з однобічним раціоналістичним мисленням, зорієнтованої виключно на успішність, утилітарні цінності, переконаної в тому, що людині в природі належить привілейована позиція «господаря» [41].

Відтак, усе штучне людське довкілля (гаджети й дивайси тощо) неодмінно набуває моральнісно-етичних вимірів, і на нього, відповідно, прибічники гуманізму й трансгуманізму намагаються поширити принцип людської гідності (human dignity). Йдеться про похідні («деривативні») цінності, виправдання «фальсифікацій з природою» (tampering with nature); ідей «зарозумілості» [42].

Нік Бостром, один із засновників світового трансгуманістичного руху і директор Інституту майбутнього людства при Оксфордському університеті, порівняно недавно наважився поширити моральнісно-етичну категорію «гідності» на постлюдських (постгуманних) істот, тобто таких істот, які є подобою людини і водночас розширюють можливості людської істоти. Як виразник ідей трансгуманізму Нік Бостром стверджує, що, перевершуючи людські біологічні можливості, різноманітні штучні пристрої підвищуватимуть рівень людської гідності, тому що в них виявляє себе людська природа.

Тим часом у багатьох дослідженнях висловлюються побоювання, що система штучного інтелекту, вирвавшись за межі контрольованості в лабораторних умовах, зможе підкорити собі людство [42; 43]. Відтак, намітилася чітка поляризація дослідників проблем TS [44].

Найбільш передбачливі вважають за потрібне виставляти інтелектуальні запобіжники перед настанням епохи сингулярності, пов'язуючи з цим імовірний кінець сучасного людства (за аналогією з Апокаліпсисом, - «роботоліпсис»). Саме тому вони пропонують виставляти гуманістичні обмеження на шляху розвитку інтелектуальних технологій. Загалом їх позиція мало відрізняється від трьох правил робототехніки, сформульованих у 1942 р. Айзеком Азімовим в оповіданні «Хоровод» («Runaround»):

Робот не може заподіяти шкоду людині або допустити своєю бездіяльністю, щоб людині було завдано шкоди.

Робот повинен коритися всім наказам, які віддає людина, крім тих випадків, коли ці накази суперечать Першому Закону.

Робот повинен піклуватися про свою безпеку тією мірою, якою це не суперечить Першому або Другому Законам [45].

Проте, сам А. Азімов на численних «експериментальних моделях» у своїх фантастичних творах довів низьку дієвість вигаданих ним гуманістичних обмежень на розвиток робототехніки й поведінку роботів. Справді, будь-яка система аксіом (гіпотез), подібних до правил А. Азімова, страждає неповнотою, що свого часу було доведено Куртом Гьоделем (теореми про неповноту). Тобто у такій гіпотетико-дедуктивній системі завжди знайдуться «шпарини», через які в ній станеться збій (робот не зможе, приміром, відрізнити людину від іншого робота). По-друге, будь-які обмеження в техніці й технологіях є водночас обмеженнями, накладеними на поведінку людини, що неодмінно обертається втратами людської свободи. Третій, найбільш серйозний контраргумент, скерований проти правил А. Азімова, полягає у звинуваченнях розробників подібних правил у «людському шовінізмі», оскільки вони, мовляв, намагаються вічно тримати людиноподібних істот у жорсткому підпорядкуванні людині, відводити людині більше прав, аніж людиноподібним істотам (андроїдам, гуманоїдам тощо).

Однак низка країн (Японія, Південна, Корея, деякі країни ЄС) розробила й ухвалила мало не на законодавчому рівні «Кодекси етики для роботів», які на даному етапі розвитку є, радше, кодексами поведінки людей, які мають справу з робототехнікою [46; 47; 48].

Проблема гуманістичних обмежень на шляху розвитку технологій «четвертої хвилі» у філософсько-методологічному вимірі

Передусім виникає питання: чи не породить самотрансцендування «старої» людини до рівня людини «нової» на новому якісному рівні складної проблеми посилення людської нерівності? Френсис Фукуяма ставить саме у цьому контексті резонне, хоча й суто риторичне запитання: «Якщо ми почнемо процес перетворення себе в щось Зверхнє, то якими правами володітимуть ці поліпшені істоти і якими будуть їхні претензії порівняно з правами тих, хто залишиться позаду?» [49].

Світоглядно-методологічна лінія розмежування гуманістів й трансгуманістів (постгуманістів) у тлумаченні проблем TS полягає передусім у тому, що гуманісти спираються на ідеали антропоцентризму й антропні принципи, тоді як траснгуманісти вважають такі підходи «забобонами» класичної ньютоніанської науки, пропонуючи натомість «децентрувати» погляди на людину як об'єкт дослідження, прирівнявши людину в об'єктній якості до інших об'єктів - тварин та інших представників світу живої природи й навіть до машин і механізмів (екологічний та машинний егалітаризм) [50; 51].

Натомість «гуманітарії», тобто представники соціогуманітарного знання - social sciences й humanities, схильні вочевидь перебільшувати загрози, виклики й ризики, пов'язані з впровадженням новітніх трансгуманістичних технологій й вимагати впровадження різноманітних мораторіїв на відповідні дослідження та впровадження [50; 51], стримуючи таким чином науково-технологічний «прогрес» й виступаючи в ролі представників новітнього луддизму.

Постгуманізм як результат людського самотрансцендування - це цілковито нова форма людського існування, за умов якої межі між людиною і природою, людиною і машинами стають розмитими, це та ідеальна ситуація, в якій обмеження людської біології виявляються значною мірою подоланими за рахунок їх заміни біологічними машинами. Проте у кінцевому рахунку залишається великим невідомим, чи справді йдеться про трансформацію людського виду у вид новий - постлюдський.

Концепту самоподолання (самозаперечення) людиною самої себе заради «вищих щаблів» глобальної еволюції у філософії й теології протистоїть концепт людського самозбереження, який у концентрованому вигляді виражає ідея антропоцентризму. Інтерпретаціями цієї ідеї є антропні (антропологічні) принципи. У випадку з технологіями й технікою йдеться про людські (гуманістичні, антропні) обмеження, які людина накладає на техніко-технологічний прогрес з метою самозбереження.

Аналогічний антропний принцип свого часу було запропоновано в космології. Відповідно до цього формулювання, Всесвіт є таким, яким ми його спостерігаємо, бо в ньому існуємо ми як спостерігачі, здатні ставити запитання щодо властивостей цього Всесвіту. За інших параметрів Всесвіту в ньому були б неможливими складні структури життя, одним з різновидів яких є ми, люди. Згодом, у 1974 р., Брендон Картер переформулював антропний принцип в двох його формах, - сильній й слабкій. Слабке формулювання зводиться до констатації того, що наш Всесвіт має характеристики, необхідні для того, щоб у ньому могли існувати розумні істоти - люди. Йдеться передусім про 10 світових констант: швидкість світла у вакуумі; постійну Планка щодо квантових ефектів; заряд та масу електрона; гравітаційну константу; константи слабких і сильних взаємодій у мікрофізиці; борівський радіус атома водню; планківські показники маси, часу та довжини [52; 53].

Авторів подібних формулювань неважко звинуватити в тавтології, бо хід їхніх міркувань виглядає так: «У нашому Всесвіті існує розумне життя; отже, наш Всесвіт пристосований для розумного життя». Але такими, а не іншими, мусять бути міркування, в основу яких покладено філософський антропоцентризм. Якщо не дотримуватися цього перевіреного часом принципу, наслідки технологічного розвитку можуть бути справді непередбачуваними й катастрофічними.

Наприкінці 2014 р. знаменитий інтелектуальний гуру з Кембриджу Стівен Гокінг (Stephen Hawking) алармував в інтерв'ю на BBC, що «штучний інтелект може призвести до кінця людської раси» [54]. Ще раніше Стівен Гокінг разом із групою інших відомих науковців попереджав про загрози розробки на базі штучного інтелекту воєнних машин з повністю автоматизованими системами пошуку й знищення ворожих цілей (autonomous-weapon systems). Відповідного листа протесту було відкрито до підписання 28 липня 2015 року на момент відкриття Міжнародної об'єднаної конференції зі штучного інтелекту (The International Joint Conference on Artificial Intelligence) [55].

Подальший розвиток подій у напрямі розв'язанні колізії «людина - технології» передбачає щонайменше чотири сценарії.

Сценарій 1. Нові істоти (Cyber-Humans) [56] підпорядкують собі людей так само, як люди підпорядкували собі тварин, яких вважають представниками нижчих щаблів еволюції і яким відмовляють в атрибутові свідомості.

Сценарій 2. Люди знищать «кіберлю- дей» як безпосередню загрозу своїй могутності й повернуться до більш безпечних технологій, які не передбачають створення штучного інтелекту підвищеної потуги.

Сценарій 3. Наблизившись до точки сингулярності (біфуркації), люди виставлять перед техноеволюційним прогресом людські обмеження, завдяки яким поява надпотужного штучного інтелекту унеможливиться.

Сценарій 4. Між «традиційною людиною» й «постгуманною» істотою будуть встановлені правила співіснування (коеволюції) на засадах поваги до гідності обох видів, які слугуватимуть запорукою їх успішного співрозвитку.

Гносеологічний (епістемологічний) аспект проблеми TS пов'язаний у кінцевому підсумку з бінарним статусом людини як предмета дослідження наук «розуміючих» - соціогуманітарних, так і «нерозуміючих», - природничих. У предметно-методологічній сфері розходження цих двох сфер антропологічного знання полягає передусім у тому, що природничі науки мають справу з об'єктивними «фактами», унезалежненими від людської діяльності й людського самопізнання, цінностей та оцінок, тоді як соціогуманітарні досліджують «артефакти» - феномени культурної й технологічної діяльності людини, які саме в такому вигляді не зустрічалися в «долюдській природі».

З онтологічної точки зору, таке розрізнення означає, що людина, з одного боку, є творінням Бога й Природи (в багатьох релігійно-філософських системах Природа й Бог є тотожними), продуктом біологічної еволюції тощо, але водночас людина є творцем власного світу штучності, без якого її існування виявиться позбавленим суто людських вимірів. Принципова новизна проблеми TS полягає в тому, що досі у процесі біологічної та технологічної еволюції ще не траплялося, щоб жива природа підпорядковувалася штучній або розвивалася в тісній з нею співдружності (коеволюційно).

Список використаних джерел

сингулярність еволюція трансгуманізм

1. Ніцше Ф. Переднє слово Заратустри // Так казав Заратустра. Книжка для всіх і ні для кого / Ф. Ніцше [Електронний ресурс]. - Режим доступу : http://ukrcenter.com

2. Маринетти Ф.Т. Манифест Футуризма / Ф.Т. Маринетти [Електронний ресурс]. - Режим доступу : https://vk.com

Размещено на Allbest.ru