О корректности постановки вопроса "Может ли машина мыслить?", или Какие особенности человеческого мышления способен воспроизводить искусственный интеллект?

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Московский гуманитарный университет

О корректности постановки вопроса «Может ли машина мыслить?», или Какие особенности человеческого мышления способен воспроизводить искусственный интеллект?

А.В. Костина

Аннотация

мышление искусственный интеллект разум

Одна из самых сложных проблем, связанных с искусственным интеллектом (ИИ) и требующих своего разрешения, была сформулирована еще в 1950 г. Аланом Тьюрингом. Вопрос: «Может ли машина мыслить?» - фактически является в этом аспекте ключевым.

В статье исследуются различные особенности разума и интеллекта, раскрываются особенности мышления человека, которые связаны не только с рациональной деятельностью, но и с образно-символической.

Автор показывает, что способность к вычислительным операциям не позволяет сопоставить «интеллект» машины с человеческим интеллектом, а сама программа не способна воспроизвести основные функции мозга; рассматривает различные особенности разума и интеллекта в их сопоставлении с ИИ; доказывает, что машина не способна к созданию пространства идеального, воплощаемого в виде ценностных или символических систем, к постижению прекрасного и истинного в качестве той реальности, которая определяет вектор и задает параметры активной деятельности человека как творца культуры.

В связи с этим делается вывод о том, что постановка вопроса о способности машины к мышлению не является корректной.

Ключевые слова: искусственный интеллект; разум; мышление; машина; компьютер; программа; субъектность; целеполагание; культура

Abstract

On the correctness of the question «Can a machine think?» or What features of human intelligence can artificial intelligence reproduce?

A.V. Kostina

Moscow University for the Humanities

One of the major problems associated with artificial intelligence (AI further on) and requiring solution was formulated back in the 1950s by Alan Turing. «Can a machine think?» is actually the key question in this aspect.

The paper analyses various peculiarities of mind and intelligence, reveals the characteristics of human thought that are associated not only with rational activity, but also with image-symbolic one.

The author demonstrates that computation ability does not allow comparison between machine «intelligence» with human intelligence, and the programme itself is incapable of reproducing basic brain functions. She also considers various features ofmind and intelligence as compared to AI; proves that the machine is incapable of creating ideal space embodied as value or symbolic systems, of comprehending the beautiful and the true as the reality that defines the vector and sets the parameters of human's vigorous activity as the creator of culture.

In this regard, it is concluded that the question of whether the machine is capable ofthought is not correct.

Keywords: artificial intelligence; mind; thought; machine; computer; programme; agency; goalsetting; culture

Введение

Корректность постановки вопроса о способности машины к мышлению, поставленного А. Тьюрингом (Тьюринг, 2016), сегодня - в контексте установки на цифровые трансформации общества как одной из национальных целей развития России (Указ Президента: Электронный ресурс) приобретает особую актуальность. Для разрешения этого вопроса прежде всего необходимо прояснение целого ряда понятий - таких как разум, интеллект, мышление. Ведь способность человека к разумной деятельности, проявляющейся в мышлении, выражается в его способности получать информацию об окружающем мире не только в формах ощущений, но и в формах мыслеобразов, обобщенно отражающих действительность во всех ее проявлениях, в том числе находящихся за гранью непосредственного восприятия, и выражать личностно-смысловое, нравственное, эстетическое отношение к окружающей действительности, восходя от значений вещей и явлений к их глубинному смыслу.

Способность к мышлению выражается в активном процессе освоения человеком окружающего мира, основанном на переработке поступающей в мозг информации, а также закреплении той ее части, которая является наиболее важной и обладающей высокой частотностью повторения. Постижение сущности феноменов и явлений возможно только на уровне разумной деятельности, где разум позволяет постичь основные закономерности и противоречия развития мира как системного целого в его многообразии, парадоксальности, нелинейности. Именно разум выступает в качестве того инструмента, который способен превратить, по образному выражению Блеза Паскаля, человека, напоминающего своей природной слабостью тростник, в «мыслящий тростник» (фр. roseaupensant), способный стать конечной целью развития и природы, и культуры.

Именно свойство «разумности» сегодня рассматривается как признак сильного ИИ. Слабый же ИИ - такой, к примеру, который используется в чат-ботах и является программой, способной выступать в качестве инструментария для решения задач важных, но не требующих воспроизводства машиной хотя бы части функций и способностей человеческого мозга, на наличие атрибута «разумности» не претендует.

Правомерен ли сам вопрос о способности машины к мышлению? Отметим, что такую его постановку обеспечивают исследования мозга с точки зрения кибернетики. В рамках этой парадигмы мозг рассматривается не как орган центральной нервной системы человека, содержащий 86-90 млрд нейронов и 70-90 млрд не нейронных клеток, а как статистическая аналоговая машина. Машина, обладающая способностью к обучению, структурой, состоящей из ионных элементов, не имеющих между собой жестких связей, потребляющая около 25 Ватт энергии (Весёлкин, 2004: Электронный ресурс). Эта машина имеет объем памяти около тысячи терабайт (или одного петабайта), что сопоставимо с объемом данных, которые несколько лет назад имел весь Интернет. Кроме объема, сложность структуры мозга определяет количество связей между нейронами, число которых в 10 тыс. раз превосходит само число нейронов (Seung, 2012), а также многоуровневый характер сетевой структуры этих связей.

Если рассматривать мозг человека в рамках кибернетической парадигмы, то складывается впечатление, что воспроизведение его функций - чрезвычайно сложная, но все же решаемая задача. Работа по копированию структуры мозга осуществляется с помощью самых разных методов. Но ведущими среди них являются два: первый связан с моделированием нейронных сетей мозга, второй - с воспроизведением алгоритмов мышления.

Оба эти метода применяются в современных исследованиях. На сегодняшний день в наибольшей степени апробированы такие типы моделирования человеческого мозга и мыслительной деятельности, как бионический, эволюционный, эвристический.

Нейробионика направлена на изучение нервной системы человека и животных, ее клеток-нейронов и выявление ее уникальных свойств. Среди них - полное восприятие информации вне зависимости от формы, в которой она поступает (тембр голоса, интонация, шрифт, цвет текста, почерк и т.п.); надежность и способность работать при повреждении значительного числа нервных клеток; рациональность размещения элементов и способность занимать объем 1,5 дм³ при количестве элементов 1010-1011 (то же число элементов в транзисторном устройстве потребует объема в несколько сот кубических метров); экономичность; высокая адаптивность к новым программам деятельности.

Бионическое моделирование - если понимать его как полное воссоздание структуры мозга во всех связях между клетками - процесс чрезвычайно сложный и навряд ли осуществимый в полном объеме. Причем не осуществимый не только по причине объема операций, но и ввиду неполной изученности зон мозга, отвечающих за ту или иную функцию, а также самого принципа работы связей нейронов. Попытки моделирования работы мозга в линейной системе показали, что соединение между собой ряда процессоров дает увеличение скорости обработки данных только до определенной степени, затем идет спад скорости. Поэтому более успешной стала модель, основанная на параллельной обработке информации в двух «плоскостях», где количество единиц информации может доходить до нескольких миллионов. Применение такого моделирования позволяет охватить объект сразу и одновременно, а не последовательно - часть за частью, что способствует более целостному восприятию объекта. И все же даже эта принципиально новая по замыслу модель не позволяет воспроизвести функции мозга - и прежде всего в их не количественном, а качественном выражении.

Метод, связанный с эволюционным программированием и направленный на имитацию нейронных сетей мозга и воспроизведение алгоритмов мышления, был предложен и апробирован Лоуренсом Дж. Фогелем. Важно, что эта технология, открытая в 1960 г., остается инструментальной и сегодня. На момент открытия Фогеля исследования искусственного интеллекта осуществлялись либо в направлении изучения нейронных сетей и моделирования человеческого мозга, либо в направлении моделирования поведения человека через эвристическое программирование. Новизна же исследования Дж. Фогеля состояла в том, что целью моделирования стал не результат эволюции, а ее процесс, основанный на имитации процедур адаптации человека к окружающей среде и его способности на основе ее анализа делать прогнозы о поведении различных систем, с которыми он вступает во взаимодействие. Дж. Фогель провел ряд экспериментов в областях биотехнологии, кибернетики и техники, представив в качестве разнообразных организмов автоматы - графические модели. Они реагировали на внешнюю среду, демонстрируя определенное поведение, что дало основание ученому обозначить этот метод как эволюционное программирование. Наработки ученого составили основу его диссертации 1965 г. на тему «О происхождении Интеллекта», посвященной исследованию развития интеллекта путем имитации эволюции.

Впоследствии исследования были продолжены и расширены (Fogel, 1990), в них были включены задачи по распознаванию образов, разработаны идеи самостоятельной адаптации изменения параметров, в которых содержится информация о путях решения проблемы (Рутковский, 2010: 520; Рутковская, Пилиньский, Рутковский, 2008: 452). Было доказано, что эволюционное программирование, направленное на изучение цепей событий и «символов» среды в их последовательном соотношении, позволяет моделировать решение задач по аналогии с эволюцией. В результате такого отбора остаются лишь те программные коды, которые оказываются более эффективными и успешными в процессах поиска оптимальных способов достижения целей при разных условиях.

Принципиально иной подход к решению задачи по воссозданию работы мозга, связанной с выявлением механизма, направленного на определение и выбор цели, представляет эвристическое моделирование.

Оно направлено на выявление причин, согласно которым человек может изменить цели и критерии своей деятельности. В отличие от программы, которая может ставить перед собой конкретные задачи, связанные с генеральной целью, в принципе достаточно ограниченные и открытые рациональному пониманию, процедуры целеполагания человека гораздо более сложны. На имитацию этих особенностей и направлено эвристическое моделирование, дающее не всегда точный, но чаще всего приемлемый результат. Эвристическое моделирование по своим особенностям напоминает работу человеческого мозга - оно может не гарантировать нахождение оптимального решения, может не найти решение, даже если оно в принципе существует (так называемый эффект пропуска цели), или представить решение, неверное в принципе (Ахо, Хоп - крофт, Ульман, 2001). Но программа настроена на поиск решения, и именно эти особенности модели делают ее наиболее близкой человеческому мышлению и используются искусственным интеллектом в процедурах распознавания образов. Эвристические алгоритмы основаны на отказе от простого перебора, требующего значительного времени. Метод перебора с успехом применяется в компьютерных играх - к примеру, в шахматах, где в миттельшпиле¹ число алгоритмов ходов резко увеличивается и где требуется нестандартное поведение игрока, в отличие от дебюта и энд - шпиля², где алгоритмы точно обозначены ограниченным числом вариантов.

Все эти типы программирования - эволюционное, эвристическое и бионическое - направлены на имитацию работы мозга человека. Однако - несмотря на достигнутые успехи - эту задачу нельзя считать решенной. Наличие разума - совсем иной уровень состояния системы, даже с точки зрения кибернетики. А именно разумность и рациональность являются одним из основополагающих атрибутов человека и тем качеством, к которому стремятся разработчики сильного ИИ.

И приближение к той степени совершенства ИИ, когда имитация свойств человеческого мышления становится высокоуровневой, позволяет разработчикам сильного ИИ делать логическое допущение о возможности полного соотнесения ИИ и человеческого разума.

Разум как главный атрибут человека: классическая модель

Встает вопрос: какими же качествами обладает разум, которые не поддаются воспроизводству машиной?

Разум - это главное качество человека, его основной атрибут, позволяющий отделить человека от животного; это способность мыслить в той форме, которая имеет творческий характер и проявляет его всеобщую диалектическую природу, которая позволяет с достаточной мерой полноты отражать реальные формы предметного мира, осваиваемого человеком в процессе деятельности; наконец, это то качество человека, которое выражает его социальную и культурную природу.

Так определяли разум философы начиная с эпохи модерна. Данное свойство человека - воспринимать мир и реагировать на него соответствующим образом, принимать решения и осуществлять собственную активность - в Новое время стало рассматриваться как его главный, специфический атрибут. Разумность позволила выделить человека из природной среды по особому свойству и воспринять его как специфическое существо, обладающее уникальной, не присущей ни одному из живых существ на земле, способностью. При этом сам разум, рассудок, рассуждение понимались в двух аспектах.

Первый из них со всей определенностью сформулировал Томас Гоббс в сочинении 1651 г. «Левиафан, или Материя, форма и власть государства церковного и гражданского»: «Под рассуждением я подразумеваю исчисление», умение «находить сумму складываемых вещей или определить остаток при вычитании чего-либо из другого… Рассуждение, таким образом, сводится к двум умственным операциям - сложению и вычитанию» (Гоббс, 2019: 15: Электронный ресурс). Иными словами, разумность Т. Гоббсом рассматривалась в первую очередь как способность человека к чисто математическим действиям и рациональности и никак не соотносилась с его духовной природой и его субъектностью.

Второй подход к разуму был сформулирован и обоснован Иммануилом Кантом. Философ считал основным свойством человека способность пользоваться разумом и ставить себе любые цели, будучи в состоянии свободы (Межуев, 2012). Он был глубоко убежден в том, что способность к целеполаганию - это то, что заложено в природе человека: «.развитие задатков возможно потому, что природа ничего не предоставила человеку в готовом виде для того, чтобы он сам, своим трудом добился того, что ему нужно. <.> Если бы природа своей целью в человеке имела то, что может и сама удовлетворить-то есть счастье, зачем тогда она дала человеку разум и волю? Единственное, что требует от человека природа, - это то, чтобы он сам избирал себе цели, делал себя такой целью, а в качестве средства использовал природу» (Кант, 1966: 5-23).

Иными словами, целью природы в отношении человека, как считал И. Кант, является независимость от природы, способность осуществлять разумную деятельность, ставить цели в состоянии свободы, освободиться от природных инстинктов («выйти из детского состояния») и без страха пользоваться разумом.

Этот поворот Нового времени к разуму стал колоссальным по своим последствиям. Он фактически означал переконструирование всей картины мира таким образом, что сам человек, обладающий разумностью, становился ее центром. Именно человек, выделивший себя среди всех иных существ, наделил себя не только возможностью, но правом выступать в качестве основного субъекта воления.

Этот факт, который нам сегодня представляется общим местом, стал для человека Нового времени и Просвещения столь ошеломляющим открытием, что оно требовало специальных доказательств, система которых была выработана и на уровне философии - для просвещенных, и на бытовом уровне - для народа. Как это было показано в широко известной работе М.К. Мамардашвили, Э.Ю. Соловьева и В.С. Швырева, главной претензией классической философии, характерной для XVII-XIX столетий, «была претензия на систематическую целостность, завершенность. покоящуюся на глубоком чувстве естественной упорядоченности мироустройства, наличия в нем гармоний и порядков (доступных рациональному постижению)» (Мамардашвили, Соловьев, Швырев, 1972: 30). Умение пользоваться разумом, развитие разума на основе собственных знаний, самостоятельное заполнение индивидом своей «чистой доски» (tabula rasa) специфической только для данного человека информацией на основе его чувственного восприятия и жизненного опыта - все это стало восприниматься как его особое свойство. Данную позицию индивида, самосознательно ориентирующегося в мире, утвердившего автономную индивидуальную человеческую сознательность в качестве «модели организации как индивидуального процесса жизни, так и общественного мироустройства и миропорядка» (там же: 36), глубоко выразила философия этого периода.

И не столь принципиально в данном случае, что данная гносеологическая идея получила различные интерпретации в философии рационалистов и эмпиристов, будучи рассмотрена либо в аспекте «врожденных идей» (Р. Декарт, Б. Спиноза, Г. Лейбниц, Н. Мальбранш), либо в аспекте их критики и постулирования опыта как того обширного запаса, «который деятельное и беспредельное человеческое воображение нарисовало с почти бесконечным разнообразием» (Локк, 1985: 154), из которого и черпает человек знание (Дж. Локк, Ф. Бэкон, Дж. Беркли, Д. Юм). Идея о главенстве разума и способности человека благодаря ему быть источником активности была встроена в целую систему взглядов философов Нового времени - наиболее значимым среди них стало восприятие степени развитии техники и науки (как следствия развития разума) в качестве главного признака любой цивилизации.

Идея разума в рамках классической философии не подвергалась сомнению, а сам разум рассматривался как главный атрибут человека, как специфический «орган», способный осуществлять мыслительную деятельность. Ограниченность возможности познания рамками рассудка, постулируемую И. Кантом, снял Г.В.Ф. Гегель. Он определил позитивную функцию разума как высшую стадию его развития, где единственным ограничением становится только его недостаточная активность. В данном контексте не столь важно, что Гегель считал разум способным достичь абсолютного знания, одновременно осознавая относительность моделей познания реальности. Важно иное-то, что рассуждения И. Канта и Гегеля о рассудке и разуме как его высшей стадии, ставшие классическими, не утратили своей эпистемологической значимости и сегодня, будучи осмысленными в границах концепции современной неклассической метарациональности.

Восхищение разумом, преклонение перед его уникальностью и могуществом - этим пафосом проникнута вся культура Просвещения. Но уже в следующем столетии становится очевидно, что идея разума не универсальна, а сам разум не способен охватить все многообразие социальной жизни. Но главное, выявилось несовершенство идеи прогресса, рожденной разумом. Эта идея, оптимистичная и гуманистическая в своей основе, перестала соответствовать реальному содержанию культуры, что неизбежно привело к ее отторжению. Реальное существование культуры в период кризиса классической модели осознания мира, как писал В.М. Межуев, вступило в явное противоречие с тем ее идеальным образом, где культура понималась как разумная свобода. Уже к концу XIX в. стало очевидно, что свобода и разум зиждутся на различных основаниях (Межуев, 2012) - если свобода индивидуальна, то разум всеобщ, и ориентация на разум, упование на него могут привести к утрате свободы. Свобода связана с уникальностью личности, она выступает как необходимое условие ее развития, разум же стремится к генерализации, и в этом смысле выступает как компонент в большей степени цивилизационный. Разумный человек стал восприниматься как идеальный, но искусственный конструкт европейской культуры, достаточно далеко отстоящий от эмпирического индивида. Точно так же, как достаточно локальное образование, стала представляться и европейская культура, которая прежде выступала для образованного европейца воплощением культуры вообще. Именно разум стал препятствием на пути познания множества иных культур, открытых в это время.

мышление искусственный интеллект разум

Искусственный интеллект и интеллект человека: к проблеме соотношения

Появились и принципиально новые понятия, отражающие способность человека мыслить и действовать целерационально. Одним из них стало понятие интеллекта. Оно было введено в активный научный оборот в XIX в. в связи со стремительным развитием психологии и было направлено на отражение таких проявлений познания и познавательных способностей, как память, воля, рефлексия, восприятие, представление, ощущение, способность к обучению, логическому мышлению, анализу, классификации информации, обобщению и типологизации процессов и явлений. Кроме того, проблема интеллекта позволила на новом уровне обратиться к проблеме целеполагания, субъектности, способности к стратегическому мышлению.

Интеллект как особое свойство человека, напрямую связанное с его мышлением и психикой, соотносится со способностью решать задачи, не обладающие четким алгоритмом решения и связанные в значительной степени с тем, что обычно называют творчеством, т.е. созданием принципиального нового продукта - начиная от художественного произведения и завершая научной теорией. Как правило, интеллект связывают со способностью усваивать и накапливать информацию, знания, навыки для решения задач различной сложности, адаптироваться к условиям внешней среды для управления теми процессами, которые подвержены изменениям в связи с человеческой активностью.

Понятие интеллекта (intellectus), восходящее к латинскому «восприятие», часто соотносится с понятием разума. Так, в англоязычной традиции intelligence или human intelligence рассматривается как «человеческая разумность», а тест IQ - intelligence quotient - как «коэффициент (или показатель) разумности», хотя в русскоязычной интерпретации данная аббревиатура в большей мере соотносится с логическими процедурами и определяется как «коэффициент интеллекта». Это принципиально разные подходы: в англоязычной практике семантика понятий «интеллект» и «разум» оказывается близкой; в русскоязычной же языковой традиции понятие «интеллект» соотносится только лишь с логическими процедурами мышления, а не всеми функциями разума. Важно, что соотнесение понятий «интеллект» и «ИИ», в мировой практике позволяет выступать последнему в качестве синонима «искусственного разума», соотносимого с естественным, человеческим. Простая замена этих близких понятий привела к тому, что прогноз Рэя Курцвейла относительно «полного слияния людей и машин» в «точке сингулярности», достижения небиологическим интеллектом такой мощности, которая в миллиард раз превосходит человеческий, появления нового вида - совершенного носителя интеллекта - и наступления новой «постчеловеческой» эры (Ray Kurzweil's: Электронный ресурс) многими людьми - по преимуществу технократами воспринимается как вполне естественная теория, реальная и осуществимая.

Опровержение позиции Курцвейла не является задачей данной работы. Прежде всего потому, что его теория опирается на чисто умозрительные доказательства, а прогнозы, сделанные автором гипотезы «точки сингулярности», не реализуются. Так, дискредитирован самим фактом его нереализованности один из основных постулатов Курцвейла - утверждение о завершении сканирования мозга к концу 2020 г. и выявления точной структуры связей его нейронов для воссоздания этой структуры программным путем. Сегодня нет данных относительно вычислительной мощности мозга человека, а также как принципов, способов осуществления операций, так и самой архитектуры этой системы.

Тем не менее важно понять, каково соотношение ИИ и интеллекта человека, а также - можно ли рассматривать как проявление разума имитацию тех чисто человеческих свойств, которые демонстрируют сегодня чат-боты, такие как Siri, Alex, Алиса? И главное - в чем заключается чисто человеческая природа разума, делающая невозможным его искусственное воспроизводство.

Принято считать - когда речь идет о человеке, - что интеллект и разум - это составляющие одной системы, позволяющей человеку выступать в качестве источника субъектности. Эта фигура умолчания не «работает» в рамках рассуждений относительно ИИ - все логические допущения при этом оказываются невозможными. И тогда вопрос относительно точки сингулярности, когда мозг компьютера будет эквивалентен мозгу человека, оказывается сопряженным с вопросом относительно специфичности человека в соотношении с ИИ, а также той границы, которая позволяет разделить человека и не-человека.

Типичный образец рассуждений относительно искусственного интеллекта, способного воссоздать человеческий мозг, демонстрирует Н. Бостром - шведский философ, директор Института будущего человечества в Оксфорде, представитель оптимистической технопарадигмы, известный своими работами по трансгуманизму, клонированию, загрузке сознания, сооснователь Института этики и новых технологий (вместе с Джеймсом Хёджесом, 2004) и Всемирной ассоциации трансгуманистов (вместе с Дэвидом Пирсом, 1998). Для Н. Бострома интеллект - это особая последовательность действий / операций, реализуемая на физическом объекте (Бостром, 2016: 496). Определяя это понятие, Н. Бостром не делает различий между человеческим уровнем и машинным - искусственным. Единственное различие - это появление в естественной (биологической) или в неестественной (искусственной) среде. При этом Бостром определяет как атрибуты и машины, и человека свойства разумности, мышления, интуиции, понимания, воображения, познания.

Именно такая позиция и вызывает интерес к проблеме ИИ, которая связана, конечно, не с вопросом создания суперскоростного и обладающего огромными запасами памяти компьютера, который может решать задачи, связанные с климатом, экологией, народонаселением, природными ресурсами, обеспечением продовольствием и т.п. В первую очередь, сегодня практически всех волнует вопрос, связанный с возможностью ИИ превзойти человеческий интеллект и получить автономию в социальном смысле - ведь сегодня ИИ демонстрирует не только способность работать методом перебора, но и способность, близкую к абстрактному мышлению. Об этих качествах ИИ свидетельствуют примеры победы программы AlphaGo от компании DeepMind в 2016 и 2017 гг. над Ли Седолем и Кэ Цзе в игре в Го, требующей развитого абстрактного мышления. Эти примеры, а также тестирование ИИ на IQ, соответствующий уже в 2015 г. IQ четырехлетнего ребенка, актуализируют вопрос о возможности саморазвития ИИ и достижения им уровня человека именно в его человеческих свойствах, формирования его идентичности и субъектности. И эта ситуация, обозначенная Р. Курцвейлом как «технологическая сингулярность» и прогнозируемая к наступлению в 2045 г., заставляет размышлять о том, что человечество может быть поставлено на грань его существования (Кай-Фу Ли, 2019).

Иными словами, это вопрос о том, может ли машина обладать теми способностями, которые сходны с интеллектом и рассудочной деятельностью. По мнению технооптимистов, машина может все или почти все - ей доступно даже умение мыслить абстрактно. Вместе с тем сегодня ученые - как оптимисты, так и скептики - признают, что машина способна выиграть партию, но обсудить ее с партнером она не в состоянии - точно так же, как сыграть партию в любую другую игру. Это дает основание считать, что действия машины - если их рассматривать по аналогии с поступками человека - нельзя признать разумными.

Точно так же можно поставить вопрос: может ли рациональная реакция на внешние раздражители колонии муравьев или иммунной системы³ соотнести их с разумным поведением, аналогичным человеческому? И становится очевидно, что простая аналогия по признаку рационального реагирования не позволяет идентифицировать все системы, обладающие такой рациональностью (включая искусственный интеллект). Собственно, это осознание привело в 1990-2000-е гг. к кризису исследований в данной области, которое получило специфическое определение - «зима искусственного интеллекта».

Попытки преодолеть этот кризис привели ученых к ряду открытий, позволивших приблизиться к пониманию разума, мышления и интеллекта. Они были связаны с моделированием интеллектуальных систем в рамках бионического, эволюционного, эвристического подходов, о которых шла речь выше.

Первый наглядный пример, позволяющий раскрыть принципиальное различие работы человеческого и искусственного интеллекта, оказался связанным с проблемой энергоемкости машины. Исследователи для увеличения скорости, объема, точности вычислений шли по пути увеличения мощности компьютера. Поэтому на этом пути альтернатива всегда была такой: либо высокая скорость и точность вычислений, либо малая энергоемкость машины. Такой альтернативы человеческий мозг не знает. Он предельно энергоэффективен, вне зависимости от уровня решаемых задач. В машинном же вычислении увеличение точности неизбежно вызывает повышение энергозатратности. Эту закономерность развития программ ученый Университета Райса в Хьюстоне Кришна Палем еще в 2003 г. осознал как тупиковую. Здесь так называемый закон Мура, открытый еще в 1965 г. и выявляющий эмпирическую закономерность удвоения количества транзисторов, размещаемых на кристалле интегральной схемы каждые 24 месяца, заставил исследователей пойти по иному пути.

Поставив себе задачу уменьшить энергоемкость программы, Палем решил пожертвовать ее точностью. Результат вычислений оказался достаточно близким к точному, но все же обладающим погрешностями. Однако это позволило ученому сделать открытие, связанное с работой человеческого мозга, который оказался способным неполноту информации воссоздавать за счет данных, содержащихся в памяти, за счет ассоциативного мышления, того, что называется интуицией. Пойдя по этому пути, Палем приблизился к решению вопроса о человеческом разуме и интеллекте. Использовав открытое свойство программы в слуховых аппаратах, ученый обнаружил, что снижение вдвое их энергоемкости, связанное с неточностью цифровой обработки, приводит к снижению разборчивости текста лишь на 5% (Искусственный интеллект, 2019: 82-83).

Еще один путь исследований был связан с разработками в области так называемого телесного интеллекта. Первым роботом, позволившим изучить особенности телесного интеллекта, стала в 2011 г. виртуальная крыса Animat, не обладающая явной запрограммированностью, но способная взаимодействовать с виртуальной реальностью. Это позволило ей овладеть навыками цвето- и пространственного восприятия. Эта идея опиралась на разработки Р. Брукса, связанные с созданием самообучаемого робота, задачей которого стало накопление и использование опыта функционирования в реальной среде. Оказалось, что подражание живым системам чрезвычайно продуктивно - отсутствие изначальной программы у человека с первых дней его жизни заставляет его нарабатывать опыт, позволяющий впоследствии ориентироваться в рамках живой и неживой природы. Это стало вторым важным открытием на пути развития искусственных интеллектуальных систем⁴, имитирующих отдельные аспекты особенностей человеческого разума.

По усовершенствованию этого пути пошла группа ученых из Массачусетского технологического института. Э. Лернд-Миллер, решивший «научить» искусственный интеллект накапливать свой собственный опыт, загрузил в программу набор данных, состоящий из более чем 13 000 изображений лиц и имен, взятых из Интернета. Эта база позволила программе, освоив алгоритм DeepFace в наборе данных LFW, набрать точность 97,25% по сравнению с точностью человека в 97,50%. Этот результат 2014 г. в 2015 г. был улучшен системой FaceNet от Google и достиг значений в 99,63% (там же, 2019: 94-95). Ученые из Пенсильванского университета Филадельфии «обучили» нейронную сеть EgoNet на данных видео, снятых с помощью GoPro.

Все эти наработки создают иллюзию того, что, имитируя действие человеческого мозга, машины все в большей степени приближаются к тому состоянию, которое можно назвать «разумным». И чем больше новых задач они выполняют, чем большим объемом данных они располагают, тем больше они «узнают» о социальном мире и тем лучше могут имитировать поведение людей. Несмотря на то что эта имитация достаточно точна, все же она задана изначально, заложена в самой программе и никакого отношения к человеческому поведению не имеет.

Не увенчалась успехом и попытка приблизить программу к человеческим реакциям, связанная с формированием у машины алгоритма прогнозирования событий. От машины требовалось найти продолжение тех действий, которые ей задавались в виде видеофрагментов, - например, машина должна была найти «ответ» и продемонстрировать видео со сменой волн на «вопрос» в виде изображения океана, видео с движением по дороге - на показ изображения автомобиля и т.п. Это третья задача, стоящая перед разработчиками ИИ и позволяющая продвинуться по пути создания сильного ИИ на основе имитации отдельных функций мозга человека. Загрузка в программу базы данных, связанных с фиксацией падений и разрушений, позволяет ИИ верно интерпретировать данные, связанные с пространством и такими его физическими законами и явлениями, как тяготение, ускорение свободного падения, равновесие. Как показывают исследования, для получения такого опыта достаточно восприятия информации, эквивалентной двухгодичному по длительности просмотру видео, связанному с человеческим миром - отношениями людей и его техническим устройством, а также с миром природы. Однако этот алгоритм обучения пока не оправдал себя в полной мере.

И все-таки о каких достижениях на этом пути можно говорить? Они таковы. Стремительное развитие механизмов глубокого обучения привело к тому, что программы сегодня способны успешно пройти тест Тьюринга, описанный им в работе 1950 г. «Вычислительные машины и разум» (Turing, 1950: 433-460). Несмотря на сложность теста, сам Алан Тьюринг предсказывал способность машины в начале XXI в. проходить этот тест уже в 30% случаев. Сложность теста состоит в следующем: человек, не видя «собеседников», общается с одним человеком и одним компьютером. На основании ответов на вопросы тестируемого (они задаются только письменно и демонстрируются на экране монитора через равные промежутки времени) он должен определить, с кем разговаривает - с машиной или человеком (IT-программа…, 2014: Электронный ресурс). Если тестируемый не смог идентифицировать человека и компьютер, считается, что программа прошла тест. Несмотря на то что текст Тьюринга в своих модификациях ограниченно используется и сегодня, все же он - ни в кибернетическом, ни в психоаналитическом смысле - не позволяет выявить специфику человеческого мышления. Именно это стало причиной того, что абсолютное большинство исследователей от теста Тьюринга отказались. Непродуктивность подобного тестирования стала более явной после формирования программы экспериментов под названиями «Китайская комната» (Дж.Р. Сирл) (Сирл, 1990: Электронный ресурс) и «Китайская нация» (Н. Блок), она была также аргументирована Р. Пенроузом (Пенроуз, 2015) и другими учеными.

Конечно, даже сегодня, в период стремительного развития технологий ИИ, его трудно сравнивать с человеческим мозгом, с его разумом, интеллектом и мышлением. Но такое сравнение необходимо. Актуальность таких сопоставительных процедур сегодня высока в связи с тем, что разум и интеллект, понимаемые как атрибуты человека, рассматриваются в контексте кибернетической парадигмы в качестве и главных атрибутов машины - робота. И самый важный вопрос относительно ИИ связан именно с наличием у машины разума.

Итак, может ли машина мыслить?

Обобщая сказанное, сформулируем те принципиальные отличия ИИ и интеллекта человека, которые делают неправомерной постановку вопроса о возможности машины мыслить.

Несмотря на выводы когнитивной этологии, исследующей зачатки интеллекта у животных, оказывающего существенное влияние на их эволюцию, интеллект человека отличается наличием способности к стратегическому мышлению и целеполаганию. Отличительные особенности интеллектуальной системы человека включают объем рабочей памяти, способность к прогнозированию, логическому мышлению, иерархии системного отбора ценной информации (Хокинс, Блейксли, 2007). Некоторые из этих особенностей присущи и ИИ - именно наличие этих функций позволило рассматривать интеллектуальные компьютерные программы как искусственный интеллект. Однако относительно таких качеств человека и состояний его психической деятельности, как сознание и самосознание, как образно-символическое мышление, как способность постигать не только явленную природу феноменов, но и их смысл, применительно к ИИ говорить чрезвычайно затруднительно. И если способность машины превзойти человека в решении большинства существующих математических задач признается всеми и рассматривается только как вопрос времени, то в рамках философии искусственного интеллекта все громче звучат голоса скептиков, сомневающихся в возможностях программы воспроизвести хотя бы основные структуры человеческого мозга.

Эти ученые задаются вопросом относительно целого ряда функций мышления, в том числе его социально-исторической природы. Мышление - это не продукт природы, его воссоздать «по аналогии» вряд ли возможно, оно не связано с количеством обрабатываемой информации, с оперативной памятью, со скоростью обработки данных. Мышление, основанное на отражении и освоении действительности, имеет чисто историческую природу - оно в своем развитии подчиняется не эволюционным механизмам, а исключительно культурным и общественным. Эта функция человека теснейшим образом связана с языком, который фиксирует особенности мышления человека как субъекта исторического действия и отражает те особенности, которые составляют специфику восприятия им мира - в его пространственно-временных характеристиках, в его проективности, целерациональности, ценностных свойствах. Именно социально-культурная природа мышления делает трудным, если вообще возможным, его воспроизводство в ИИ. И если замена биологических функций человека - к примеру, в его двигательных способностях - успешно осуществляется, то воспроизводство функций социальных весьма проблематично.

Что касается разума, то интеллект машины оказывается приспособленным в большей степени к рассудочной деятельности, имеющей границы познавательных возможностей и не способной к постижению абсолютного, метафизического и бесконечного. Кроме того, есть целый ряд функций, связанных с познавательной деятельностью, выполнение которых машиной представляется невозможным - к примеру, функция сознания (Рамачандран, 2006), обеспечивающая представление человека о своем предназначении и социальной роли, месте в обществе, о своей специфичности, о внутреннем психическом опыте, о внешнем мире и особенностях общественно-исторической практики, о культурно опосредованных картинах мира. Механизм сознания как функция мозга, направленная на сбор информации об окружающем мире - как физическом, так и социальном, сформировался в результате эволюции. Но не только биологической эволюции человека, но в большей степени - социальной и культурно-исторической, направленной на формирование тех паттернов, которые позволяют человеку соотносить свою социальную активность с общепринятыми поведенческими стандартами и представлениями (там же).

Философы-скептики также задаются вопросом относительно способности машины к состраданию, мудрости, формированию ценностей, самостоятельному и целерациональному творению символических миров (Костина, 2019: 27-34). Все эти способности присущи образно-символическому мышлению, выражающему, по существу, духовное развитие человека, способность видеть мир не только как мир феноменов, но и ноуменов, раскрывать неочевидную суть явлений, воссоздавая их на уровне идеального. Идеальное как «особая «сверхприродная» объективная действительность, как особый предмет, сопоставимый с материальной действительностью, находящийся с нею в одном и том же пространстве» (Ильенков, 1979: 140), связано с деятельностной, общественной природой сознания и выступает как многообразие идей, осуществленных в заданных предшествующим развитием человечества формах. В этом измерении сознания, как отмечает К.А. Свасьян, «вещь предстает в совершенно ином модусе, чем в физико-телесном измерении, но при этом она продолжает оставаться той же и неизменной», сознание «творит мир в том смысле, что оно реализует потенции самих вещей, которые и есть собственные его потенции», «сознавая вещь, мы творим ее из полноты собственной ее сущности и… завершаем ее», осознанная же вещь «богаче, полнее и, главное, реальнее неосознанной» (Свасьян, 1987: 132-133).

Способна ли машина создавать собственную, идеальную реальность, не связанную с той информацией, которая представлена программе в самых разных формах? Можно ли говорить о принадлежности программы к определенным идеальным пространствам, о способности выстраивать эти пространства, которые и являются культурой? Иными словами, вопрос о способности машины мыслить является, по существу, вопросом относительно ее способности творить культуру. Ведь ноуменальная природа мышления определяется самой функцией разума, призванного постигать такие трансцендентные понятия, как истина, доброта, красота, святость, в качестве той реальности, которая определяет вектор и задает параметры активной деятельности человека.

И именно эта реальность является подлинной - в отличие от мира «теней на стене», по Платону. Реальность, существующая исключительно как умопостигаемый объект, как то, что И. Кант обозначил «вещью-в-себе», не есть искусственная конструкция, созданная философами для раскрытия сложных закономерностей бытия, имеющих значение только в качестве продукта мысли, отражающего ее красоту, но не саму подлинную реальность. Эта реальность и есть реальность культуры, которую творит человек как субъект исторического действия.

Культурные миры существенно отличаются друг от друга - иногда мы объясняем это в рамках географического детерминизма в духе И.Г. Гердера или евразийцев, выявляя влияние климата и ландшафта на особенности жизнедеятельности народа и его национального характера. Иногда мы обращаемся к аксиологическим категориям и объясняем различия культур спецификой тех ценностей, посредством которых народы выражают свое отношение к окружающему миру. Иногда говорим о различии исторического пути народов, испытавших череду «вызовов» системы и нашедших на них свои собственные «ответы» и передающих этот наработанный веками опыт через механизм традиции.

Но все эти объяснительные конструкции восходят к одной, позволяющей увидеть причину специфики культурной жизни народов. Она состоит в особенностях того мира идеального, который выстраивает каждый народ по-своему и который и обусловливает подобные различия. И как определять это свойство человека - как способность мыслить или как способность создавать символы, - не столь важно. Важно другое-то, что эта способность творить мир идеального есть самая главная черта и атрибутивн-ый признак человека. Может ли машина создавать мир идеального, мир эйдосов, порождающих моделей, мир логоса, которое у греков означало одновременно и слово, и ум, т.е. создавать мир культуры?

Пока - точно нет. Причем это касается и сильного, и слабого ИИ.

К сожалению, для разработчиков ИИ эти вопросы не являются не только основополагающими, но даже существенными. В рамках технической работы над совершенствованием ИИ эти его свойства, постулируемые в контексте парадигмы сильного ИИ, опускаются. Однако в границах размышлений о человеке, о тех его качествах, которые являются не просто атрибутивными ему, но системообразующими, эти вопросы становятся чрезвычайно важными.

Выявление всех этих качеств и способностей, которые машина выполнять не может, позволяет точнее осознать специфику самого человека. Теория слабого ИИ возможность машины мыслить отрицает, рассматривая ИИ как программу, не наделенную свойством автономности. Теория сильного ИИ, напротив, исходит из признания за программой способности к мышлению (возможно, построенному на иной логике, нежели у человека) и самосознанию, т.е. осознанию машиной себя как личности.

Но мы должны признать, что такая постановка вопроса предполагает, что в «точке сингулярности», которая должна наступить по прогнозу Р. Курцвейла в 2045 г., когда «мозг машины сравняется с мозгом человека», цивилизацию ждет целая череда проблем, ставящих под вопрос само существование человека. Если сильный ИИ будет обладать способностью к принятию решений и проявлению субъектности, к выстраиванию стратегий действий в ситуации неопределенности, силой воли, мудростью, мотивацией, а также способностью к сопереживанию, эмпатии - а разработки в этом направлении давно ведутся, - то что же будет различать человека и машину? К слову, один из основных вопросов биоэтики о границе между человеком, у которого заменено имплантами 99% его биологического тела, и машиной здесь становится особо актуальным.

Это вопрос о том, что делает человека человеком. И вопрос здесь не в природе его тела, которое является его биологической составляющей, а в природе его мышления и сознания, а также того, что обозначается как дух и душа.

Заключение

В заключение хотелось бы отметить следующее. Принципиальная неверность теории сингулярности, предвещающая слияние мозга человека и компьютера, очевидна - об этом говорят и пишут многочисленные добросовестные исследователи. Среди последних работ на эту тему своей обстоятельностью выделяется сборник научных статей 2020 г. «The 21^st Century Singularity and Global Futures. A Big History Perspective» (The 21^st Century Singularity, 2020), куда вошли работы таких известных авторов, как С.В. Добролюбов, А.В. Коротаев, С.Ю. Малков, Т. Модис, А.Д. Панов, Г.Д. Снукс. Мнения исследователей имеют существенное сходство: «Компьютеры - это, в лучшем случае, «умные» машины, которым не хватает - и всегда будет не хватать - стратегического желания. Человеческие существа являются стратегическими мыслителями, в то время как «умные» машины рациональные «мыслители». Они дополняют друг друга, а не конкурируют… Будущее жизни можно представить только через тонкую реалистическую динамическую теорию, которая охватывает все сложности реальности и избегает ущербного метафизического понятия сингулярности» (Snooks, 2019a: Электронный ресурс). «Для социальной эволюции тоже характерно ускорение, но широко обсуждаемые феномены технологической, демографической, социальной сингулярности во многом носят спекулятивный характер» (Malkov, 2020: 517-534: Электронный ресурс). Однако наиболее определенное высказывание содержит утверждение того, что сама гипотеза сингулярности - «не более чем миф. Она не основана ни на тщательном изучении фактов человеческого существования, ни на анализе реалистической динамической теории человеческого общества и человеческого разума» (Snooks, 2019b: Электронный ресурс). Ученые, стоящие на гуманистических позициях, убеждены в том, что этот миф о «Великой сингулярности», получивший широкое распространение в сетевом сообществе, нельзя «допустить в реальный мир» (там же).

Автор статьи поддерживает эту позицию.

Примечания

1 Миттельшпиль - стадия шахматной партии, следующая за дебютом. Характеризуется большой вариативностью комбинаций.

2 Эндшпиль - заключительная стадия шахматной партии. Характеризуется малым числом фигур и, соответственно, меньшим, чем в миттельшпиле, числом комбинаций.

3 Так вопрос ставится в сборнике статей «Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин» (Искусственный интеллект, 2019: 31-35).

4 Шкала развития искусственного интеллекта - начиная с 1936 г. и до победы машины в Го - представлена в работе: Искусственный интеллект, 2019: 36-40.

Список литературы

1. Ахо, А.В., Хопкрофт, Д.Э., Ульман, Д.Д. (2001). Структуры данных и алгоритмы. М.: Вильямс; СПб.; Киев. 382 с.

2. Востром, Н. (2016). Искусственный интеллект. Этапы. Угрозы. Стратегии. СПб.: Манн, Иванов и Фербер.490 с.

3. Весёлкин, Н.П. (2004). Головной мозг [Электронный ресурс] // Большая российская энциклопедия. URL: Н11р8:// Ьідепс.ги/Ьіоіоду/1ех1/2367407 (дата обращения: 20.06.2020).

4. Гоббс, Т. (2019). Левиафан: с комментариями и объяснениями / сост., предисл., коммент. Н. Плужниковой; пер. А.Э. Гутермана. М.: Издательство АСТ. 352 с.

5. Ильенков, Э.В. (1979) Проблема идеального // Вопросы философии. №6. С. 128-158.

6. Искусственный интеллект (2019). Что стоит знать о наступающей эпохе разумных машин / под ред. Д. Хэвен; пер. с англ. О.Д. Сайфудиновой. М.: АСТ. 270 с.

7. Кай-Фу, Ли (2019). Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. М.: Манн, Иванов и Фербер. 235 с.

8. Кант, И. (1966) Идея всеобщей истории во всемирно-гражданском плане // Сочинения: в 6 т.: пер. с нем. / под общ. ред. В.Ф. Асмуса, А.В. Гулыги, Т.И. Ойзермана. М.: Мысль. Т. 6. 743 с. С. 5-23.

9. Костина, А.В. (2019). Новейшие информационные технологии и «побочные эффекты» их внедрения // Образовательные технологии. №3. С. 27-34.

10. Локк, Дж. (1985). Сочинения: в 3 т. / ред. И.С. Нарский, А.Л. Субботин; ред. т. 1, авт. вступит. ст. и примеч. И.С. Нарский; пер. с англ. А.Н. Савина. М.: Мысль. Т. 1. 623 с.

11. Мамардашвили, М.К., Соловьев, Э.Ю., Швырев, В.С. (1972). Классика и современность: две эпохи в развитии буржуазной философии // Философия в современном мире. Философия и наука. Критические очерки буржуазной философии / под ред. Л.Н. Митрохина, Э.Г. Юдина, Н.С. Юлиной. М.: Наука 424 с. С. 28-94.