Социальные вычисления и происхождение моральных норм

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Социальные вычисления и происхождение моральных норм

Михайлов Игорь Феликсович

В предлагаемой авторской концепции общество и человек понимаются как вложенная вычислительная система мультиагентной архитектуры. «Вычислительность» как понятие расширяется за пределы машины Тьюринга и рассматривается как способность рассчитывать и предсказывать статистические распределения, в максимальной степени соответствующие характеристикам внешней среды, чтобы достичь оптимального значения предполагаемой контрольной переменной. Общество индуцирует в агентах правила их поведения подобно тому, как магнитное поле индуцирует ток в движущемся проводнике. Индукция осуществляется путем отбора эмпирически найденных индивидами паттернов поведения и сертификации тех из них, которые наиболее полезны для достижения целевых показателей системы. Сертифицированные правила воспринимаются индивидами как, с одной стороны, имманентные им, а с другой - как в принципе допускающие их нарушение, поскольку как отдельные агенты, так и общество в целом суть статистические машины. Объективная вероятность неисполнения требования правила воспринимается как моральная свобода, а гормональное подкрепление следования общему правилу - как ощущение морального долга. Вычислительный подход к морали преодолевает индуктивизм натуралистических и утилитаристских теорий и в то же время научно объясняет «трансцендентальность» нравственного закона, не прибегая к идеалистической метафизике, как это делает деонтизм кантовского толка.

Ключевые слова: натурализм, утилитаризм, деонтизм, мораль, вычисление, мозг, нейросеть

Social computations and the origin of moral norms

The author proposes a conception in which society and a person are understood as a nested computing system of a multi-agent architecture. The `Computational' as a concept extends beyond the Turing machine and is considered as the ability to compute and predict statistical distributions that best match the characteristics of the external environment to achieve the optimal value of an assumed control variable. Society induces the rules of behavior in agents similarly to the way by which a magnetic field induces a current in a moving conductor. Induction is carried out by selecting the patterns of behavior empirically derived by individuals and certifying the patterns that are most use - ful for achieving the target indicators of the system. Certified rules are perceived by individuals as, on the one hand, immanent to them, and on the other, as generally allowing for their violation, since both individual agents and the whole society are statistical machines. The objective probability of non-compliance with a rule is perceived as moral freedom, and hormonal reinforcement of adherence to the general rule is perceived as a sense of moral duty. The computational approach to morality overcomes the inductivism of naturalistic and utilitarian theories, and at the same time scientifically explains the `transcendentality' of moral law, without resorting to idealistic metaphysics, as does Kantian deontism.

Keywords: naturalism, utilitarianism, deontism, morality, computation, brain, neural network

Скрывая от нас все бессознательные заключения, к которым он приходит, наш мозг создает у нас иллюзию непосредственного контакта с материальным миром. В то же самое время он создает у нас иллюзию, что наш внутренний мир обособлен и принадлежит только нам. Эти две иллюзии дают нам ощущение, что в мире, в котором мы живем, мы действуем как независимые деятели. Вместе с тем мы можем делиться опытом восприятия окружающего мира с другими людьми. За многие тысячелетия эта способность делиться опытом создала человеческую культуру, которая, в свою очередь, может влиять на работу нашего мозга.

Крис ФритФрит К. Мозг и душа: как нервная деятельность формирует наш внутренний мир. М., 2010. С. 37-38.

Вычислительный подход к морали

Мораль может быть понята как совокупность социальных ограничений, необходимость которых не следует непосредственно из природных факторов. Например, запреты на близкородственные связи или на употребление алкоголя в некоторых обществах не являются в строгом смысле слова моральными, потому что их легко можно объяснить природными факторами. А, например, максима «не обижай слабых» значительно хуже поддается натуралистическому объяснению, поскольку с точки зрения физической эффективности наиболее энергетически эффективный путь к обладанию неким ресурсом состоит в том, чтобы забрать этот ресурс у более слабой особи, если он имеется у нее в готовом виде, - вместо того, чтобы пытаться произвести его собственным трудом или добыть где-то в природе. Эта и подобные максимы составляют собственно моральную сферу - столь трудный для научного объяснения «нравственный закон внутри нас».

Среди многочисленных философских попыток справиться с этой проблемой можно выделить три основных подхода: натурализм, утилитаризм (который почитается некоторыми за подвид консеквенциализма) и деонтизм. Натурализм пытается объяснить всё естественными причинами, утилитаризм вводит некую телеологию, опираясь на последствия поступков, а деонтизм основывается на представлении о трансцендентальном моральном долге. При этом первые два подхода сталкиваются с невозможностью объяснить всеобщность моральной регуляции: у разных особей могут быть разные причины поведения и разные представления о его последствиях. И тогда вопрос - каким образом получается так, что всё сообщество руководствуется более или менее одной моральной системой, - повисает в воздухе. Деонтизм как бы разрешает эту проблему, но за счет опоры на догматическую - и, как правило, идеалистическую - метафизику.

В русскоязычной философской литературе также существует солидная традиция философии морали вообще и теории происхождения моральных норм в частности. По понятным историческим причинам, эта проблематика рассматривается у нас в основном в культурно-историческом аспекте, с акцентом на реальное происхождение моральных норм скорее, чем на априорный концептуальный анализ нормативности как таковой. Так, Р.Г. Апресян считает, что:

В теоретической абстракции номогенез может быть представлен как акт рационального решения, результат нормотворчества. Однако насколько можно судить по доступным историческим данным, в реальности формирование стандартов происходило стихийно, на основе осмысления опыта эффективного поведения и взаимодействия, практического и рефлексивного обобщения этого опыта, его объективации, универсализации и постепенного закрепления в культуреАпресян Р.Г. Нормативная регуляция поведения // Человек. 2018. № 1. С. 5..

В приведенном фрагменте можно выделить две мысли: (1) априорные теории морали могут обладать концептуальной ясностью, но не соответствовать реальному историческому процессу; и (2) в реальности отбор и закрепление моральных норм происходит на основе осмысления опыта эффективного поведения. Как я постараюсь показать далее, с этой идеей вполне можно работать при условии возможно более строгого понимания эффективности. В общем случае более эффективным является нечто - процесс, устройство, организация, сотрудник и т.д., - если при меньших затратах оно обеспечивает больший возврат. Возникает естественный вопрос: затратах чего? На мой взгляд, всякая теория выигрывает в том числе от универсальности своей методологии. Поскольку подход, который я далее собираюсь предложить, может быть применим в принципе к любым неравновесным системам, а не только к социальным, под затратами, по всей видимости, стоит понимать энергетические затраты как наиболее универсальный аспект естественных взаимодействий. Но этот критерий на данном этапе принимается скорее как гипотетический - я не исключаю, что будущая теория окажется более эффективной, основываясь на иных величинах.

Предлагаемый мною вычислительный подход к морали, на мой взгляд, свободен от недостатков вышеуказанных подходов, что я и постараюсь показать в дальнейшем изложении. В рамках этого видения мораль понимается как система правил и алгоритмов, которую общество как обучающаяся вычислительная система вырабатывает ради сохранения гомеостаза и/или энергетического оптимума. Вычислительная цель этой системы намечена в данном случае условно и приблизительно и в ходе уточнения теории может быть заменена на другую. Более точное ее определение - предмет эмпирических исследований. Например, в рамках популярной ныне теории предиктивного процессинга предполагается, что все сложные неравновесные системы - биологические, когнитивные или социальные - преследуют цель минимизации «свободной энергии», т.е. разницы между данными, предсказанными внутренней генеративной моделью системы, и реальными входящими данными. Но в любом случае существует некая контрольная переменная, на достижение оптимального значения которой направлена вся деятельность системы. Очевидно, что вычислительный подход к морали является холистическим: поведение частей объясняется задачами целого.

Дискуссии вокруг вычислений

В исходном определении общество предстает как обучающаяся вычислительная система. Но что значит «вычислительная»? Вычислительная система осуществляет вычислительные процессы, а последние характеризуются алгоритмичностью, субстратонезависимостью и контрфактуальностью. Алгоритмичность предполагает, что весь процесс можно представить как последовательное выполнение правил вида «если..., то...». Контрфактуальность тесно связана с этим свойством и означает, что процесс способен воспринять и обработать любые альтернативные данные из некоего допустимого множества. Далее я постараюсь показать, что контрфактуальность лежит в основе того, что мы привычно называем субъективностью, и именно социальность делает ее возможной в том конкретном воплощении, с которым мы сталкиваемся в человеческом мире. Субстратонезависимость - это синоним множественной реализации, возможности осуществить один и тот же по целям и содержанию процесс в различных материальных средах, обладающих необходимыми структурными характеристиками.

Однако в этом пункте часто приходится сталкиваться с возражениями такого рода, что употребление термина «вычислительный» является слишком сильной антропоморфизацией, поскольку в природных процессах только при очень развитом воображении можно увидеть целенаправленное получение некоторых численных значений. Поэтому одни авторы иронически спрашивают, какими именно разделами математики пользуется природа, осуществляя натуральные вычисления Бажанов В.А Вычисляющая природа - реальность или метафора? // Философия науки и техники. 2021. Т. 26. № 2. С. 38-43., а другие, признавая недостаточность традиционного физического дискурса для описания сложных процессов в природе, вполне серьезно предлагают избегать термина «вычислительный» и использовать вместо него термин «алгоритмический» Шалак В.И. Алгоритмические явления в природе: модель объяснения // Вопросы философии. 2020. № 11. С. 120-124.. В основе этих разночтений лежат два обстоятельства: специфика русского языка и линейное понимание алгоритмичности.

Многие авторы (если не большинство) настойчиво сводят вычисление к манипуляциям с символами - цифровыми или лексическими Mitkowski M. From Computer Metaphor to Computational Modeling: The Evolution of Com- putationalism // Minds and Machines. 2018. Vol. 28. P. 515-541.. Однако такой подход, по сути, аналогичен подмене анализа, например, музыки как таковой анализом языка ее нотной записи - подмене, которую, на мой взгляд, совершил Нельсон Гудмен в своей знаменитой работе Goodman N. Languages of Art. Indianapolis, 1976.. То есть одна из возможных репрезентаций сущности выдается за саму сущность. Число есть символическая репрезентация количества, но количество - это реальное свойство материальных объектов. Русское слово «вычисление» заставляет нас думать о символических операциях с числами, тогда как латынь и испытавший ее влияние английский предлагают как минимум два частично синонимичных термина: calculatio (calculation) и computatio (computation). В нестрогих разговорных контекстах они могут быть взаимозаменяемы. Однако в целях формирования строгого научного лексикона стоит присмотреться к их этимологии. Этимология в общем и целом - не лучший советчик в деле определения термина, но в данном случае она ведет по правильному пути.

Calculatio имеет корнем латинское calculi, что буквально обозначает морскую гальку - главное средство манипуляций с числами у пифагорейцев («кальций» - однокоренное слово). Видимо, с этим связано достаточно узкое значение слова «калькулятор» в русском языке. Напротив, латинское putare означает «думать» или «полагать». Приставка com- означает «вместе». Поэтому computatio может обозначать не только арифметические, но также логические и вообще любые правилосообразные операции. И, закономерным образом, слово «компьютер» в русском языке обозначает устройство, значительно более универсальное, чем калькулятор. Однако, когда мы произносим «вычисление», большая часть слушателей связывает обозначаемые этим словом операции с тем, что делает калькулятор - именно потому, что в корне слова присутствует «число». К сожалению, в русском языке нет адекватного перевода латинского computatio. Поэтому остается только договориться, что в контексте данной статьи термин вычисление будет употребляться именно в этом - более универсальном - значении.

Другое возражение против использования термина «вычисление» в контексте природных или социальных процессов связано со специфическим пониманием их алгоритмичности. Так, В.И. Шалак считает, что «И. Михайлов увидел смысл социальности в информационном обмене между людьми. Именно поэтому вместо общего понятия алгоритма он обратился к более узким понятиям вычисления и репрезентации. С нашей точки зрения, это методологическая ошибка» Шалак В.И. Алгоритмическая модель социальных процессов // Философские проблемы информационных технологий и киберпространства. 2021. № 1. С. 51.. Он ссылается на мою статью Михайлов И.Ф. Вычислительный подход в социальном познании // Философия науки и техники. 2021. Т. 26. № 1. С. 23-37., где я действительно утверждал, что класс вычислительных процессов более узок, чем класс процессов алгоритмических. Алгоритмический процесс - это процесс, который можно представить как следующий правилам из некоторого множества. Вычислительный процесс - это алгоритмический процесс, в котором объектом управления являются репрезентации. И далее у меня имеется уточнение, которое Владимир Иванович, к сожалению, проигнорировал: «Репрезентация есть отображение (mapping) формальных свойств одного процесса в формальные свойства другого», на основании чего, согласно моему видению, «...сами репрезентации “отвязываются” от какого бы то ни было психологизма и получают чисто формальное определение» Там же. C. 30. Шалак В.И. Алгоритмическая модель социальных процессов. С. 50.. В.И. Шалак полагает, что именно информационный подход, который он мне приписывает, заставляет меня прибегать к «вычислительной» терминологии, поскольку, по его мнению, «символьные преобразования составляют лишь узкий класс алгоритмических явлений» и «в природе большинство таких явлений характеризуется переходами не между символьными репрезентациями, а между реальными предметами и явлениями»¹⁰. Это, как и предшествующие рассуждения в его статье о вычислениях как операциях над «символьными репрезентациями» чисел, показывает, что он понимает отношение репрезентации как семантическое отношение между символом и его значением, т.е. вполне в духе когнитивного классицизма. Адепты последнего рассматривают когнитивные акты как операции над «внутренними» символами в соответствии с некоторыми синтаксическими правилами Pylyshyn Z.W. Computation and cognition: Toward a foundation for cognitive science. Cambridge (MA), 1986. P. xiii.. Эта позиция заставляла и заставляет ее сторонников искать «транспорты» (vehicles) символических репрезентаций в мозге, что довольно проблематично в связи с имеющимся эмпирическим материалом. Но важнее то, что эта семантическая интерпретация ведет когнитивных теоретиков прямо к «парадоксу гомункула», о чем подробнее скажем далее. Именно поэтому некоторые философы и когнитивные ученые уже пытаются разрабатывать концепции вычислений, которые позволили бы интерпретировать соответствующим образом некоторые естественные - в т.ч. нейробиологические - процессы.

Еще раз: я понимаю вычисления как алгоритмические процессы, оперирующие репрезентациями, а отношение репрезентации - как функциональную зависимость формальных свойств одного процесса от формальных свойств другого. В этой интерпретации нет никаких семантических отношений и синтаксических правил, никаких символов - только функциональные отношения. Почему я предпочитаю называть такие процессы вычислительными? Потому что, как правило - если не всегда, - они осуществляются с целью адаптации поведения сложных неравновесных систем к меняющимся условиям среды, репрезентированным во входных данных, которые для этого нужно получить и обработать. Система функционально взаимосвязанных процессов может действовать подобно искусственному компьютеру: преобразовывать входные данные в выходные в соответствии с некоторыми алгоритмами. При этом задействованные взаимозависимости и преобразования (computatio) вовсе не обязательно должны описываться какими-либо операциями с числами (calculatio).

Чтобы еще более наглядно объяснить суть нашего расхождения, обратимся к более или менее удачному примеру В.И. Шалака: «Реализуя алгоритм приобретения хлеба в магазине, мы ставим цель получить вполне реальную буханку хлеба, а не ее символьную репрезентацию в виде кассового чека» Шалак В.И. Алгоритмическая модель социальных процессов. С. 50.. В рамках его позиции подразумевается, что операции по покупке реального хлеба являются алгоритмическими, но не вычислительными, тогда как операции с чеками, оставшимися после покупки, могут быть вычислительными: например, при анализе расходов семейного бюджета. С моей же точки зрения, ситуация выглядит следующим образом. Если для покупки хлеба я сконструировал примитивного робота, который может реализовать простой линейный алгоритм (переместиться в магазин - протянуть продавцу деньги - назвать желаемый вид хлеба - получить покупку - получить сдачу - вернуться домой), то можно сказать, что такой робот совершает алгоритмический, но не вычислительный процесс - но и то только отвлекаясь от того обстоятельства, что хотя бы в навигационной системе такого робота магазин, хлеб, деньги и продавец должны быть как-то репрезентированы и им, роботом, опознаны. Но если алгоритмы моего робота окажутся достаточно сложны для того, чтобы он знал, что нужно делать, если магазин окажется закрыт, если хлеб не завезли, если у продавца не окажется сдачи и т.п., чтобы при любых неожиданных входных данных он вернулся домой с наилучшим в данных обстоятельствах результатом, - при этих условиях то, что он делает, может быть обозначено латинским глаголом ` computare' («решать, рассуждать, делать выводы» и т.п.). И тогда сам процесс его прохождения по всем этапам решения этой задачи со всей их контрфактуально- стью может быть обозначен латинским `computatio' или английским `computation'. И у меня нет иного выбора, как перевести это понятие на русский словом «вычисление».