Ю.Т.Каганов

В первый период кибернетического бума, пришедший на конец 50-х и 60-е годы, рождались новые научные дисциплины и направления, связанные с отображением и имитацией важнейших характеристик сложных естественных систем в искусственных системах. Одна из таких дисциплин - бионика - провозгласила своей целью практическое применение в технических системах тех биологических механизмов и принципов действия, которые природа «отработала» в ходе эволюции живых организмов. В сферу интересов бионики попадают автономные и гомеостатические системы, искусственные нейроны и эволюционные системы, искусственные конечности, управляемые биотоками, и биотехнические системы, когда в качестве одной или нескольких подсистем используются живые организмы. Для распространения идей бионики в СССР большую роль сыграл перевод книги французского ученого Л.Жерардена «Бионика», где в популярной и увлекательной форме проводились аналогии между устройством органов ряда животных и функционированием технических систем. И конечно нельзя не вспомнить знаменитые лекции А.Н.Колмогорова и А.А.Ляпунова в Политехническом музее, в которых обосновывалась возможность технической имитации живых систем и развития «искусственной жизни», поднимались киберетические вопросы биологии и проводился логический анализ строения наследственной информации.

Уже тогда было ясно, что бионика в ее исходном понимании в большей степени охватывает проблемы «тела» технических систем, а вопросы их «одушевления» оказываются как бы на периферии. Бионика того времени в основном оставалась на уровне рефлекторных процессов, моделей самосохранения, обмена и адаптации, тогда как для понимания живых систем важное место занимает исследование процессов целеобразования, формирования и принятия решений в сложных ситуациях, классификация и оценки ситуаций и многое другое, что традиционно связано с психологией, а не с биологией или физиологией.

Так родилась психоника - научная область, основной задачей которой стало изучение и использование в новых технических системах результатов, добытых психологами при изучении психики человека и способов организации человеческой деятельности. С 1964 г. в Московском энергетическом институте в течение многих лет плодотворно работал научный семинар по психонике (см. «Новости ИИ, №1 за 1991 г.), в рамках которого активно обсуждались идеи гироматов и ситуационного управления, информационно-логических языков для развитых поисковых систем и многослойных перцептронов, модели коллективного поведения научной школы М.Л.Цетлина и принципы рефлексивного поведения В.А.Лефевра, а также многие другие проблемы. Семинар дал толчок развитию ряду важнейших направлений в искусственном интеллекте и искусственной жизни, актуальность, новизна и практическая значимость которых становятся общепризнанными в мировом научном сообществе в последние годы.

И вот начался новый виток развития. Теперь уже на базе другого ведущего инженерного вуза страны - Московского государственного технического университета им. Н.Э.Баумана (кстати, расположенного по соседству с МЭИ) с 1996 г. работает междисциплинарный научный семинар «Экобионика». Возникновение этого семинара обусловлено теми современными тенденциями в теории технических систем, которые все более четко проявляются в связи с развитием новых научных направлений в области экологии и биологии, синергетики и гомеостатики, информатики и ИИ. Название семинара - экобионика - было выбрано по аналогии с терминами бионика и психоника с учетом все возрастающей роли «экологического императива» в жизни человечества. Речь идет об использовании фундаментальных принципов организации биологических и экологических структур, основанных в первую очередь, на моделях исинергетики и теории нелинейных динамических систем, при разработке новых технических систем. Тематика данного семинара непосредственно cвязана с «бионическим направлением» в ИИ, проблематикой динамических интеллектуальных систем, мягких вычислений вычислительного интеллекта (Computational Intelligence), многоагентных систем и искусственной жизни (в широком смысле). Ниже мы публикуем информацию о семинаре «Экобионика», а также размышления его организатора, к.т.н., доцента МГТУ им. Н.Э. Баумана Ю.Т.Каганова об истоках, содержании и перспективных направлениях развития этой комплексной научной дисциплины XXI-го века.

Вместо введения

Прогнозирование перспектив развития техники следующего столетия, включая вопросы ее интеллектуализации и «оживления», является одной из фундаментальных проблем современности. Осмысление этой проблемы должно проходить не только в рамках технических наук, но и в более широком контексте, охватывающем философские, социальные, психологические и экономические аспекты. Острая кризисная ситуация, которую переживает человечество и которая грозит новыми потрясениями в относительно недалеком будущем, во многом спровоцирована отсутствием целостного взгляда на технику как явление общепланетарного или точнее, космического масштаба. Становится все более очевидным, что роль человечества в истории развития планеты Земля и по-видимому всей Солнечной Системы далеко не ординарна. В настоящее время можно констатировать, что деятельность человечества является наиболее мощным геологическим фактором, который может привести к резкому изменению структуры биосферы. По сути, человек становится ведущим фактором эволюции. Уже в недалеком будущем можно представить два исключающих друг друга сценария. Один из них - это переход на новую ступень развития, связанную с выработкой биосоциальных механизмов управления обществом и выходом человека в Космос. Реализация второго сценария, который связан с дальнейшим развитием негативных тенденций в биосфере, будет означать полное уничтожение человечества как биологического вида. Великий русский мыслитель, основатель биогеохимии В.И. Вернадский писал: «Человеческое общество все более выделяется по своему влиянию на среду. Это общество становится в биосфере единственным в своем роде агентом, могущество которого растет с ходом времени со все увеличивающейся быстротой. Оно одно изменяет новым образом и с возрастающей быстротой структуру самих основ биосферы» [1]. Идея о человеке как о ведущем факторе эволюции была сформулирована в 30-х годах не только В.И.Вернадским. Ее развивали в Англии биолог Дж. Хаксли, во Франции философ Э. Ле Руа, палеонтолог П. Тейяр де Шарден [2].

Отрицательное воздействие человека на окружающую среду связано прежде всего с его технологической деятельностью. Экологическая катастрофа, прогнозируемая в следующем столетии, висит как дамоклов меч над историческим развитием человечества. Начиная с работ, связанных с докладами «Римскому Клубу» [3,4], исследования в области глобальных экологических последствий техногенеза все в большей степени превращаются в стержневые направления, требующие интеграции различных областей знания. Это вызывает необходимость проведения как философского, так и естественнонаучного анализа причин и возможных путей выхода из экологического кризиса. Для этого необходимо проанализировать ведущие тенденции развития техники и наметить контуры дальнейшего технологического развития человечества. Крупнейший советский генетик Н.В. Тимофеев-Ресовский отмечал: «Человечество сейчас встало перед необходимостью сознательно планировать и детально предвидеть результаты все большего вмешательства в прежде стихийные процессы, идущие в биосфере Земли» [5]. Сознательное управление эволюцией биосферы выдвигается как одна из самых актуальных теоретических задач сегодняшнего дня. Становится все более очевидным, что от успешного ее решения зависит будущее человечества. Наступило время, когда человечество вынуждено принять на себя ответственность не только за ход научно-технической революции, но и за вызванную научно-техническим прогрессом революцию биосферы [6].

По-видимому, появление homo sapiens и неолитическая революция, приведшая к возникновению техногенной цивилизации, неслучайны. Они являются естественным ходом развития биосферы и обусловлены выходом на новый уровень эволюции, связанный с процессом самоорганизации биосферы и формированием ноосферы. С этой проблематикой связана и проблема выхода человека в космос [7]. Поэтому сегодня одной из важнейших задач является построение общей концепции технологического развития человечества как естественного развития биосферы.

Неслучайно также и то, что кризис, который переживает современная наука, совпал с кризисом исторического развития человечества. Происходит довольно быстрая смена господствовавшей научной парадигмы, связанной с опорой на линейный детерминизм, новой парадигмой, основанной на «нелинейном мышлении» [8]. Работы в области нелинейной и стохастической динамики, и, в особенности, работы 70-х годов И. Пригожина по теории диссипативных систем [9,10], Г. Хакена по синергетике [11], М. Эйгена по теории гиперциклов [12], приводят к смене традиционной картины мира. Благодаря этим работам, постепенно раскрываются тайны самоорганизации и морфогенеза.

Идеи самоорганизации проникают во многие научные дисциплины, включая информатику и ИИ [8,13],. Одним из наиболее важных полигонов для отработки идей самоорганизации становится создание синергетических (нелинейных, динамических) моделей биосферных и экологических систем. В этом плане наиболее важной проблемой является построение такой модели мира, в которой техногенное развитие человечества было бы согласовано с развитием биосферы. Но возникает вопрос, каким образом согласовать развитие техногенной цивилизации или, более конкретно, промышленных технических систем с формированием и развитием биосферных и экологических процессов? Для этого, очевидно, необходима выработка новой концепции технологического развития человечества, опирающаяся на новую научную парадигму. В качестве одной из таких концепций предлагается концепция экобионики, основанная на представлениях о технической деятельности человека как самоорганизующихся процессах деятельности биосферы.

Прежде чем сформулировать основные цели и идеи семинара и перейти к рассмотрению основной концепции экобионики, обратимся к тем причинам, которые привели к необходимости смены прежних представлений взаимодействия техники и биосферы.

Почему нужна новая парадигма взаимодействия техники и биосферы в эпоху техноценозов?

экобионика биосфера техника техноценоз

Бытовавшее в XIX-м веке и сохранявшееся в инженерных кругах приблизительно до начала 60-х годов нынешнего века представление о неограниченности ресурсов биосферы и независимости деятельности человека от окружающей его среды было поколеблено появлением первых работ алармистского направления. Прежде всего, работами участников «Римского Клуба». Впервые в истории человечества были очерчены грозные последствия возможной экологической катастрофы. Это стало серьезным предупреждением об опасности неуправляемого технологического прогресса.

Сбалансированность потоков биологического синтеза и разложения вещества в биосфере поражает своей точностью. Совпадение их друг с другом составляет десятые доли процента, образуя сложную систему замкнутых биохимических циклов. Нарушения этой цикличности и проявляется в истории биосферы в форме экологических кризисов: локальных, региональных и глобальных. Современный кризис, безусловно, является глобальным. Его можно определить как неразрешимое противоречие между утвердившейся в истории цивилизации практикой отношения общества к окружающей среде как к «покоряемой природе», берущей начало в неолитической революции, и способностью биосферы поддерживать систему естественных биогеохимических циклов самовосстановления. Если последние совершаются со скоростью в сотни и многие тысячи лет, то техногенные процессы имеют скорость на порядок, а в последнее время на несколько порядков выше. В результате человечество потребляет сейчас более 10% всей продукции биосферы [14]. Именно это приводит к непоправимым перекосам в функционировании биосферы.

В замечательной книге М.М. Камшилова «Эволюция биосферы» [6], написанной еще в 1974 году, так определяется понятие «биосфера»: «Организованность биосферы - явление многоплановое. В самом крупном плане биосфера представляет собой единство живого и минеральных элементов, вовлеченных в сферу жизни. Существенная составная часть единства - биотический круговорот, основанный на взаимодействии организмов, создающих и разрушающих органическое вещество».

В строении биосферы можно обнаружить гетерогенность биотического круговорота, его более древнюю часть, составленную из одноклеточных синтетиков и деструкторов, и относительно позднюю надстройку из многоклеточных организмов.

Бисфера распределена по поверхности Земли неравномерно. В различных природных условиях она сформирована в виде относительно самостоятельных природных комплексов, получивших название экосистем (экологических систем), или биогеоценозов. Понятие биогеоценоз введено в науку известным советским ботаником академиком В.Н. Сукачевым и означает сообщество организмов разных видов (биоценоз), обитающее в определенных природных условиях.

Каждый биогеоценоз, или экосистема, представляет собой своеобразную модель биосферы в миниатюре. Он, как правило, включает фотосинтетиков - хлорофилоносные растения, создающие органическое вещество, гетеротрофов, живущих на созданной автотрофами органике, деструкторов, разрушающих органическое вещество тел растений и животных до минеральных элементов, а также субстрат с каким-то запасом минеральных элементов.

Живая часть биогеоценоза - биоценоз - слагается из популяций организмов, принадлежащих к разным видам. В распределении видов в составе биоценоза обнаруживаются интересные закономерности. Оказалось, например, что, чем меньше вес организма, тем больше его численность.

Так как каждый биогеоценоз включает все основные экологические группы организмов, он по своим потенциям равен биосфере. Это своего рода первичная ячейка эволюции. Биотический круговорот в пределах биогеоценоза - основа длительного его существования - своеобразная модель биотического круговорота земли.

Устойчивость биосферы в целом, ее способность эволюционировать, в значительной мере определяется тем, что она представляет собой систему относительно независимых биогеоценозов. Ведь взаимосвязи между биогеоценозами в основном ограничиваются связями посредством неживых компонентов биосферы: газов атмосферы, минеральных солей, воды.

Биосфера представляет собой иерархически построенное единство, включающее следующие уровни жизни: особь, популяцию, биоценоз, биогеоценоз. Каждый из перечисленных уровней обладает относительной независимостью, что только и обеспечивает возможность эволюции всей большой макросистемы.

В организации биосферы как системы биогеоценозов находит свое выражение общий синергетический принцип формирования сложного из относительно простого:

Наличие специфических компонентов - популяций отдельных видов.

Различные виды организмов не только способны образовывать связи друг с другом (причем эти связи, как правило, нелинейны), они уже не могут существовать без этих связей.

Связи между организмами обеспечиваются в основном одним источником энергии - солнечным излучением. Каждый биогеоценоз - своебразный трансформатор солнечной энергии в энергию биосинтеза.

Принцип разделения труда, достаточно хорошо выраженный в биогеоценозах, придает им черты целостности, относительной независимости существования и как следствие этого большой устойчивости.

Относительная независимость биоценозов друг от друга при условии конкуренции между ними за местообитание, вещество и энергию создает оптимальные условия для эволюции всей биосферы.

Аналогичные процессы можно отметить и в формировании технических систем. За время существования человечества и, в особенности, в последнее столетие они оформились в виде новой глобальной системы, охватывающей всю планету, которая получила название «техносфера». Возникает естественный вопрос: насколько правомерно перенесение определенных понятий биологической науки и, в частности экологии, которые ориентированы на исследование естественных объектов на системы искусственного происхождения? Одним из таких направлений, изучающих изоморфизм между биологическими и техническими системами, в том числе и с точки зрения эволюционных аспектов, стала технетика [15,16]. Этот термин введен специалистом в области электрооборудования промышленных предприятий Б.И.Кудриным. Он обозначает интегральное исследование комплекса основных составляющих техносферы: техника, технология, материалы и готовые изделия. Другим аспектом этого направления стало исследование процессов разработки и эволюции сложных технических систем - техноценозов [17] и их формирование в техносферу. Многими учеными, в том числе В.И.Варшавским и Д.А.Поспеловым, Б.И. Кудриным, Е.П.Балашовым были отмечены существенные аналогии между организмами и техническими изделиями, популяциями и совокупностью взаимодействующих в социотехнической среде изделий (техноценозами), а также много общих черт в эволюции биосферы и техносферы. По сути, трактовка технических систем как органопроекций человека и других живых систем предполагает установление аналогий и связи между техническими системами и живыми организмами. В свое время это нашло отражение в возникновении такого направления как бионика. Бионика, возникшая в начале 60-х годов, своим девизом избрала принцип «живые прототипы - ключ к новой технике». Казалось, что достаточно использовать многие идеи и конструктивные решения, заложенные в живых системах, и можно будет создавать принципиально новые технические конструкции. Однако такой путь оказался тупиковым. Метод простой аналогии без разработки глубокой теоретической основы, лежащей за рамками чисто технической проблематики, не мог привести к существенным результатам. Такой теоретической основой стала разработка проблемы самоорганизации новой междисциплинарной областью знания - синергетикой. Идеи синергетики, возникшие в конце 60-х - начале 70-х годов, были дальнейшим продолжением исследований в области термодинамики неравновесных процессов, нелинейной динамики систем, химической кинетики и самоорганизации биологических макромолекул. Новое, что внесла синергетика - это представление о механизмах самоорганизации в различных естественных и искусственных системах.

Таким образом, появление новой научной парадигмы повлекло за собой и новое представление о дальнейшем развитии технического прогресса. Это отразилось в формировании эволюционного, по сути, биологического подхода к анализу технических систем, в переходе от метода аналогии к использованию фундаментальных закономерностей, лежащих в основе процессов самоорганизации и функционирования систем любой природы. Таков переход от концепции бионики к идеям экобионики.

Что такое экобионика?

Экобионика [18] есть новый научно-технический комплекс, связанный с использованием фундаментальных закономерностей функционирования биологических систем для разработки новых технических решений. Крупнейший специалист в области информационных технологий и самый богатый человек планеты Билл Гейтс сказал однажды: «Две группы технологий будут доминировать в XXI-м веке - биотехнологии и информационные технологии». Экобионика призвана объединить оба этих направления. В рамках экобионики решаются вопросы разработки передовых технологических процессов, встраиваемых в экологические и биосферные процессы.

Существует, безусловно, преемственная связь между бионикой и экобионикой. Экобионика опирается на идеи бионики, хотя существенно отличается от нее. Экобионика,как теоретическая и практическая система концепций разработки новой техники, во многом должна опираться на теоретический аппарат синергетики. В то же время она должна быть включена в технетику как часть теории технических систем. Новая техника должна вписываться в биосоциальные структуры биосферы. Такая задача не может быть решена без исследования процессов самоорганизации как в естественных, так и в искусственных системах. Экобионика, являясь комплексной системой знаний в области техники, биологии, экологии, информатики и синергетики, становится точкой роста целостного восприятия мира и формирования новой философии. Иными словами, экобионика оказывается одним из наиболее важных элементов теории ноосферы. Именно новая техника, согласованная с физическими и биосоциальными процессами становится той ступенью, которая позволит выйти из кризиса и подняться в область ноосферы.

В целом, концепция экобионики тесно связана с процессами самоорганизации биосферы в ноосферу. В то же время эта область непосредственно примыкает к современной проблематике ИИ и одному из пограничных с ИИ направлений теории искусственных (технических) систем, которое получило название «искусственная жизнь». В русле искусственного интеллекта и искусственной жизни находят свое воплощение ряд новых информационных технологий, в частности, гибридные нейрогенетические технологии и технология многоагентных систем. Колоссальные объемы информации, с которыми приходится иметь дело современному человеку, приводят к необходимости использования средств фильтрации информации с помощью электронных агентов. Так например создание обучаемых нейросетевых агентов позволяет организовать принципиально новый подход к работе с глобальной сетью и большими базами данных. В этом случае они действительно выступают в качестве адаптивных банков коллективного пользования. В свою очередь, разработка электронных агентов влечет за собой проблему моделирования их коллективного взаимодействия и самообучения, а также организации и регулирования эволюционных процессов в сообществе агентов.

Развитие экобионики невозможно без осмысления важнейших философских проблем технического прогресса. Важнейшие проблемы философии техники отражены в работах крупнейших современных философов: Х. Ортега-и-Гассета [19], М. Хайдеггера [20], Л. Мамфорда, и других. Уже в работе Х. Ортега-и-Гассета «Размышления о технике» 1938 года отмечалась опасность тех тенденций, которые наблюдаются в современном техническом прогрессе. Вместе с тем он, как и Л. Мамфорд, отметил неразрывную связь технических и биологических систем. Глубокий анализ сущности технического прогресса был дан в работах [21, 22, 23, 24, 25].

Работу в области исследования и разработки экобионических систем предполагается вести в четырех основных направлениях:

исследование синергетических принципов организации технических систем;

новые информационные технологии и теория «искусственной жизни»;

разработка технических систем и технологических процессов, встраиваемых в экологические и биосферные процессы;

разработка искусственных материалов, обладающих управляемыми свойствами (управляемая деструкция, «smart materials»).

Информация о семинаре «Экобионика»

В МГТУ им. Н.Э. Баумана уже третий год работает междисциплинарный научный семинар «Экобионика». В течение срока действия семинара было сделано около двух десятков докладов, касающихся различных аспектов этого направления. Ниже в хронологическом порядке публикуется общий список докладчиков и названий докладов.

1997 год:

Каганов Ю.Т. (к.т.н., МГТУ им. Н.Э. Баумана). «Экобионика. Концепция развития в теории технических систем».

Кудрин Б.И. (д.т.н., МЭИ). «Техноценозы и их развитие».

Голицын Г.А. (к.т.н., д.ф.н. МИРЭА). «Процессы самоорганизации в нейронных и квазинейронных системах».

Мелехова О.П. (д.б.н., МГУ). «Закономерности развития биологических систем».

Воронов С.А. (к.т.н., МГТУ им. Н.Э. Баумана). «Динамическая устойчивость и самоорганизация процессов вибрационной обработки».

Урманцев Ю.А. (д.б.н., д.ф.н., академик РАН). «Симметрия и асимметрия развития».

Буданов В.Г. (к.ф.-м.н., МГУ). «Синергетические аспекты информационных процессов».

1998 год:

Каганов Ю.Т. (к.т.н., МГТУ им. Н.Э. Баумана). «Техногенез и эволюция биосферы».

Тимофеев С.А. (к.т.н., МГТУ им. Н.Э. Баумана). «Информационная модель сна».

Донцов С.А. (к.т.н., МГТУ им. Н.Э. Баумана). «Метрологические аспекты применения сетей Кохонена в медицинской морфометрии».

Каганов Ю.Т. (к.т.н., МГТУ им. Н.Э. Баумана). «Нейрокомпьютерные модели управления и оптимизации сложных механических систем».

Мелехова О.П. (д.б.н., МГУ). «Синергетическая модель раннего развития».

Котин В.В. (к.ф.-м.н., МГТУ им.А.Н.Косыгина). «Время жизни популяции в случайной среде».

Данилов Ю.А. (д.ф.-м.н., МГУ). «О природе процессов самоорганизации».

В 1999 году состоялось уже четыре заседания семинара, на которых были заслушаны следующие доклады.

Каганов Ю.Т. (к.т.н., МГТУ им. Н.Э. Баумана). «Экобионика: проблема коэволюции биосферы и техники»

Котин В.В. (к.ф.-м.н., МГТУ им. А.Н.Косыгина). «Время жизни систем с флуктуирующими параметрами».

Жук Д.М. (к.т.н., МГТУ им. Н.Э. Баумана). «Тенденции развития информационных технологий в проектной деятельности».

Буданов В.Г. (к.ф.-м.н., МГУ). «Временная фрактальность в эволюции иерархических систем».

До конца года планируются следующие доклады.

Князева Е.Н. (д.ф.н., ИФ РАН). «Эвристические функции синергетики в научном познании».

Вальцев В.Б. (д.б.н.,ИНФ РАН). «Нейробионика как стратегия современной науки и техники».

Чадов В.Б. (к.ф.-м.н., МГТУ им. Н.Э. Баумана). «Нечеткие множества и проблема самоорганизации сложных систем».

Литература

Вернадский В.И. Биогеохимические очерки. - М.: АН СССР, 1940.

Тейяр де Шарден П. Феномен человека. - М.: Наука, 1987.

Медоуз Д.Х., Медоуз Д.Л., Рандерс Й., Беренс Ш.У. Пределы роста. - М.: Прогресс, 1991.

Медоуз Д.Х., Медоуз Д.Л., Рандерс Й. За пределами роста. - М.: Прогресс, 1994.

Тимофеев-Ресовский Н.В., Воронцов Н.Н., Яблоков А.В. Краткий очерк теории эволюции. - М.: Наука, 1969.

Камшилов М.М. Эволюция биосферы. - М.: Наука, 1974.

Аллен Д., Нельсон М. Космические биосферы. - М.: Прогресс, 1991.

Моисеев Н.Н. Расставание с простотой. - М.: АГРАФ. 1998.

Гленсдорф П., Пригожин И. Термодинамическая теория структуры, устойчивости и флуктуаций. - М.: Мир, 1973.

Николис Г., Пригожин И. Самоорганизация в неравновесных системах. - М.: Мир, 1979.

Хакен Г. Синергетика. - М.: Мир, 1980.

Эйген М., Шустер П. Гиперцикл. Принципы самоорганизации макромолекул. - М.: Мир, 1982.

Князева Е.Н., Курдюмов С.П. Законы эволюции и самоорганизации сложных систем. - М.: Наука, 1994.

Зубаков В.А. XXI век. Сценарии будущего: Анализ последствий глобального экологического кризиса. - Санкт-Петербург. СПбГМТУ, 1995.

Становление философии техники: Техническая реальность и технетика. Вып. 3. «Ценологические исследования». Ред. и сост. Б.И. Кудрин. - М.: Центр системных исследований, 1997.

Кудрин Б.И. Введение в технетику. - Томск, 1993.

Варшавский В.И., Поспелов Д.А. Оркестр играет без дирижера. - М.: Наука, 1984.

Каганов Ю.Т. Экобионика: проблема коэволюции техники и биосферы// Синергетика. Труды семинара. Т.2.- М.: МГУ, 1999. - С.168-177.

Ортега-и-Гассет Х. Избранные труды. - М.: Весь Мир. 1997.

Heidegger M. Being and Time. - New York: Harper and Row, 1962.

Философия техники в ФРГ. - М.: Прогресс. 1989.

Степин В.С., Горохов В.Г., Розов М.А. Философия науки и техники. - М.: Гардарика, 1996.

Тоффлер Э. Третья волна. - М.: АСТ. 1999.

Размещено на Allbest.ru