Проблема технологической сингулярности в условиях цифровизации

Размещено на http://www.allbest.ru/

ООО «ДИАВЕР»

ФИЦ "Информатика и управление" РАН

Проблема технологической сингулярности в условиях цифровизации

Рейнгольд Л.А.

к.т.н., консультант

Соловьев А.В.

д.т.н., гл.н.с.

г. Москва

Аннотация

В условиях цифровизации актуально исследование концептуальных вопросов, возникающих в процессе коэволюции человека и природной среды при внедрении цифровых технологий: Интернета вещей, искусственного интеллекта, больших данных и других. Для исследования гуманитарных и социально-экономических аспектов процессов коэволюции необходима система понятий, описывающих ситуационное окружение и деятельность человека в новом природном и технологическом окружении. Одним из таких понятий является технологическая сингулярность, под наступлением которой понимается момент, когда вследствие развития технологий человек и общности людей окажутся не в состоянии понимать сущность происходящих изменений. В статье рассматриваются возможные проблемы, связанные с возникновением технологической сингулярности вследствие цифровизации, а также возможные подходы к преодолению этого явления.

Ключевые слова: технологическая сингулярность, интероперабельность, интернет вещей, большие данные, цифровизация.

Abstract

In the context of digitalization, it is important to study conceptual issues that arise in the process of co-evolution of man and the natural environment during the introduction of digital technologies: the Internet of things, artificial intelligence, big data, and others. To study the humanitarian and socio-economic aspects of co-evolution processes, a system of concepts is needed that describe the situational environment and human activity in a new natural and technological environment. One of these concepts is a technological singularity, the onset of which is understood as the moment when, due to the development of technology, a person and communities of people will not be able to understand the essence of the changes taking place. The article discusses possible problems associated with the emergence of a technological singularity due to digitalization, as well as possible approaches to overcoming this phenomenon.

Keywords: technological singularity, interoperability, internet of things, big data, digitalization.

В условиях цифровизации необходимо исследование концептуальных и технологических проблем, возникающих в процессе коэволюции человека и создаваемого им нового технологического окружения. Для образного и понятного всем категориям пользователей именования информационных технологий используются ИТ-метафоры [Рейнгольд, 2017]: Интернет вещей, искусственный интеллект, большие данные, смарт-контракты, интероперабельность и др. Одной из таких метафор, характеризующих будущее технологического развития, является технологическая сингулярность (ТС).

ТС - одна из фундаментальных проблем человечества, появление которой ожидается в недалеком будущем - [Kurzweil, 2005]. Под этой метафорой понимается наступление такого состояния в функционировании новых технологий, когда сами технологии и оценка последствий от их использования окажутся недоступными для понимания отдельного человека и общества в целом.

Состояние ТС явится результатом коэволюции природной и искусственной среды и в значительной степени обусловленным внедрением цифровых технологий: Интернета вещей, систем искусственного интеллекта, технологий обработки больших данных. Следствием этого будут возрастающие и практически неограниченные возможности по хранению и ретроспективной обработке информации, влияющие на поведение человека и большинства окружающих его объектов [Соловьев, 2019]. Цифровизация радикально изменяет эволюционные процессы в современном обществе. За счет появления объектов с цифровыми свойствами и средств коммуникации между ними естественная среда приобретает новое качество. Это является причиной проблем, в процессе коэволюции: одновременной и взаимовлияющей эволюции природного окружения, человека и создаваемой им искусственной среды.

Одной из характерных особенностей цифровизации является появление нового слоя программно-технологических средств - цифровой инфраструктуры граждан, являющейся интерфейсом между человеком и цифровой средой. Граждане осуществляют взаимодействие с ситуационным окружением, окружающей цифровой и модифицированной природной инфраструктурой с использованием обязательного цифрового посредника, что увеличивает неопределенности цифровой трансформации [Reingold, 2020]. коэволюция цифровизация сингулярность

Актуальным требованием при наличии общедоступных цифровых устройств является обеспечение интероперабельности. Необходимо «взаимопонимание» между взаимодействующими объектами на природном, личностном, социально-экономическом и технологическом уровнях. Под взаимопониманием объектов мы понимаем наличие совместимых интерфейсов для коммуникаций, единообразие в понимании смыслового содержания и сущности явлений на всех уровнях. То есть, необходимо обеспечение семантической интероперабельности во взаимодействии значимых для человека объектов. Для этого должна быть разработана согласованная система понятий, достаточная для описания деятельности человека в новых условиях [Рейнгольд, 2018].

Коэволюция имеет позитивные и негативные последствия.

Позитивные заключаются в возрастании возможностей человека по воздействию на окружающую среду, ее модернизации в соответствии со своими требованиями. Затраты на получение новой функциональности объектного окружения человека радикально уменьшаются. Становятся доступными, массовыми предметы производства и потребления с недостижимыми ранее функциональными свойствами.

Негативные последствия: недостаточное понимание возникающих проблем на личностном, природном, социально-экономическом уровнях. Результатом может явиться возникновение новых видов конфликтов, быстрое развитие вооружений с новыми разрушительными возможностями, необратимые изменения в природной среде и пр.

Изменения, происходившие ранее, были более предсказуемы: они соответствовали «естественному порядку вещей», известным человеку закономерностям природы. При коэволюции с использованием цифровых технологий статичные ранее условия меняются. Примеры изменений:

- Глобальная коммуникационная среда для использования людьми, техническими устройствами, в объектах биосферы и пр.

- Интернет вещей - появление объектов с почти произвольно модифицируемыми и неочевидными с точки зрения традиционного опыта свойствами. Программно может быть задано практически любое поведение таких объектов. Цена сложной функциональности многократно уменьшается.

- Системы искусственного интеллекта: пока фрагментарно, но автоматизируются исконно человеческие способы деятельности: различные виды диагностики, управление транспортными средствами и производственными устройствами, сфера обслуживания и пр.

- Большие данные - в цифровой инфраструктуре формируется всеобщая память, включающая в себя историю всех представляющих интерес объектов, сведения об их прошлом, а также прогноз поведения в будущем и возможность управления [Соловьев, 2019].

- Возможна ситуация, когда цифровые устройства, объединяющие их системы следующих уровней получат явно или неявно собственные эволюционные механизмы, которые будут сосуществовать с известными человеку механизмами биологической и социальной эволюции. Возникнет проблема совместимости искусственной и естественной компонент эволюции.

В процессе коэволюции естественной и цифровой среды происходят изменения в социально-экономической сфере. Возрастают требования к актуализации правовой деятельности, правовая сфера должна оперативно и превентивно адаптироваться к происходящим в природной среде, технологическим и социально-экономическим изменениям [Гринь, 2020]. Перечисленные изменения будут способствовать появлению состояния ТС.

Следствиями возникновения ТС явятся: непредсказуемость изменений, отсутствие понимания происходящего и неуправляемость на различных уровнях социальной системы. Возможные крайности коэволюции в цифровой среде: от полного хаоса, до возможности зарегулировать все и вся без достаточной необходимости. Примером может являться использование цифровых технологий в борьбе с пандемией: отсутствие управляемости в некоторых аспектах (снабжение лекарствами, прогнозирование потребности в стационарной медицинской помощи, оказание своевременной помощи всем категориям больных, а не только болеющим COVID), соседствует с непоследовательными, вводимыми не вовремя жесткими ограничениями (внедрение различных систем штрафов и ограничений без достаточного обоснования и надежно работающей технической базы). Системное понимание процессов коэволюции пока недостаточно.

Казалось бы, в цифровой среде природное и социальное окружение человека должно стать более предсказуемым, рациональным. Однако уровень нашего понимания происходящих явлений не соответствует сложности формирующегося вокруг мира. Цифровые технологии - один из основных факторов, являющихся причиной наступления технологической сингулярности. Субъекты имеют противоречивые интересы в цифровой среде. В гибкой программируемой инфраструктуре, не имеющей единой концептуальной базы и центра управления, сложно связать причины и следствия, спрогнозировать отдаленные последствия противоречивых изменений.

Наступление ТС ожидается с 2030-2040 года. Как предотвратить (или хотя бы «отодвинуть») наступление ТС? Представляется целесообразным:

- Исследование противоречий в развитии и внедрении цифровых технологий. Противоречия, в частности, возникают:

o на различных уровнях иерархии общества;

o между экономическими субъектами, разными типами оргструктур (органы управления различного уровня, общественные организации и пр.);

o конкуренция и конфликты между людьми.

- Выработка механизмов достижения консенсуса между конкурирующими субъектами в условиях недостаточно понимаемых процессов коэволюции.

- Обоснованные ограничения по внедрению цифровых технологий для снижения рисков возникновения ТС. То есть, предотвращение чрезмерного использования цифровых технологий, исключение вариантов развития с неоднозначными последствиями.

- Использование возможностей самих цифровых технологий для выявления, предотвращения и устранения негативных тенденций:

o Искусственный интеллект для выявления проблем и поиска решений с минимальными последствиями.

o Специальные методики и программное обеспечение, позволяющие увеличить возможности субъектов по оптимальному поведению в условиях приближения ТС.

o Выработка методов объяснения и интерпретации субъектам особенностей ситуационного окружения, приводящих к ТС (объяснимый искусственный интеллект применительно к коэволюции и ТС).

Исследование явления ТС позволит сформировать механизмы и технологические решения для минимизации негативных явлений, рисков и затрат ресурсов.

Требуется технология исследования формирующейся на новых социально-экономических принципах цифровой среды, методы оценки последствий от коэволюции природы, общества и технологической инфраструктуры. Это позволит решать принципиально новые актуальные научно-практические задачи.

Развитие рассмотренных положений позволит решать исследовательские задачи и предложить практические решения, позволяющие воздействовать на явление ТС, реализовать один из возможных вариантов «мягкого системного подхода» к исследованию взаимодействия человека, социальных групп с интеллектуальным окружением. Это обеспечит понимание человеком изменений в своем ситуационном окружении и позволит отодвинуть наступление ТС как на личностном, так и на социальном уровне.

Выводы

В условиях цифровизации среда, окружающая человека, функционирование социума уже не будут такими, как прежде.

1. Можно говорить о коэволюции природного и искусственного окружения человека и возрастающей роли в этом процессе искусственной, технологической составляющей.

2. Существенный фактор в возникновении технологической сингулярности - нестабильность, вызванная несогласованностью технологического развития и конкуренцией в деятельности субъектов на различных уровнях социального взаимодействия.

3. Необходимо использовать возможности цифровых технологий как инструмент для преодоления проблем, связанных с технологической сингулярностью.

Список литературы

1. Гринь О.С., Рейнгольд Л.А., Рейнгольд Е.А., Соловьев А.В.. Жизненный цикл правовой деятельности в условиях развития цифровых технологий. Информационные технологии и вычислительные системы. - М.. 2020. - № 2. - С. 10-20.

2. Рейнгольд Л.А. Метафоры информационных технологий в современном обществе // Прикладная информатика. 2017. - Т. 12, № 6 (72). - С. 124-139.

3. Рейнгольд Л.А. О системе понятий для концептуального исследования информационных технологий // Информационные и математические технологии в науке и управлении. 2018. - № 4 (12). - С. 6-17. DOI: 10.25729/2413-0133-2018-4-01

4. Соловьев А.В., Баканова Н.Б. Проблемы долговременной сохранности больших данных // Информационные технологии и вычислительные системы. - М., 2019. - № 2. - С.44-53.

5. Kurzweil R. The singularity is near: when humans transcend biology. - N.Y.: Viking, 2005. - 672 p.

6. Reingold L., Reingold E., Soloviev A. Grin O. Citizens' digital infrastructure as a new element of modern society critical infrastructure // CPT2020 Computing for Physics and Technology. The 8th International Conference on Computing for Physics and Technology (CPT2020). Conference Proceedings (2020), Nizhny Novgorod, Russia, May 11-15. 2020. - P. 128-132.

Размещено на Allbest.ru