Стратегии интеллекта и его онтологии: попытка разобраться

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

СТРАТЕГИИ ИНТЕЛЛЕКТА И ЕГО ОНТОЛОГИИ: ПОПЫТКА РАЗОБРАТЬСЯ

Н.М. Боргест

Самарский национальный исследовательский университет им. академика С.П. Королева, Самара, Россия Институт проблем управления сложными системами РАН, Самара, Россия



Аннотация

Автор предлагает вступить в дискуссию по вопросам стратегий развития искусственного интеллекта, технологий и систем искусственного интеллекта. Статья предваряется предисловием в форме послания из инобытия, а завершается послесловием в форме обращения к разработчикам искусственного интеллекта. Мотивом написания статьи явилась принятая в России стратегия развития искусственного интеллекта на период до 2030 года. В статье обсуждаются используемые понятия: интеллект, интеллекты индивидуума и социума, их стратегии, искусственный интеллект, онтологии и объяснимый искусственный интеллект, инобытие как онтология проектирования. искусственный интеллект научный

Приведены ссылки на обзоры стратегий развития искусственного интеллекта, принятые в ведущих странах мира, анализируются стратегии, принятые в России и США. В российской стратегии отмечается наличие критериальных проблем и не согласованность целей и предложенных показателей, отсутствие онтологий предметных областей при разработке систем искусственного интеллекта. В американской стратегии отмечены: сделанные в ней акценты на понятный, заслуживающий доверие, надёжный и безопасный искусственный интеллект; онтологии и стандарты, принятые и разрабатываемые с целью укрепления лидерства США в создании искусственного интеллекта.

В заключении делается вывод о важности и необходимости разработки и применения онтологий при создании объяснимых систем искусственного интеллекта, интегрированных в социум.

Ключевые слова: стратегии, естественный интеллект, искусственный интеллект, онтологии, индивидуум, социум.



Abstract

STRATEGIES OF INTELLIGENCE AND ITS ONTOLOGY: AN ATTEMPT TO UNDERSTAND

N.M. Borgest

Samara National Research University named after academician S.P. Korolev, Samara, Russia Institute of Control of Complex Systems RAS, Samara, Russia

The author proposes to discuss the strategies of artificial intelligence development, technologies and systems of artificial intelligence. The article begins with a preface in the form of a message from another being, and ends with an afterword in the form of an appeal to the developers of artificial intelligence. The Artificial Intelligence Development Strategy that was adopted in Russia for the period until 2030 became a motive for writing the article. Such concepts as intelligence, the intelligences of the individual and society and their strategies, artificial intelligence, ontologies and explainable artificial intelligence, other being as an ontology of designing are discussed in the article. Links to the reviews of artificial intelligence development strategies adopted in the leading countries of the world are given. The strategies adopted in Russia and the USA are analyzed. The Russian strategy notes the presence of criterion problems and the inconsistency of goals and proposed indicators, the lack of ontologies of subject areas in the development of artificial intelligence systems. The American strategy notes the emphasis made on an understandable, trustworthy, reliable and safe artificial intelligence; ontologies and standards adopted and developed to strengthen the US leadership in the creation of artificial intelligence. In conclusion the importance and necessity of developing and applying ontologies when creating understandable artificial intelligence systems integrated into society is highlighted.

Key words: strategies, natural intelligence, artificial intelligence, ontology, individual, society.



Предисловие: послание из инобытия

Дмитрий Александрович Поспелов См. статью «От редакции» в этом номере журнала, посвящённую Д.А. Поспелову (19.12.1932 - 30.10.2019) - инициатор и организатор исследований по искусственному интеллекту (ИИ) в нашей стране - в своей последней статье [1], написанной в жанре фантастического рассказа путешествующих в «инобытие», сформулировал свойство разумности, которое «связано с наличием свободы выбора в альтернативных ситуациях и способностью к рефлексии, позволяющей разумному существу ставить себя на место другого существа и прогнозировать возможные решения этого «другого»». В этом лаконичном определении отмечены возможности действий, но не нашли отражения принципы и критерии оценки этих действий, характерные атрибуты разумных существ. Очевидно, что гиппо-кратовский принцип «не навреди» по умолчанию присутствует у разумных существ, как впрочем, и важное свойство «игра в долгую», когда действия текущие имеют стратегически позитивный результат. Но главной итог этой его работы об «облаке» - предостережение, которое он выразил в иносказательной форме: «Возможно, что атомный гриб нарушил связь миров: наши обладающие большими знаниями братья по разуму отшатнулись от нас, сделавших первый роковой шаг на пути к собственной гибели» [1]...

Вот и Римский Клуб, с момента своего образования озабоченный будущим человечества, стремится дать вектор, показать и обосновать текущие проблемы, указать стратегию для мировой элиты. Подавляющее большинство ежегодных его отчётов подтверждают приверженность Клуба быть интеллектуальным чувствительным датчиком цивилизации. Но пока это лишь «глас вопиющего в пустыне».

Наша цивилизация, как некая организованная сущность социальных млекопитающих, не обладает всеобщим интеллектом, вернее - этот естественный сформированный эволюцией разум - есть, он проявляет себя в совместных и согласованных действиях, не имея до прихода Интернета общего хранилища и коммуникатора между активными особями. Этот разум через своих продвинутых индивидуумов видит и понимает происходящее, но не вполне осознаёт изменения, которые им же инициированы в собственной и, как оказалось, очень ограниченной для него среде обитания. Обратная связь включается только тогда, когда сигнал изменений доходит до элиты Элита - устойчивая общность с глубокими связями входящих в неё людей, осуществляющих управление социумом и выработку моделей общественной жизни., до «её жизненно-важных органов», только тогда срабатывает рефлексия. Что касается теории В.И. Вернадского о ноосфере (сфере разума), то с утверждением о состоявшейся уже реальности ноосферы трудно согласиться, в то время как неотвратимость её наступления, по мнению автора, очевидна.

В отличие от юбилейного отчета См. статью «От редакции» в 1 номере журнала за 2018 «COME ON!». Римского Клуба отчёт «Прекрасное будущее» показывает, что у человечества есть «шанс построить восстановительную экономику посредством сочетания просвещённого предпринимательства, технологий и инновационной политики. Авторы - мировые лидеры в области бизнеса, экономики и устойчивого развития - рисуют в общих чертах принципы восстановительной экономики и детализируют стратегическую дорожную карту для её достижения, в которой - повышение благосостояния людей». Ободряющие декларации о благе народа можно слышать от его «слуг» в разных формах как в странах реальной, так и виртуальной демократии, начиная со времён Платона до наших дней. Пока же элита идёт по сценариям, описанным ещё на рубеже тысячелетия: «Элита получит больший контроль над массами; а в силу того, что человеческая работа больше не будет необходима, массы окажутся лишним, бесполезным бременем на системе. Если элита безжалостна, они могут просто решить истребить большую часть человечества. Если же гуманна - то могут использовать пропаганду или другие психологические или биологические методы, чтобы уменьшить коэффициент рождаемости, пока большинство не вымрет, оставив мир элите. Или, если элита состоит из мягкосердечных либералов, то они могут решить поиграть роль хороших пастухов по отношению к остальной части человеческой расы » [2].

Эти мрачные прогнозы базируются на жестокости и неравенстве, свойственным сущностям органического мира, о которых в своё время писал теоретик и философ космонавтики К.Э. Циолковский: «Равенства в мире органическом, очевидно, быть не может. Человек уничтожает вредные и ненужные ему растения, хищных или ядовитых и бесполезных животных... Отчего же такая жестокость. Ясно, что от неравенства устройства тел, от неравенства органических существ. Человек сильнее и уничтожает своих неразумных и слабых врагов. Но такое же неравенство существует и между людьми... нравственные и умственные качества людей безмерно различны. Один ленив, другой умирает в труде. Один туп до того, что не умеет считать и не может одолеть грамоту, другой изобретает высшую математику, открывает устройство мира и его законы. Один всегда лжет и лукавит, другой правдив. Один жесток, другой добр. Один заботится о семье и близких, другой - только о самом себе. Один силён, другой калека. Один красив, другой безобразен.» [3].

Возможно, эволюционно это верно и оправданно в дикой природе, но просвещённое человечество не может мириться с этим и надеется, что разум выработает более гуманную стратегию развития человечества, как отмечал В.И. Вернадский в теории о ноосфере.

«....человеческий мозг -- это пустой чердак, куда можно набить всё, что угодно. Дурак так и делает: тащит туда нужное и ненужное... В моём чердаке только необходимые мне инструменты».

Шерлок Холмс (А.К. Дойл «Этюд в багровых тонах»)

«Искусственный интеллект -- это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира». В.В. Путин



Введение: мотив и истоки

Достижения информационных технологий позволили обратить внимание правительств развитых государств на ИИ с благими целями, которые присутствуют в принятых декларациях этих государств. Языковые, культурные и ментальные различия стираются, но ещё существенны, а разница материального благополучия граждан, возможность доступа к различным ресурсам и услугам, к сожалению, не способствуют гармоничному развитию обществ.

Основным побудительным мотивом написания статьи именно сейчас явилась принятая 10.10.2019 г. в России «Национальная стратегия развития искусственного интеллекта на период до 2030 года» [4].

За годы своего эволюционного развития природный, биологический или естественный интеллект (ЕИ) человека и интеллект социума в целом позволил активно взяться за создание ИИ. Исследования и разработки по ИИ вышли из лабораторий и активно вторгаются в нашу обыденную жизнь. Быстро растёт число функций, традиционно считавшихся присущими лишь ЕИ, которые с большей эффективностью выполняются программными системами и робото-техническими устройствами. Глобальный Интернет стёр границы государств, позволил беспрепятственно коммуницировать всем жителям Земли и претендует на хранилище всех человеческих знаний, которые стали доступными. Это позволяет надеяться на синергию от приобщения всех жителей Земли к знаниям и вовлечения их в позитивный процесс приращения новых знаний.

Первые успехи в разработке научных основ и технологий ИИ в России, по мнению автора, приходятся на 80-е годы прошлого столетия, когда вышла серия книг проф. Д.А. Поспелова «Логико-лингвистические модели в системах управления» (1981), «Фантазия или наука: на пути к искусственному интеллекту» (1982), «Оркестр играет без дирижёра. Размышления об эволюции некоторых технических систем и управлении ими» (1984), «Ситуационное управление. Теория и практика» (1986), «От амёбы до робота: модели поведения» (1987), «Представление знаний о времени и пространстве в интеллектуальных системах» (1988), «Моделирование рассуждений» (1989), «Нормативное поведение в мире людей и машин» (1990)., монографии академиков Г.С. Поспелова [5] и В.М. Глушкова [6], был подготовлен трёхтомник «Искусственный интеллект» [7], активно велись работы по автоматизации многих процессов, включая проектирование сложной техники [8-10]. В этих и других работах ИИ рассматривался как одно из научных направлений информатики, а «предметом его исследований является создание вычислительных систем, обладающих следующими свойствами: имитация творческих процессов; логический вывод; восприятие естественно-языковых запросов и команд; аккумуляция знаний в ЭВМ» [5]. Тогда же была создана Советская ассоциация ИИ, впоследствии реорганизованная в Российскую ассоциацию ИИ (РАИИ) Официальный сайт РАИИ .

Если попытаться представить наличие некой обобщённой стратегия ЕИ, то она во многом неопределённая и в большинстве случаев отсутствует по многим причинам. Стратегия же ЕИ индивидуума в силу конечности бытия и в определённой степени осознания этого сводится для многих к удовлетворению обыденных потребностей, где безопасность и физиологические нужды соперничают с самореализацией в социуме. Стратегия ЕИ социума - это «забота» и интерес государств и союзов государств о своём сосуществовании. Видимо, это и определило активное намерение государств участвовать в освоении, контроле и управлении процессами в области ИИ.

«Предел» человеческой потребности, описанный великим А.С. Пушкиным в «Сказке о рыбаке и рыбке» в виде желания быть «владычицей морской», греет душу амбициозным политикам. А всё потому, что важнейшей онтологической доминантой в процессах управления общества и социотехнических систем является потребность в приращении [11]. Эта потребность адекватно реализуется лишь в человеко-машинной системе, где человек, включённый в неё, соотносит свои потребности с возможностями общества. Но для этого нужен человек разумный, способный на консенсус во благо общества, так как он сам часть его самого и целиком зависящий от него [12, 13].

ИИ пока развивается по тому же принципу, что и другие революционные технологии, когда положительные результаты внедрения перевешивают отрицательные последствия [14], хотя уже сегодня влияние ИИ сопоставимо с тем, когда человек, как один из видов млекопитающих, стал доминировать, укротив огонь.



1. Используемые понятия

1.1 Интеллект

ЕИ, рассматриваемый как прототип ИИ, часто отождествляется с некой идеализированной разумной сущностью, способной объяснить свои поступки, действия и намерения, не скрывая и не обманывая. Что не соответствует реальной картине человеческой сущности, которая состоит из эмоций, настроений, естественного забывания, обмана, хитрости и других «слабостей». Моделируя ИИ, эти «слабости» ЕИ стремятся не учитывать. Учесть следует и различия или неравенства, отмеченные выше К.Э. Циолковским в [3].

Из многочисленных книг по ИИ, выпущенных в нашей стране и за рубежом [14-18], в которых обсуждаются понятия ЕИ и ИИ, хотелось бы отметить работу «технологического евангелиста» Романа Душкина, директора по науке и технологиям Агентства искусственного интеллекта [19]. Чтобы оценить работу Р.В. Душкина, можно воспользоваться советом Бертрана Рассела, который он дал в предисловии к своей книге: «Пророк сказал, что если два текста Корана оказываются несовместимыми, последний должен рассматриваться как наиболее авторитетный. Я хотел бы, чтобы читатель применил подобный принцип и в истолковании того, что сказано в этой книге» [20]. Конечно, Рассел имел ввиду многочисленные редакции своей книги, переиздаваемой на протяжении 25 лет с 1923 по 1948 год. Но в данном случае можно позволить применить этот совет к книге молодого, успешного практикующего учёного, который взял на себя труд «пропустить через себя» полученные им знания предшественников.

Р.В. Душкин предложил оригинальную классификацию подходов к разработке ИИ, задач, решаемых методами ИИ, и её представление в виде матрицы. Если расположить в матрице подходы и парадигмы в строках, а решаемые задачи в столбцах, то получится своеобразная «периодическая система технологий ИИ» (см. рисунок 1), в ячейках которой будут перечислены различные методы конкретного подхода для решения конкретной задачи.

Выделенную на рисунке 1 нижнюю строку можно принять за стремление автора отождествлять ИИ искусственной нейронной сети (НС), что не решает проблему объяснений результатов работы сети.

Рисунок 1 - Периодическая система технологий ИИ [19]

С другой стороны, автор справедливо отмечает, что символьный подход в ИИ сегодня незаслуженно отставлен в сторону. Скорее всего, это произошло из-за раннего разочарования в нём по причине того, что естественный язык как наиболее развитая символьная система, используемая человеком, является очень сложной и плохо формализуемой. Неопределённость высказываний, нечёткость формулировок, разного рода неточности измерений параметров - всё это вносит вклад в повышение сложности принятия решений на основе работы с символьной информацией. И если человек как-то справляется с этим в условиях ^определённости, неполноты и даже противоречивости входной информации, то обучить этому искусственную интеллектуальную систему достаточно сложно. Впрочем, это возможно [19].

ИИ - это междисциплинарная область исследований и набор технологий, позволяющий создавать технические системы, решающие задачи, ранее доступные только человеку.

Искусственная интеллектуальная система, или ИИ-система - это техническая система, которая при помощи методов и технологий ИИ решает задачу или набор задач, ранее доступных только человеку. При этом ИИ-системы обладают двумя важными качествами:

¦ автономность - это свойство системы, позволяющее ей действовать и принимать решения полностью самостоятельно;

¦ адаптивность - это свойство системы, которое позволяет ей действовать в условиях изменчивости внешних воздействий, обрабатывая такие входные данные, которые не предусмотрены её изначальным проектом.

Пожалуй, самые лаконичные определения этих же понятий даны в ISO / IEC 3WD 22989 «Информационные технологии. Искусственный интеллект. Концепции и терминология искусственного интеллекта».

ИИ - это способность системы приобретать, обрабатывать и применять знания (знания - это факты, информация и навыки, приобретенные в результате опыта или обучения).

Система ИИ - это техническая система, которая использует ИИ для решения проблем.

1.2 Стратегии интеллекта индивидуума

В общем случае стратегия - это недетализированный план какой-либо деятельности, охватывающий (и это принципиально) длительный период времени, способ достижения цели, являющейся главной на данный момент и в дальнейшем корректируемой под изменившиеся условия. В исследовании операций стратегия - это способ использования средств и ресурсов, направленный на достижение цели операции. Стратегия определяется значениями управляемых переменных, для выбора которых важно знать значения неуправляемых переменных. Задача исследования операций состоит именно в выборе оптимальной стратегий из числа альтернативных на основе того или иного критерия [21]. Часто стратегию рассматривают как декларацию о намерениях, которую можно встретить в форме разного рода конституций, миссий и пр. нормативных документов, или жизненных кредо, клятв, кодексов.

Логично начать рассмотрение понятия стратегии применительно к индивидууму, как части целого, каковым является социум, приняв допущение, что эта часть целого формирует его стратегию. Во многом современные парадигмы общественного устройства передовых стран исходят из того, что именно нужды и потребности, права и свободы членов общества являются основой и приоритетом его развития. Значение древнегреческого понятия стратегия означает «искусство полководца», и полководцем здесь выступает, казалось бы, сам человек. Но всё протекает во времени, и человек становится способным к формированию своей стратегии, лишь пройдя долгий путь образования (обучения, воспитания). На этом этапе его взросления стратегию его развития формирует среда, социум, в котором он заполняет свою НС знаниями, навыками, умениями, формирует понятия, в опыте вырабатывает принципы бытия, впитывает культуру среды. На основе освоенного языка (языков) он способен коммуницировать с другими индивидуумами и тем самым становиться членом сообщества, принимать его правила, жить в нём, вырабатывать свою стратегию, свою линию жизни.

1.3 Стратегии социального интеллекта

«Причина в том, что такова была наша изначальная природа, и мы составляли нечто целое. А страстное желание целостности и стремление к нему - это и есть то, что называют любовью».

Платон (Диалог «Пир»)

Необходимость организации структуры для выработки согласованной стратегия социального интеллекта была обусловлена созданием человечеством оружия, способного уничтожить всю цивилизацию на Земле. Пока элита не осознала пагубность содеянного, побуждающей причины не было.

Созданная после Второй мировой войны Организация Объединённых Наций (ООН) приняла Всеобщую декларацию прав человека Всеобщая декларация прав человека на Генеральной Ассамблее ООН как основополагающий документ, определяющий принципы развития цивилизации, которым обязаны следовать народы и страны. Этот обязывающий документ - не план действий со сроками, ресурсами и ответственными, он - вектор устремлений наций, озабоченных своим сосуществованием. Декларация лежит в основе всех последующих действий, по ней подписанты оценивают поступки друг друга, поддерживают или осуждают их, именно с опорой на неё принимаются последующие декларации, конкретизирующие согласованные действия. Например,

Резолюция 74/4, принятая Генеральной Ассамблеей 15 октября 2019 года об устойчивом развитии.

В этом документе ООН говорится: «Сегодня мы даём старт масштабному и ускоренному движению за реализацию нашего общего видения к 2030 году и обещаем сделать предстоящее десятилетие десятилетием действий и свершений... Мы будем предпринимать более осязаемые шаги к тому, чтобы поддержать людей, находящихся в уязвимой ситуации, и наиболее уязвимые страны и охватить в первую очередь самых отстающих... Мы сохраняем решимость в течение периода до 2030 года покончить с нищетой и голодом во всем мире; бороться с неравенством внутри стран и между ними; строить миролюбивое, справедливое и свободное от социальных барьеров общество; уважать, защищать и реализовывать права человека и добиваться гендерного равенства; обеспечить надёжное сохранение нашей планеты и её природных ресурсов. ».

Среди обязательств, которые приняли на себя участники Ассамблеи, стоит выделить близкий научному сообществу пункт h) «задействовать науку, технику и инновации, уделяя больше внимания цифровым преобразованиям в интересах устойчивого развития: мы будем поощрять исследования, инициативы по наращиванию потенциала, инновации и технологии, помогающие достичь целей в области устойчивого развития, и содействовать использованию научных данных из всех областей для того, чтобы сделать возможным переключение на устойчивое развитие».

Особый восторг вызывает 15-ый пункт Декларации: «Повестка дня на период до 2030 года -- это наш обет сегодняшним детям и молодежи, позволяющий им полностью раскрыть свой человеческий потенциал и донести факел устойчивого развития до будущих поколений».

В отличие от упомянутого в предисловии к этой статье Римского Клуба, более широко известен Всемирный экономический форум, который предлагает Платформы для объединения усилий по решению мировых проблем.

Всемирный экономический форум в Давосе - это главная творческая сила для привлечения ведущих мировых лидеров к совместной деятельности для формирования глобальных, региональных и отраслевых программ. Ближайшая встреча состоится 21-24 января 2020 г. в Давос-Клостерс, Швейцария, и его тема созвучна Резолюции Генассамблеи ООН «У стойчивость развития» Декларация политического форума высокого уровня по устойчивому развитию Sustainability at the Annual Meeting 2020 . Подобные вопросы обсуждались и на Ежегодной встрече Советов Глобального Будущего, прошедшей 3-4 ноября 2019 г. в Дубае Annual Meeting of the Global Future Councils . Темы четвёртой промышленной революции, ИИ и робототехники - в центре внимания этой встречи [22]. Как глобальная проблема на форуме рассматриваются роботы и ИИ (см. рисунок 2) [23].

Социальный интеллект первоначально формирует свою «повестку дня», свою стратегию на уровне государств. Хотя начинается его формирование, конечно, с семьи. Продолжается в школе, в той среде, в которой происходит коммуникация, совместно вырабатываются решения, понятия, где основными акторами являются дееспособные граждане.

Поставленный в книге о всемирном сетевом разуме [15] вопрос в названии раздела «Интернет + человечество = интеллект?» спустя восемь лет после её выхода представляется риторическим.

Рисунок 2 - Онтология Artificial Intelligence and Robotics по версии World Economic Forum



1.4 Онтологии

С учётом затронутой тематики, связанной со стратегией ИИ, стоит привести краткое описание этого важного понятия из обновлённого «Стратегического плана научных исследований и развития национального ИИ на 2019 год» [24], подготовленного Комитетом по ИИ Национального совета науки и технологий США в июне 2019 года.

В частности, со ссылкой на стандарт IEEE Std 1872™-2015 (IEEE Standard Ontologies for Robotics and Automation) в стратегическом плане отмечается: «Онтология играет фундаментальную роль, она формально определяет ключевые понятия, свойства, отношения и аксиомы данной области. В отличие от таксономий, которые предоставляют только набор словарного запаса и единый тип отношений между терминами, онтология предоставляет более богатый набор отношений, ограничений и правил. В общем, онтологии делают соответствующие знания о ПрО явными в компьютерно- интерпретируемом формате, что позволяет программному обеспечению (ПО) рассуждать об этих знаниях для вывода новой информации.

Кроме того, онтологии являются отличным инструментом для уменьшения двусмысленности в передаче знаний между группами людей, роботами и другими искусственными системами, которые разделяют ту же концептуализацию».

Удивительным образом сходятся взгляды онтолога-философа [25] и онтолога-практика [26] при построении онтологий саморазвивающихся интеллектуальных сред и онтологий предприятий на основе экспириентологического подхода. Только в содружестве философов, психологов, лингвистов, компьютерщиков, датасайентистов и предметников можно преуспеть в создании ИИ [25-29]. И общим для них будет язык [29].



1.5 Онтологии и объяснимый ИИ [30]

Значительное увеличение использования методов машинного обучения (МО) обусловлено наличием огромного количества уже накопленных данных, на основе обработки которых методы МО строят сложные статистические модели. К сожалению, разработчики этих моделей затрудняются объяснить, как на их основе приходят к тем или иным выводам, поскольку каждое решение является результатом работы программы, которая включает весь набор данных, используемых для разработки модели. Поэтому встал вопрос объяснения (Explanations - пояснение, разъяснение, толкование), а также какие критерии могут использоваться для оценки точности объяснения.

Саммит онтологов, прошедший летом 2019 года, обсуждал, как онтология может принести пользу проблеме автоматизации объяснений сложных систем. Ведь объяснение - это ответ на вопрос «Почему?». Объяснения обычно происходят в контексте процесса, который может быть диалогом между человеком и системой или процессом связи между агентами двух систем. Объяснения также происходят в социальных взаимодействиях, когда излагают точку зрения или интерпретируют поведение.

Тема онтологического саммита, вдохновлённая проектом Агентства перспективных исследовательских программ в области обороны США (DARPA - Defense Advanced Research Projects Agency) DARPA Explainable AI (XAI - объяснимый или интерпретируемый ИИ), рассматривалась как общая проблема объяснения (см. рисунок 3).

На саммите рассматривались не только системы ИИ, которые могут объяснить их действия, но также и интеллектуальные инженерные системы, которые могут взаимодействовать друг с другом. С ростом количества ПО, предназначенного для промышленной автоматизации и управления процессами, эта возможность становится важной. Объяснения включают в себя объяснение причин, описание сильных и слабых сторон и проецирование поведения систем в будущем. Подобные цели разработки научных основ создания систем поддержки коммуникативных действий, способных убеждать и обосновывать предлагаемые решения, содержатся в работе [31].

Онтологии могут играть важную роль в объяснениях, поскольку интеллектуальные инженерные системы должны представлять концептуальную основу, которая поддерживает объяснения. Версия естественного языка может использоваться для описания состояний и действий в терминах, которые люди легко понимают, а также в концептуальных структурах, в которых происходит диалог.

Преимущество использования онтологий в объяснениях заключается в возможности улучшения взаимодействия между системами. Текущие усилия по объяснению разрознены, что приведёт к разнообразию несовместимых методов объяснения, которые индивидуально могут удовлетворить требованию предоставления объяснений, но при интеграции в крупномасштабные системы будут мало полезными (см. рисунок 4).

Рисунок 3 - Программа DARPA XAI [32]



Рисунок 4 - Производительность против объяснимости [32]

Онтологии - это спроектированные артефакты знаний, существующие в вычислительной среде, которая позволяет рассуждать, и поэтому должна включать способность объяснять то, что они «знают» и как «обосновать эти знания». Они должны быть в состоянии выразить обоснование выбранного использования соответствующих частей онтологии или набора онтологий; объяснить сильные и слабые стороны выбранной онтологии; и объяснить данные в этой онтологии.

1.6 Инобытие или онтология проектирования как дыхание будущего [27]

Цель гуманистического проектирования - построить общество для человека (человекоразмерное общество), а не подогнать образ человека под общество. Феноменология помогает увидеть будущее человека и создать ему новые образы своего бытия.

Цель онтологического проектирования - создание возможных миров (сфер бытия) человека, соответствующих его смысложизненным интересам. Здесь проектирование и самопро- ектирование совпадают по существу: объектом становится собственное бытие человека.

Центральное понятие проектного анализа человеческого бытия - «иное» («инобытие»), имеющее в философской традиции ряд значений. Иное указывает на непроявленную тенденцию бытия, то, чему предстоит свершиться и воплотиться в новом сущем. Оно ещё не явило себя человеку в полной мере или в чётком обличье, но уже напоминает о приближении чего- то по едва уловимым признакам, которые воспринимаются как предвкушение перемен. В нём слышится не только «зов бытия», о котором писал М.Хайдеггер, но и дыхание будущего.



2. Обзоры стратегий развития ИИ

Можно сказать, что гонка за мировое лидерство в области ИИ началась с 2018 года. За последние два года свои национальные стратегии в области ИИ и продвижения технологий ИИ разработали около 30 стран. При этом нет и двух одинаковых стратегий - каждая фокусируется на различных аспектах деятельности в области ИИ: научные исследования, развитие талантов, навыки и образование, взаимодействие государственного и частного секторов, этика и совместное существование, стандарты и положения, а также данные и цифровая инфраструктура.

Недостатка в обзорах стратегий развития ИИ нет, как зарубежных авторов [33], так и отечественных организаций, в частности, Центра подготовки руководителей цифровой трансформации ВТТТГУ РАНХиГС [34] и Агентства искусственного интеллекта [35].



3. Стратегия развития ИИ в России

3.1 Понятия, цели и задачи стратегии

Текст Стратегии начинается, что очень ценно и важно, с определений используемых основных понятий [4]:

¦ ИИ - комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека;

¦ технологии ИИ - технологии, основанные на использовании ИИ, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы ИИ;

¦ перспективные методы ИИ - методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) ИИ (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое МО), алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объёмов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и др.);

¦ а также таких понятий как набор и разметка данных, аппаратное обеспечение, вычислительная система и её архитектура, общедоступная платформа и открытая библиотека ИИ, технологическое решение.

Декларируемые цели развития ИИ в Российской Федерации заслуживают самого высокого одобрения. К ним относятся: обеспечение роста благосостояния и качества жизни населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ.

Основными задачами развития ИИ являются:

¦ поддержка научных исследований в целях обеспечения опережающего развития ИИ;

¦ разработка и развитие ПО, в котором используются технологии ИИ;

¦ повышение доступности и качества данных, необходимых для развития технологий ИИ;

¦ повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ;

¦ повышение уровня обеспечения российского рынка технологий ИИ квалифицированными кадрами и уровня информированности населения о возможных сферах использования таких технологий;

¦ создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ.

3.2 Принципы развития и использования ИИ

В стратегии констатируется, что на смену экспертным системам пришло МО, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении ИИ. При этом отмечается, что результаты работы алгоритмов НС могут быть подвергнуты сомнению и отменены человеком, т.к. отсутствует понимание того, как ИИ достигает результатов, что может стать препятствием для их развития.

Здесь трудно согласиться, что одни технологии пришли на «смену» другим. Далеко не все области «покрывает», да и может «покрыть» МО. Ставить знак равенства ИИ = МО, а тем более ИИ = НС, в корне неверно.

Основными принципами развития и использования технологий ИИ в стратегии являются: защита прав и свобод человека; безопасность; прозрачность: объяснимость работы ИИ и процесса достижения им результатов; технологический суверенитет; целостность инновационного цикла; разумная бережливость; поддержка конкуренции.

Использование технологий ИИ, согласно стратегии, способствует созданию принципиально новых направлений деятельности хозяйствующих субъектов, в том числе за счёт:

¦ повышения эффективности процессов планирования, прогнозирования и принятия управленческих решений;

¦ автоматизации рутинных производственных операций;

¦ использования автономного интеллектуального оборудования и робототехнических комплексов, интеллектуальных систем управления логистикой;

¦ повышения безопасности сотрудников при выполнении бизнес-процессов;

¦ повышения лояльности и удовлетворенности потребителей;

¦ оптимизации процессов подбора и обучения кадров, составления оптимального графика работы сотрудников с учётом различных факторов.

Использование технологий ИИ в социальной сфере способствует созданию условий для улучшения уровня жизни населения, в том числе за счёт:

¦ повышения качества услуг в сферах здравоохранения и образования (включая адаптацию образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизацию оценки качества знаний и анализа информации о результатах обучения);

¦ повышения качества предоставления государственных и муниципальных услуг, а также снижения затрат на их предоставление.

Разработка этических правил взаимодействия человека с ИИ включена в основные направления создания комплексной системы регулирования общественных отношений.

3.3 Показатели в стратегии

Основными показателями, характеризующими рост предложения продуктов (услуг), созданных (оказываемых) с использованием ИИ, являются увеличение количества:

¦ организаций, разрабатывающих технологические решения на основе ИИ и занимающих лидирующие позиции в мире;

¦ результатов интеллектуальной деятельности в области ИИ, которые прошли государственную регистрацию либо учтены иным способом в соответствии с общепринятой мировой практикой и внедрены.

А теперь вернёмся к целям стратегии и увидим, что показатели, по которым должны оцениваться вложенные рубли, никак не связаны с целями стратегии. Это серьёзная критериальная проблема, которая должна быть решена ещё до выделения средств на реализацию Стратегии.

В Стратегии в целях создания и развития российских технологий ИИ отмечается необходимость обеспечения приоритетной поддержки фундаментальных и прикладных научных исследований. Причём фундаментальные научные исследования должны быть направлены на создание принципиально новых научных результатов, в том числе на создание универсального (сильного) ИИ, и решение иных задач, предусмотренных стратегией.

К 2024 году основным показателем, характеризующим успешную реализацию мер по поддержке научных исследований в области ИИ, должен стать существенный рост количества:

¦ цитируемости в ведущих мировых научных изданиях научных статей российских ученых на тему, посвященную ИИ;

¦ зарегистрированных результатов интеллектуальной деятельности в области ИИ;

¦ разработанных на основе результатов интеллектуальной деятельности в области ИИ прикладных технологических решений, используемых в практической деятельности. Здесь очевидно отсутствие обоснования и объяснения проведённой декомпозиции целей на рекомендуемые показатели. Заявленные в Стратегии цели развития ИИ в Российской Федерации: обеспечение роста благосостояния и качества жизни её населения, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности российской экономики, будут оцениваться по количеству статей, участию в конференциях и уровню цитируемости.

Действительно, качество жизни и безопасность - трудноизмеряемые критерии, как и вклад в фундаментальную науку. Но ведь это как раз и тема для ИИ - разработка показателей, способных оценить вклад науки в безопасность и качество жизни. Стоит ли повторять ошибки бюрократов, использующих библиометрию и наукометрию в оценках учёных и научных подразделений [36]?

3.4 Онтологии в Стратегии

В основные направления разработки и развития ПО, в котором используются технологии ИИ, вошла разработка единых стандартов в области безопасности и совместимости ПО. Это, пожалуй, один из немногих пунктов стратегии, где можно увидеть возможности для разработки онтологии предметной области (ПрО).

Наиболее явно потребность в онтологиях и онтологическом анализе ПрО проявляется в основных направлениях повышения доступности и качества данных, необходимых для развития технологий ИИ. В частности, разработка унифицированных и обновляемых методологий описания, сбора и разметки данных, а также механизма контроля за соблюдением указанных методологий, немыслима без онтологии ПрО.

Важно, что в основные направления повышения уровня обеспечения российского рынка технологий ИИ квалифицированными кадрами включена разработка и внедрение образовательных модулей в рамках образовательных программ всех уровней образования, программ повышения квалификации и профессиональной переподготовки для получения гражданами знаний, приобретения ими компетенций и навыков в области математики, программирования, анализа данных, МО, способствующих развитию ИИ. Здесь явно не хватает направлений, связанных с онтологиями Например, в Институте авиационной техники Самарского университета при подготовке магистров и бакалавров, направление подготовки которых связано с информационными технологиями, читаются курсы по онтологии проектирования, онтологии производственной сферы..

3.5 Реализация Стратегии

Правительство Российской Федерации при участии созданного объединения по развитию ИИ в России, осуществляет разработку и утверждение плана мероприятий по реализации Стратегии, предусматривающего в том числе: перечень показателей эффективности реализации Стратегии и методологию их расчёта; целевые значения показателей эффективности реализации Стратегии на 2024 и 2030 годы. Думается, что над решением отмеченных критериальных проблем серьёзно поработают специалисты (онтологи, проектанты, философы, экономисты).



4. Стратегия лидера развития ИИ

«Продолжение американского лидерства в области искусственного интеллекта имеет первостепенное значение для поддержания экономической и национальной безопасности Соединенных Штатов».

Дональд Дж. Трамп

В разделе выделены места в стратегии развития ИИ в США, которые, по мнению автора статьи, были бы важны для учёта их в российской Стратегии, в российских планах и программах по развитию ИИ.

Стоит обратить внимание интересующихся стратегией лидера на правительственный портал «Искусственный интеллект для американского народа» [37]. В нём пять основных разделов: документы об ИИ, ИИ для американских инноваций, ИИ для американской промышленности, ИИ для американского рабочего, ИИ с американскими ценностями. Этот вебсайт предназначен для более глубокого изучения этих видов деятельности и может служить ресурсом для тех, кто хочет узнать больше о том, как в полной мере использовать возможности ИИ. На сайте констатируется, что век ИИ уже наступил, и что это не «хайп», а реальная жизнь, и что ИИ трансформирует всё - от здравоохранения до транспорта и производства. Реализация полного потенциала ИИ базируется на объединённых усилиях промышленности, научных кругов и правительства.

4.1 Акценты в области ИИ

Понятный и заслуживающий доверия ИИ. По мере того, как создаются новые технологии ИИ, необходимо расширить понимание того, как системы ИИ получают решения и почему они принимают такие решения. Важным акцентом на НИОКР является предоставление ИИ механизмов объяснения, которые помогают пользователям понять причины выводов ИИ. Уже упоминавшаяся Программа DARPA Explainable AI направлена на создание методов МО, которые дают более объяснимые решения, сохраняя при этом высокую производительность и соответствующий уровень доверия к системе.

Надёжный и безопасный ИИ. Сложность многих систем ИИ создаёт серьёзные проблемы безопасности и защиты, которые необходимо решать, чтобы обеспечить надёжность этих систем. В частности, системы ИИ имеют присущие риски кибербезопасности из-за особенностей применяемых технологии. Инвестиции в НИОКР создадут решения для противодействия враждебным атакам на технологии ИИ, например тем, которые пытаются «загрязнить» обучающие данные, модифицировать алгоритмы, создавать враждебные материалы или использовать недостатки в постановке и реализации цели системы ИИ.

Воздействие на рабочую силу. Быстрый прогресс в развитии технологий ИИ имеет много потенциальных преимуществ, включая создание новых отраслей и профессий, расширение возможностей для инноваций и повышение производительности. Однако эти технологии меняют характер работы и вызывают некоторую обеспокоенность по поводу возможности потерянных рабочих мест или несоответствия между имеющимися профессиями и навыками рабочей силы. Стратегия в отношении ИИ и американского рабочего обеспечивает возможности для обучения и профессиональной подготовки, которые помогают рабочей силе процветать в новой экономике.

4.2 Восемь стратегий ИИ

В обновлённом 50-ти страничном авторизованном (более 40 авторов-разработчиков) документе приведены более 130 ссылок на используемые источники [24]. В этом стратегическом плане определены восемь стратегических приоритетов. Первые семь стратегий продолжаются с Плана 2016 года, отражая подтверждение важности этих стратегий многочисленными респондентами из общественности и правительства, без призывов удалить какую-либо из этих стратегий. Восьмая стратегия является новой и ориентирована на растущую важность эффективных партнёрских отношений между федеральным правительством и научными кругами, промышленностью, другими нефедеральными структурами и международными партнёрами для создания технологических прорывов в области ИИ и быстрого превращения этих прорывов в возможности. Кратко планы этих восьми стратегий.

1 Сделать долгосрочные инвестиции в исследования ИИ. Приоритетное направление инвестиций в следующее поколение ИИ, которое будет способствовать открытию и пониманию и позволит США оставаться мировым лидером в области ИИ.

2 Разработать эффективные методы взаимодействия человека и ИИ. Повысить понимание того, как создавать системы ИИ, которые эффективно дополняют и расширяют возможности человека.

3 Понимать и решать этические, правовые и социальные последствия ИИ. Исследовать системы ИИ, которые включают этические, правовые и социальные проблемы с помощью технических механизмов.

4 Обеспечить надёжность и безопасность систем ИИ.

5 Разработка общедоступных наборов данных и сред для обучения и тестирования ИИ.

6 Измерение и оценка технологий ИИ с помощью стандартов и эталонов. Разработка широкого спектра методов оценки ИИ, включая технические стандарты и эталоны.

7 Лучшее понимание потребностей в рабочей силе НИОКР в стране. Расширение возможностей для развития рабочей силы в сфере НИОКР для стратегического стимулирования рабочей силы, готовой к ИИ.

8 Расширение государственно-частного партнерства для ускорения прогресса в области ИИ. Содействовать созданию возможностей для устойчивых инвестиций в НИОКР ИИ и для превращения достижений в практические возможности в сотрудничестве с научными кругами, промышленностью, международными партнерами и другими нефедеральными организациями.

На рисунке 5 показана организация Стратегического плана исследований и разработок ИИ в США [24]. Комбинация сквозных фундаментальных НИОКР (в нижнем ряду) важна для всех исследований ИИ. Многие области исследований и разработок ИИ (в среднем ряду) могут опираться на эти сквозные основы для воздействия на широкий спектр приложений (в верхнем ряду). Цифры в скобках указывают номер Стратегии в плане, которая развивает каждую тему. Упорядочение этих Стратегий не указывает на их приоритетность.

Рисунок 5 - Организация Стратегического плана исследований и разработок ИИ [24]

4.3 Онтологии в стратегий ИИ США

Многие приложения ИИ носят междисциплинарный характер и используют разнородные данные. Дальнейшее исследование многокомпонентного МО необходимо для обеспечения возможности обнаружения знаний из широкого спектра различных типов данных (например, дискретных, непрерывных, текстовых, пространственных, временных, пространственно-временных графиков). Исследователи ИИ должны определить объём данных, необходимых для обучения, и надлежащим образом удовлетворить потребности в данных в больших масштабах. Они также должны определить, как идентифицировать и обрабатывать редкие события помимо чисто статистических подходов; работать с источниками знаний (т.е. с любым типом информации, которая объясняет мир), а также с источниками данных, интегрируя модели и онтологии в процесс обучения; получить эффективность обучения с небольшим объёмом данных, когда большие источники данных могут быть недоступны.

Чтобы поддержать постоянный высокий уровень инноваций в этой области, правительство США активизирует усилия по разработке, поддержке и использованию технологий открытого ИИ. Особенно полезны открытые ресурсы, которые используют стандартизированные или открытые форматы и открытые стандарты для представления семантической информации, включая доменные онтологии, когда они доступны.

Национальный институт стандартов и технологий (National Institute of Standards and Technology, NIST) участвует в мероприятиях по стандартизации ИИ через организации по стандартизации, такие как Американское общество инженеров-механиков, Институт инженеров по электротехнике и электронике (IEEE) и ISO / IEC. Их деятельность охватывает компьютерное моделирование для продвинутого производства, онтологии для робототехники и автоматизации, конфиденциальность личных данных и др.

4.4 Стандарты для укрепления лидерства в ИИ

Стандарты предоставляют требования, спецификации, руководящие указания или характеристики, которые можно использовать для обеспечения того, чтобы технологии ИИ удовлетворяли критическим целям функциональности, функциональной совместимости и чтобы они работали надёжно и безопасно. Принятие стандартов повышает доверие к технологическим достижениям и способствует расширению интероперабельного рынка.

Одним из примеров стандарта, относящегося к ИИ, является P1872-2015 (Стандартные онтологии для робототехники и автоматизации), разработанный IEEE. Этот стандарт обеспечивает систематический способ представления знаний и общий набор терминов и определений. Они позволяют однозначно передавать знания людям, роботам и другим искусственным системам, а также обеспечивают фундаментальную основу для применения технологий ИИ в робототехнике.

В Федеральном плане [38] в числе задач отмечается стремление «обеспечить, чтобы технические стандарты... отражали федеральные приоритеты в области инноваций, общественного доверия и общественной уверенности в системах, использующих технологии ИИ... и разрабатывать международные стандарты для продвижения и защиты этих приоритетов».

Этот план определяет следующие девять областей, в которых необходимо сосредоточиться на стандартах ИИ: концепции и терминология; данные и знания; взаимодействие с человеком; метрики; сети; методология тестирования производительности и отчётности; безопасность; управление рисками; надёжность.

Отмечаются уже принятые стандарты, например, ISO/IEC DIS 21838-2 Information technology - Top-level ontologies (TLO) - Part 2: Basic Formal Ontology (BFO). Начиная с 2016 года, серия проектов стандартов IEEE P7000 ™ направлена на решение конкретных проблем на стыке технологических и этических аспектов ИИ. Например, P7007 - Ontological Standard for Ethically Driven Robotics and Automation Systems. Предусматривается развитие: межотраслевых спецификаций, относящихся к ИИ и включающих онтологию обслуживания робототехники (Robotics Service Ontology - RoSO); всемирной паутины (World Wide Web Consortium, W3C); языка веб-онтологий W3C (Web Ontology Language, OWL).

...