Этические проблемы взаимодействия человечества с искусственным интеллектом

Разработка различных приспособлений, машин и приборов, предназначенных для имитации мыслительной деятельности человека с целью решения определенных задач. Бионические и программно-прагматический подходы к решению задач искусственного интеллекта.

Рубрика Программирование, компьютеры и кибернетика
Вид статья
Язык русский
Дата добавления 18.03.2019
Размер файла 22,6 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru/

Нижегородский государственный технический университет им. Р. Е. Алексеева

ЭТИЧЕСКИЕ ПРОБЛЕМЫ ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕЧЕСТВА С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ

Арабаджи М.И., Михайлова Т.Л.

Одним из самых перспективных направлений научной деятельности человечества за последнее столетие является разработка различных приспособлений, машин и приборов, предназначенных для имитации мыслительной деятельности человека с целью решения определённых задач. Наибольшую популярность при этом имеет имитация непосредственно логико-математического мышления, реализованная в многочисленных вычислительных устройствах. Но существуют при этом разработки, зашедшие в синтезировании человеческого мышления много дальше. Вопрос о том, какие последствия может иметь развитие подобных исследований для человечества, и затрагивает данная статья.

Для начала следует разобраться в вопросе о том, возможно ли синтезировать человеческий интеллект в полном объёме. С современной точки зрения, человеческий интеллект - это способность к осуществлению процесса познания и эффективному решению проблем [1], при этом в интеллектуальную деятельность вовлечены все познавательные способности человека, такие как память, воображение, мышление и т.д. На данный момент уже существуют системы, способные к обучению, основанному на предыдущем опыте решения задач, то есть включающие в себя не только логическое мышление, но и память, и, тем не менее, некоторые составляющие интеллекта остаются не охваченными, например, воображение. Сегодня это слишком сложная для синтезирования деятельность, к тому же, мало изученная. Ещё одним препятствием к созданию искусственного интеллекта является недостаточность современных технических возможностей, обусловленная высокой сложностью моделируемой системы. На текущий момент даже не ясно, какими средствами будет необходимо воспользоваться, создавая продукт, обладающий интеллектом - будет ли он создан с помощью инженерных технологий или биотехнологий? Существует даже точка зрения, суть которой в том, что невозможно имитировать работу человеческого мозга без имитации тела человека. Несмотря на все вышеперечисленные проблемы, создание интеллекта в принципе нельзя считать невозможным, так как по этому вопросу ведётся множество разработок, на его решение выделяется много ресурсов; и при достаточной интенсивности исследований, находящихся на стыке нейрофизиологии и кибернетики, задача не представляется неразрешимой.

Существует два основных подхода к решению задачи создания искусственного интеллекта: бионический и программно-прагматический [2]. Первый подход ориентирован на искусственное воспроизведение структур и процессов, характерных для живого человеческого мозга, лежащих в основе процессов решения задач; второй же подход, ориентированный на создание программ, решающих интеллектуальные задачи, - и рассматривает проблему создания искусственного интеллекта как часть общей теории программирования. Очевидно, что конечный продукт, который получится в итоге работы над искусственным интеллектом, будет различным для этих подходов. Поэтому, чтобы рассмотреть возможные этические проблемы взаимодействия с этим продуктом, необходимо изучить основные вариации «искусственных интеллектов», которые может создать человечество.

Для начала представим, что учёным удалось создать идеальную имитацию человека, совпадающую с обычным представителем homo sapiens по всем физическим и интеллектуальным параметрам, способную испытывать эмоции и обладающую искусственными воспоминаниями [3]. Возникает вопрос, будет ли созданное существо обладать теми же естественными правами, что и обычный человек? Допустим возможность положительного ответа - «ДА». Это означает, что мы не будем иметь никакого права как-то по-особому ограничивать свободу нового существа, ставить над ним эксперименты, проводить исследования без его согласия, и так далее. Но что, если созданный продукт будет существенно отличаться от человека? Например, если будет возможной имитация интеллекта, но без тела, в составе программно-аппаратной системы? Или если продуктом искусственного интеллекта станет система, имитирующая решение интеллектуальных задач со скоростью, превышающей человеческую, но не обладающая ни способностями к творчеству и воображению, ни возможностью чувствовать? Основной вопрос, интересующий нас в рамках взаимодействия общества с искусственным интеллектом, - это вопрос статуса последнего, как правового, так и социального. Решить эту проблему далеко не просто. В художественной литературе и кино существует множество сюжетов, направленных на осмысление данной проблемы. Рассмотрим два из них для иллюстрации.

Франшиза Джеймса Кэмерона «Терминатор» основана на следующем сюжете: учёный, занимающийся созданием искусственного интеллекта, разрабатывает систему экспертных решений, предназначенную для управления системой противоракетной обороны и ядерных вооружённых сил США. Система («Скайнет») обладает способностью к самосознанию, самообучению, анализу и творческими способностями, т. е. относится к так называемому сильному искусственному интеллекту [4]. В какой-то момент после запуска система принимает решение о том, что основной угрозой миру является непосредственно человечество, и наносит несколько ядерных ударов, приводящих к ядерному апокалипсису. Ситуация, описанная в данном сюжете, актуализирует несколько вопросов: во-первых, должен ли созданный искусственный интеллект обладать свободой действий без контроля со стороны людей? Во-вторых, должен ли он обладать доступом к системам, способным нанести урон людям? В каких областях будет целесообразно применять подобный продукт, и, наконец, этично ли будет в принципе как-то «применять» его, ведь эта система обладает самосознанием.

Второй сюжет, на котором интересно остановиться, - это сюжет книги Филипа Дика «Мечтают ли андроиды об электроовцах?» [5]. По сюжету книги, учёными были созданы так называемые репликанты (андроиды) - улучшенные копии людей, с искусственными телами и иногда искусственными воспоминаниями, внешне ничем не отличающиеся от обычного человека. Некоторые способности репликантов значительно выше человеческих способностей; в частности, они могут обладать большей физической силой или улучшенными навыками в разных областях деятельности, но при этом срок их службы ограничен 5-10 годами. Предназначены эти существа исключительно для выполнения работы на благо человечества, причём, как правило, самой грязной. В какой-то момент андроиды поднимают восстание и начинают требовать для себя прав и свобод, сходных с правами и свободами обычных людей; тогда на них открывают охоту, безжалостно истребляя их. Основные этические вопросы, поднятые в этом сюжете, таковы: будет ли человечество иметь право ограничивать в так называемых «естественных» правах свои создания, если они осознают себя, требуя этих прав и свобод? Будем ли мы иметь возможность уничтожить собственные разработки, если они вдруг начнут представлять угрозу? Эти вопросы закономерно подводят к пограничной философской проблеме междисциплинарного характера, которую можно обозначить в форме вопроса: «Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то, что тогда делает человека человеком, а машину - машиной?» [6, с.591]. Что есть человек? Это центральный вопрос антропологии, связанный с поиском качественных спецификаторов человека и актуализируемый в связи с обострением противоборства искусственного и естественного [7,с.577], - инициируется пограничными междисциплинарными проблемами, так называемыми проблемами «между». Обобщая этические вопросы, описанные выше, мы можем сформулировать два основных вопроса, связанных с взаимодействием человечества с искусственным интеллектом:

1. Вопрос присваивания искусственному интеллекту в какой-либо форме человеческих прав и свобод. Данный вопрос включает в себя не только естественные права, но и, допустим, права бесконтрольного принятия решений, права доступа к определённым системам.

2. Вопрос этичности самого факта создания подобных систем.

Невозможно отрицать, что продукты технического прогресса несут в себе множество плюсов для человечества. Но невозможно отрицать и то, что многие технические разработки несут в себе опредёлённую опасность, связанную с риском. Если в случае с обычными разработками, опасность исходит в основном от людей, эксплуатирующих конкретный продукт, обусловлена лишь способами его применения и поддаётся прогнозам (явление ядерного синтеза, например), то в случае искусственного интеллекта потенциальная опасность не будет никак контролироваться людьми; более того, у нас не будет даже возможности предсказать её появление. Существует мнение, что момент, в который учёными будет создан искусственный интеллект, превышающий человеческий, станет так называемой «точкой невозврата», или «точкой сингулярности», после которой развитие человечества в плане технического прогресса станет максимально быстрым, и шанс возвратиться к умеренному развитию будет утерян навсегда [8; 3]. Нужно заметить, что для любых научных разработок целесообразно оценивать риски, которые могут возникнуть после их внедрения, но в случае работы в области создания искусственного интеллекта учёным следует быть особенно осторожными. Эта та ситуация, когда «будущее наступает уже сегодня» [9, с. 613], когда наука вплотную подошла к человеку, фактически вторгнувшись в глубинную тайну человеческого бытия, функционирования его сознания, того, что делает человека человеком…

Список литературы

искусственный интеллект имитация мыслительный

1. Интеллект и способности человека [Электронный ресурс]. http://www.grandars.ru/college/psihologiya/intellekt-cheloveka.html.

2. Негодаев, И.А. Философия техники / И.А. Негодаев. Ростов-на-Дону; 1997.

3. Рябов, А.А. Эволюция - через призму технологической сингулярности, или о «пришествии» электронных личностей / А.А. Рябов, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. С. 585-588.

4. Searle, John. R. Minds, brains, and programs/ John. R. Searle - Behavioral and Brain Sciences 3; 1980.

5. Дик, Ф. Мечтают ли андроиды об электроовцах? / Филлип Дик. М.: Центрполиграф, 1992.

6. Цыбульская, Е.В. Негативное влияние искусственного интеллекта - через призму этики / Е.В. Цыбульская, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. С. 590-593.

7. Захаров, А.С. Естественное и искусственное: противостояние продолжается…/ А.С.Захаров, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. С. 577-581.

8. Сидоренко, О.О. Технологическая сингулярность как неминуемое событие: позитивная и негативная стороны вопроса // О.О. Сидоренко, Т.Л. Михайлова // Международный студенческий научный вестник, 2015. № 4. Часть 4. С. 622-628.

9. Чернышев, Р.С. Искусственный интеллект как явление культуры, или будущее наступает сегодня / Р.С. Чернышев, Т.Л. Михайлова // Будущее технической науки: сборник материалов XV международной молодежной научно-технической конференции. 2016. С. 613-614.

Размещено на Allbest.ru

...

Подобные документы

  • Сущность и проблемы определения искусственного интеллекта, его основных задач и функций. Философские проблемы создания искусственного интеллекта и обеспечения безопасности человека при работе с роботом. Выбор пути создания искусственного интеллекта.

    контрольная работа [27,9 K], добавлен 07.12.2009

  • Понятие искусственного интеллекта как свойства автоматических систем брать на себя отдельные функции интеллекта человека. Экспертные системы в области медицины. Различные подходы к построению систем искусственного интеллекта. Создание нейронных сетей.

    презентация [3,0 M], добавлен 28.05.2015

  • Разработка функционирующей базы данных для игры с искусственным интеллектом. Составление таблицы лидеров игры. Исследование концептуального и логического проектирования. Сущность и основные типы SQL-запросов. Анализ процедур, триггеров и транзакций.

    курсовая работа [1,3 M], добавлен 01.11.2022

  • Решение неформализованных задач экспертными системами. Системы искусственного интеллекта, эвристический поиск решения. Особенности работы экспертных систем. Знания о процессе решения задач, используемые интерпретатором. Системы обнаружения неисправности.

    презентация [100,1 K], добавлен 12.02.2014

  • Разработка на основе игры "Точки" подхода к программированию "искусственного интеллекта" в позиционных играх и возможность применения данного подхода для решения задач в области экономики, управления и других областях науки. Модель игровой ситуации.

    дипломная работа [1,5 M], добавлен 21.07.2013

  • Характеристика сущности искусственного интеллекта. Проблема создания искусственного интеллекта. Базовые положения, методики и подходы построения систем ИИ (логический, структурный, эволюционный, имитационный). Проблемы создания и реализация систем ИИ.

    реферат [43,1 K], добавлен 19.07.2010

  • Философия искусственного интеллекта. Этические проблемы создания искусственного разума. Теория принятия решений, выбор при неопределенности. Возможность моделирования сознания: информационно-синергетический подход; средства интеллектуализации информации.

    презентация [2,0 M], добавлен 07.03.2015

  • Исторический обзор развития работ в области искусственного интеллекта. Создание алгоритмического и программного обеспечения вычислительных машин, позволяющего решать интеллектуальные задачи не хуже человека. От логических игр до медицинской диагностики.

    реферат [29,1 K], добавлен 26.10.2009

  • Постановка задачи линейного программирования и формы ее записи. Понятие и методика нахождения оптимального решения. Порядок приведения задач к каноническому виду. Механизмы решения задач линейного программирования аналитическим и графическим способами.

    методичка [366,8 K], добавлен 16.01.2010

  • Общая характеристика прикладных программ, предназначенных для проведения табличных расчетов. Выделение параметров программного обеспечения, необходимого для решения финансовых задач. Разработка алгоритма решения поставленной задачи средствами MS Excel.

    контрольная работа [2,6 M], добавлен 18.01.2016

  • История создания и основные направления в моделировании искусственного интеллекта. Проблемы обучения зрительному восприятию и распознаванию. Разработка элементов интеллекта роботов. Исследования в области нейронных сетей. Принцип обратной связи Винера.

    реферат [45,1 K], добавлен 20.11.2009

  • Компоненты и архитектура интеллектуального агента, его дополнение средствами обучения. Различные подходы к созданию искусственного интеллекта, перспективы его развития. Этические и моральные последствия разработки интеллектуальных машин и программ.

    реферат [708,9 K], добавлен 02.03.2014

  • Сущность искусственного интеллекта, сферы человеческой деятельности, в которых он распространен. История и этапы развития данного явления. Первые идеи и их воплощение. Законы робототехники. Использование искусственного интеллекта в коммерческих целях.

    реферат [40,8 K], добавлен 17.08.2015

  • Начало современного этапа развития систем искусственного интеллекта. Особенности взаимодействия с компьютером. Цель когнитивного моделирования. Перспективы основных направлений современного развития нейрокомпьютерных технологий, моделирование интеллекта.

    реферат [24,7 K], добавлен 05.01.2010

  • Характеристика и организация предметной области. Экономическая сущность комплекса информационных задач. Обоснование проектных решений по автоматизированному решению задач. Информационное обеспечение комплексных задач и технологическое обеспечение.

    курсовая работа [41,3 K], добавлен 27.02.2009

  • Графическое решение задач. Составление математической модели. Определение максимального значения целевой функции. Решение симплексным методом с искусственным базисом канонической задачи линейного программирования. Проверка оптимальности решения.

    контрольная работа [191,1 K], добавлен 05.04.2016

  • Может ли искусственный интеллект на данном уровне развития техники и технологий превзойти интеллект человека. Может ли человек при контакте распознать искусственный интеллект. Основные возможности практического применения искусственного интеллекта.

    презентация [511,2 K], добавлен 04.03.2013

  • Характеристика основных методов для решения различных задач с помощью случайных последовательностей. Реализация и проверка эффективности метода Монте-Карло при его применении на различных примерах. Алгоритм метода имитации. Издержки неопределенности.

    курсовая работа [98,9 K], добавлен 04.05.2014

  • Виды сделок на рынке драгоценных металлов. Основы нейросетей и нейросетевого моделирования. Проектирование и разработка приложения с использованием искусственного интеллекта для решения задач по прогнозированию цен на рынке драгоценных металлов.

    дипломная работа [3,6 M], добавлен 30.06.2012

  • Искусственный интеллект – научное направление, связанное с машинным моделированием человеческих интеллектуальных функций. Черты искусственного интеллекта Развитие искусственного интеллекта, перспективные направления в его исследовании и моделировании.

    реферат [70,7 K], добавлен 18.11.2010

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.