Негативное влияние искусственного интеллекта – через призму этики

Размещено на http://www.allbest.ru/

Нижегородский Государственный Технический Университет

им. Р.Е. Алексеева

Негативное влияние искусственного интеллекта - через призму этики

Цыбульская Е.В.

Актуальность темы обусловлена тем, что в настоящее время искусственный интеллект, будучи предметом повышенного внимания ученых, является перспективно развивающейся областью исследований, активно влияющей на социальную сферу. Проблема, послужившая основой статьи, артикулируется как проблема идентификации искусственного разума по этическим и моральным нормам, соответствующим человеческим, а также проблема влияния искусственного интеллекта, равного или превосходящего живой мозг, - на общество. Технологии современного мира уже успели догнать и частично превзойти самые смелые предположения фантастов. Достижения медицины, энергетики, машиностроения и компьютерных технологий - все это совершенствуется для улучшения качества жизни человечества.

Современный мир развивается немыслимыми скоростями, результаты развития невозможно понять, осознать скорости происходящих изменений. Человеку постоянно получает новую информацию, не всегда успевая обрабатывать ее. Этот глобальный рост приводит к сингулярности, в результате чего человечество не в состоянии постичь созданные им же вещи [8]. К таковым можно отнести искусственный интеллект, развиваемый сегодня для различных целей. Он еще совершенствуется, но уже породил множество проблем. Развитие искусственного интеллекта, копирующего человеческое мышление, способно принести человечеству не только ожидаемую пользу. Многие ученые и философы предсказывают возможные негативные последствия воплощения в жизнь искусственного разума. Рассмотрим эти предположения, сделав выводы относительно опасностей искусственного интеллекта для человечества.

Прежде всего, необходимо дать определение - что такое Искусственный интеллект? Есть несколько определений. Во-первых, это научное направление, в рамках которого решаются задачи аппаратного или программного моделирования видов человеческой деятельности, относящиеся к интеллектуальным [4, с.50]. Во-вторых, свойство интеллектуальных систем выполнять функции (творческие), традиционно считающиеся прерогативой человека. При этом интеллектуальная система - это техническая или программная система, способная решать задачи, считающиеся творческими, принадлежащие конкретной предметной области, знания о которой хранятся в памяти такой системы. Структура интеллектуальной системы включает три основных блока - базу знаний, решатель и интеллектуальный интерфейс, позволяющий вести общение с ЭВМ без специальных программ для ввода данных [4, с. 50]. Наука «о создании искусственного разума» не могла не привлечь внимание философов, как всякая проблема, находящаяся на границе. Территория философии - это «ничейная земля», т.е. территория границы. С появлением первых интеллектуальных систем были затронуты фундаментальные вопросы о человеке и знании, а отчасти о мироустройстве. Прерогатива философии - изучение того, как меняется духовная составляющая жизни под влиянием внешних, материальных явлений (достижений науки и техники), их взаимодействия с социумом. Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки искусственного интеллекта». Первая группа отвечает на вопрос: «Что такое искусственный интеллект, возможно ли его создание, и, если возможно, то, как это сделать?» Вторая группа, фокусирующаяся на решении этических проблем искусственного интеллекта, задаётся вопросом: «Каковы последствия создания искусственного интеллекта для человечества?»

Собственно, целью статьи и является рефлексия относительно этических проблем, связанных с разработкой искусственного интеллекта. Интерес к этим вопросам вызван тем, что по прогнозам исследователей уже к 2040 году должен быть создан искусственный интеллект, практически полностью способный имитировать человеческое мышление. Следовательно, вопросы, связанные с возможными угрозами, рисками такого изобретения стоит активно рассмотреть, осуществив выводы, способствующие своевременному принятию некоторых мер предосторожности. Если рассматривать проблемы этики искусственного интеллекта более подробно, то можно выделить несколько важных вопросов:

1. Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то, что тогда делает человека человеком, а машину - машиной?

2. Если в будущем машины смогут осознавать себя и иметь чувства, возможно ли будет их эксплуатировать или придется наделять их правами?

3. Если в будущем машины смогут рассуждать, то, как сложатся отношения людей и машин? Данный вопрос был не раз рассмотрен в произведениях искусства (научнофантастические книги и фильмы).

4. Будет ли человек, которому в результате многочисленных медицинских ампутаций заменили 99 процентов тела на искусственные органы, считаться машиной?

Философия искусственного интеллекта тесно связана с философией сознания. Философия сознания - философская дисциплина, предметом изучения которой является природа сознания, а также соотношение сознания и физической реальности (тела). Вопросы сознания связаны с этическими, моральными и правовыми вопросами, например, свободой воли. В контексте существования искусственного интеллекта возникает проблема, обладает ли машина, полностью воспроизводящая работу человеческого мозга, сознанием. Соответственно, может ли в таком случае эта машина обладать правами человека? Эту проблему изучил философ Джон Серль [3; 11]. Он вводит понятия «сильного» и «слабого» искусственного интеллекта. Сильный искусственный интеллект - это программа, полностью воспроизводящая человеческий разум. Слабый - это, всего лишь, инструмент изучения разума, способный моделировать некоторые ситуации, но не все процессы мозга. Дж. Серль ставит мысленный эксперимент, в котором человек имитирует работу программы (имея только набор правил, выполняет незнакомую ему работу), из которого выводит несколько аксиом и соответствующих заключений:

Аксиома 1. Компьютерные программы - это формальные (синтаксические) объекты.

Аксиома 2. Человеческий разум оперирует смысловым содержанием (семантикой). Аксиома 3. Синтаксис сам по себе не составляет семантику и его недостаточно для существования семантики. Аксиома 4. Мозг порождает разум. искусственный разум моральный интеллект

Заключение 1. Программы не являются сущностью разума и их наличия недостаточно для наличия разума.

Заключение 2. Любая другая система, способная порождать разум, должна обладать каузальными свойствами (по крайней мере), эквивалентными соответствующим свойствам мозга.

Заключение 3. Любой артефакт, порождающий ментальные явления, любой искусственный мозг должен иметь способность воспроизводить специфические каузальные свойства мозга, и наличия этих свойств невозможно добиться только за счет выполнения формальной программы.

Заключение 4. Тот способ, посредством которого человеческий мозг на самом деле порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы [3, с.12].

Исходя из этих выводов, Дж. Серль опровергает возможность существования сильного искусственного интеллекта, так как, по сути, искусственный интеллект - это просто набор программ, использующих для работы какие-либо строгие правила. Человеческий разум устроен более сложно, он способен переключаться с одного типа мышления и познания на другой. Именно здесь возникает разница между человеком и компьютером. Как гласит 4 аксиома, мозг порождает разум: он не просто демонстрирует формальные процедуры или программы (он делает и это тоже), но и вызывает ментальные события благодаря специфическим нейробиологическим процессам. Мозг, по сути, есть биологический орган, именно его особые биохимические свойства позволяют достичь эффекта сознания и других видов ментальных явлений. Компьютерные модели мозговых процессов обеспечивают отражение лишь формальных аспектов этих процессов, моделирование мышления не произведет нейробиологического эффекта мышления [3, с.11]. Возможно, в дальнейшем ученые смогут сотворить машину, порождающую собственный разум, с индивидуальным мышлением, эмоциями, мыслями. Но пока искусственный интеллект - это лишь инструмент моделирования. Приравнивание его к человеку, а соответственное, наделение правами и обязанностями, присущими человеку, является ошибочным. Вероятно, что в скором времени искусственный интеллект будет способен «мыслить» почти так же, как человек, при этом увеличиваются его возможности в различных сферах деятельности, уже не только механическая работа, но и более сложные проекты. Искусственный интеллект сможет адаптироваться к социальной среде, то есть, фактически отождествляясь с людьми. С одной стороны, это показатель того, как превосходно работает человеческий, естественный интеллект. Но с другой стороны, не возникнет ли проблема в обществе?

Обратимся к В.А. Кутырев, репрезентирующему позицию философа, изучающего «территорию между». Он анализирует тенденции развития современных технологий и приходит к выводу, что все они направлены на достижение «бессмертия» путем замещения человека, представителя естественного мира, на автоматы - мир искусственный. Искусственный интеллект логично замещает живой разум: «Искусственный интеллект, действительно, космичен и может функционировать на любой основе. Благодаря замене разумной жизни абиотическим разумом снимается также вопрос об индивидуальности существования. Ведь главной причиной осознания себя чем-то отдельным, личностью является факт возникновения и исчезновения, рождения и смерти. Человек - это единственное существо, осознающее свою конечность, и вследствие этого, достраивающий себя до целостности, создавая мир символов, пролонгируя себя в мир культуры. С его устранением исчезают временные границы, вычленение элементов внутри целого, чем и объясняется мода на трансперсональную, то есть безличную психологию и совокупный интеллект. Бывший субъект, становясь частицей мыслящего океана, уже только перевоплощается, двигаясь внутри виртуально-информационных сетей, примитивным прообразом чего можно считать, например, систему «Internet»[1]. Поглощается не только естественное, но и индивидуальное, в результате чего исчезаетразнообразие. Любаясистема, как известно, сильна разнообразием.

В.А. Кутырев не отрицает, что технологический прогресс направлен на благо человечества, но при этом человечество погибает, не только физически. Современные люди подобны автоматам, каждый день выполняющие свои функции. Чтобы избежать полного исчезновения человека как личности, как живого существа, необходимо замкнуть прогресс, уподобить его человеческому существованию, то есть цикличности. «Искусственное, как и природа, должно непрерывно превращаться, для чего и нужна имитация жизни в полном объеме, включая смерть. Это циклизм, но реализующийся не в идеях, а на деле. Благодаря этому перед человечеством открывается огромное поле деятельности по переделке сделанного. Потом новая переделка. В принципе до бесконечности, однако, это процесс внутреннего, а не дурного развития. Таким образом, люди решают самую трудную проблему супериндустриальной постмодернистской цивилизации - занять себя, ослабить удушающую хватку технокультуры, накопленных средств, знаний и богатства, которую они набрасывают на жизнь, чувственность и любовь. Материальное и информационное производства приобретают собственную цель, автономное дыхание, а деятельность - новые каналы реализации, которые примут в себя ее напор, что особенно значимо в случаях, когда она непосредственно угрожает жизни. Давно существует искусство для искусства, появляется наука для науки, пора культивировать деятельность ради деятельности» [1].

Итак, чтобы не исчезнуть, человечеству необходимо разумно регулировать технологический и информационный прогресс, не позволяя им превзойти свое развитие.

Выше был приведен термин «сингулярность». Рассмотрим более подробно, что это такое. Сингулярность - это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от «обыденного дела» до состояния виртуально неограниченных возможностей [5, с.14]. Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования

экспоненциальной скорости перемен [5, с.14]. Фактически никто не в силах предсказать точно, что будет после наступления сингулярности. Однако есть ряд технологических возможностей, которые точно будут существовать в этот период. В отношении искусственного интеллекта высказываются предположения, что он будет развиваться рекурсивно и в итоге превзойдет человеческий уровень развития. При этом наше мышление останется на прежнем уровне, и многое из новых технологий и знаний мы не сможем воспринимать. Для того чтобы адекватно воспринять новый мир, человечеству придется изменить свои социальные структуры. Но современные условия таковы, что по политическим причинам население достаточно разобщено; пока невозможно точно предположить, стоим ли мы на пороге нового мира или нас ожидают великие потрясения. В таких условиях сильный технологический скачок вряд ли принесет большую пользу (а по прогнозам, он произойдет в 2020-2030 гг.). Скорее наоборот, большинство достижений будут использованы не в мирных целях, и исключительно развитыми странами. Изначально же сингулярность предполагает, что решатся проблемы всего населения планеты за счет увеличения доступности технологии и ресурсов. Предположим, что сингулярность все-таки произойдет в мирных условиях. Тем не менее, большинству людей сложно быстро перейти на новый уровень. Если при этом возникнет искусственный сверхинтеллект, понять который смогут далеко не все, кто сможет им полностью управлять? Скорее всего, никто. Поэтому человечество, не успевшее постичь собственный скачок, ожидает социальная, интеллектуальная и моральная катастрофа. Лучшим выходом из положения будет либо передача всего управления в «руки» искусственного интеллекта, либо возвращение на уровень технологий, максимально доступных человечеству. Стоит отметить то, что все теории о мировом господстве искусственного интеллекта, его деятельности по уничтожению или порабощению людей (как показывается во многих научно-фантастических фильмах) - это наименее вероятное развитие событий. Этому есть несколько причин, к которым можно отнести то, что человеческий фактор никогда нельзя будет полностью исключить из управления, и, прежде всего, при создании искусственного интеллекта в него закладывают законы гуманности.

Итак, из всего вышесказанного можно сделать следующие выводы:

1. Нельзя приписывать искусственному интеллекту способность к сознанию, так как искусственный интеллект - всего лишь сложная компьютерная программа. При обладании достаточными мощностями и ресурсами, искусственный интеллект может воспроизводить человеческое мышление, но никогда не будет способен полностью заменить сознание.

2. Нельзя наделять искусственный интеллект всеми правами, которыми обладает человек. Искусственный интеллект - лишь инструмент, выполняющий определенные функции. Стирание границы между машиной и живым разумным существом может привести к распаду общества как по причине неприятия частью социума «граждан-машин», так и по причине потери потребности общения с другими живыми людьми при наличии программы, способной абсолютно точно сымитировать любого собеседника.

3. Развивая идею искусственного интеллекта, заменяющего людей, цивилизация рискует уничтожить личность, превратив человека в исполнителя определенной функции.

4. Человечество способно самостоятельно заключить себя в «ловушку» искусственного интеллекта. Создав машину, по интеллектуальному развитию превышающую людей, человечество может потерять управление жизнью в любой ее сфере, перепоручив принятие решений искусственному интеллекту. В таком случае, реальность может предстать в виде трагического для человечества вердикта, который практически невозможно будет оспорить или изменить, и тогда технологическая сингулярность из идеи трансформируется в неминуемое событие.

Список литературы

1. Кутырев, В.А. Естественное и искусственное. Борьба миров/ В.А. Кутырев. - Директ-Медиа; М.-Берлин; 2014.

2. Пушкин В.Г., Урсул А.Д. Информатика, Кибернетика, Интеллект/ В.Г. Пушкин, А.Д. Урсул. - Кишинев: Штиица, 1989. - 341 с.

3. Серл, Дж. Разум мозга - компьютерная программа?/ Дж. Серл // В мире науки, 1990. № - С. 7-13.

4. Аверкин, А.Н. Толковый словарь по искусственному интеллекту / А.Н. Аверкин, М.Г. Гаазе-Раппопорт, Д.А. Поспелов. - М.: Радио и связь, 1992. - 256 с.

5. Курцвейл, Р. Эволюция разума/ Р. Курцвейл.. - М: «Эко», 2015. - 325 с.

6. Сидоренко, О.О. Технологическая сингулярность как неминуемое событие: позитивная и негативная стороны вопроса // О.О. Сидоренко, Т.Л. Михайлова //Международный студенческий научный вестник, № 4, 2015. - С. 622-628.

7. Демидова, М.А. Искусственный интеллект как конкурент естественного разума/ М.А. Демидова, Т.Л. Михайлова // Будущее технической науки: сборник материалов XIII Международной молодежной научно-технической конф.; НГТУ им. Р.Е. Алексеева. - Нижний Новгород, 2014. -С. 530-531.

8. Пронин, И.В. Киберпространство: ловушка или прогресс для человечества / И.В. Пронин, Т.Л. Михайлова // Будущее технической науки: сборник материалов XIV Международной молодежной научно-технической конф.; НГТУ им. Р.Е. Алексеева. - Нижний Новгород, 2015. -С. 587-588.

9. Серл, Дж. Открывая сознание заново /Дж. Серл; пер. с англ. А.Ф. Грязнова. - М.: аспект-Пресс, 2002. - 256 с.

Размещено на Allbest.ru