Образ искусственного интеллекта в сериале "Черное зеркало" (2011-2019)

Эпизод «Металлист» снят в чернобелой гамме, выбор которой предполагает достаточно кропотливую работу на съемочной площадке, поскольку для того, чтобы создать на экране выразительное изображение, требуется серьезная работа над подбором цветов грима и костюмов героев. Для продукта стриминговой площадки это достаточно непростое и небанальное решение. Выбор монохромной гаммы позволяет с первых кадров придать достоверность тому, за чем будет наблюдать зритель на протяжении всего эпизода, так как рождаются ассоциации с документальным фильмом (многие режиссеры-документалисты действительно часто выбирают именно черно-белую гамму), с одной стороны, с другой - позволяет сфокусировать внимание зрителя на всех показанных деталях. Кроме того, это создает сразу же напряжение, подчеркивает мрачность того мира, который представлен в эпизоде, что в целом соответствует всей концепции сериала.

На уровне знаков-индексов мир, в котором господствует ИИ, представлен как пустошь, видны многочисленные следы недавнего присутствия человека - машины, фермы, склады, особняки, разбитые дороги, станции. По всему видно, что это мир постапокалипсиса.

В начале эпизода действуют три персонажа-человека, из разговора которых ясно, что они отправились в путь, чтобы найти на складе нечто, что должно облегчить страдания другого человека, оставшегося в том месте, откуда они приехали. Два персонажа-мужчины быстро погибают, и остается только женщина и робот-пес, за борьбой которых зритель и наблюдает все оставшееся время серии.

Далее рассмотрим исключительно те моменты, которые имеют отношение к репрезентации технологии искусственного интеллекта в данном эпизоде по следующим параметрам: материальное воплощение технологии; возможности технологии; характеристики, которые дают персонажи относительно технологии; схожесть и различие способностей ИИ с живыми организмами; мотивы, которые побуждают ИИ действовать; этическая проблема, возникающая в связи с внедрением технологии.

Касательно материального воплощения технологии ИИ в этом эпизоде можно отметить следующее: это робот, внешне довольно похожий на военные разработки компании Boston Dynamics, создавшей целую линейку четвероногих роботов-собак (рис. 1). У робота-собаки много подвижных элементов, которые позволяют ему быстро передвигаться, использовать огнестрельное оружие, которое встроено в его конечности.

Также у робота установлены датчики тепла, позволяющие обнаруживать жертву.

Способности машины с внедренными технологиями ИИ заключаются в том, что она может без устали и очень быстро передвигаться; фактически представлена ищейка, она нападает на след жертвы и более от нее не отстает; одновременно с тем она демонстрирует свои способности идеального убийцы, одним выстрелом снося головы двум героям в начале эпизода. К этому можно добавить способность подобной машины управлять другими машинами, не наделенными ИИ, что говорит о ее возможности адаптироваться под определенную ситуацию за счет того, что она обучена управлению различными механизмами. Есть в эпизоде и другой пример способности чрезвычайной адаптации и преодоления любых препятствий, которые человек когда-то построил для своей защиты: робот-пес с легкостью вскрывает электронные замки в заброшенном доме, в который героиня с трудом попала, по счастливой случайности вытащив ключи со стола. Демонстрирует робот и недюжинную силу, с легкостью отрывая, например, дверь машины, на которой пытается уехать один из персонажей эпизода. Способен сканировать пространство для обнаружения цели погони, так, датчики позволяют ему реагировать на тепло. Машина с ИИ практически неуязвима, может работать и без отдельных частей механизма, а также восстанавливать их с помощью подходящих предметов (в данном случае продемонстрировано, как пес вместо одной утраченной передней лапы прикручивает кухонный нож, превращая привычный предмет обихода в смертоносное орудие). И, наконец, последняя способность, которая открывается в серии неожиданно - может убить даже после своей «смерти»: пес выстреливает маячками в лицо героини перед тем, как окончательно потерять управление.

В фильме очень мало говорят, но все же можно отметить несколько реплик персонаже относительно ИИ. Условное именование того явления, которое связано с ИИ, называется в серии «Псы». «Псы их [свиней на ферме] перебили», - единственная реплика, обозначающая род опасности, который ИИ представляет для человека и всего живого. Фраза эта обозначает вначале некую загадку для зрителя, который может подумать о неких чудовищах-мутантах, которые являются неумолимыми хищниками. «Только не это!» - восклицание героев при столкновении с воплощением технологии ИИ, показывающее, что оно вызывает панический ужас у всех персонажей.

В эпизоде интересно показано сходство повадок машины, наделенной ИИ, с живым организмом. Робот копирует природу собаки, способной брать след с помощью нюха, но в этом случае вместо органов чувств срабатывают многочисленные датчики. Он «метит» жертву и территорию, оставляя сообщения о себе. В эпизоде это показано как меткие выстрелы маячков, которые попадают в тело героини. Остаются маячки и на местах, где пес бывал (в конце показано, что целая стая роботов-псов берет след по маршруту, которым следовала первая ищейка в погоне за жертвой-героиней). Обладает чутким слухом, показано, что робот может услышать необходимое даже на дальнем расстоянии.

Мотив, которым руководствуется ИИ в действии, всего один - убивать. Только этот мотив и приводит механизированных псов в действие. «Ослепленный» пес буквально все крушит на своем пути, ничего иного, кроме разрушения и убийства, он не способен сделать. Это может восприниматься метафорически: ИИ слеп и не ведает, что творит.

Возможности человека «обмануть»

ИИ весьма ограниченны. Спастись от преследователя можно теоретически (и иногда даже героине это удается на практике) теми же приемами, что и в случае столкновения с хищным животным, а именно затаиться и не шевелиться. Другой способ - найти слабое место и ударить точно в цель (в какой-то момент героиня обливает пса краской, лишая его возможности использовать зрительные сенсоры).

Героиня и пес-преследователь, носитель ИИ, имеют ряд схожих черт: у обоих раненая конечность, оба следуют одному мотиву (только в одном случае это необходимость уничтожить, а в другом случае выжить и облегчить страдания другому человеку); оба способны адаптироваться к условиям конкретной ситуации, умеют пользоваться оружием.

По сути, то, за чем наблюдает зритель всю серию, - это состязание ума и ловкости человека и отточенных действий способной к развитию машины (правда, развитие это только в одном векторе, но доведенное до исключительного совершенства).

Рис. 1 Робот-пес, снабженный технологией ИИ. Эпизод «Металлист» сериала «Черное зеркало» Fig. 1. A robot dog equipped with AI technology. Episode «Metalist» of the series «Black Mirror»

Этическая проблема, возникающая в связи с технологиями ИИ, сопряжена с проблемой экзистенциальной. При просмотре эпизода возникает целый ряд вопросов, на что наталкивает также и открытый финал, вроде бы и указывающий на неизбежную гибель человека, но в кадре мы ее так и не видим. Есть ли у человека шанс на выживание в соревновании с умными, способными к обучению технологиями? Таков открытый вопрос в данном эпизоде сериала. Но важно именно то, что эту технологию человек в свое время попытался использовать как оружие, а не как то, что должно бы направить на пользу человеку. То, что именно эта проблема исследуется в данном эпизоде сериала, обозначается не только внешней схожестью «псов» с известными разработками в действительности. На это также работает и звуковой ряд произведения, а именно по большей части звучат произведения Кшиштофа Пендерецкого. Это, например, «Threnody For The Victims Of Hiroshima For 52 Stringed Instruments», посвященная жителям Хиросимы, погибшим и пострадавшим в результате первого в истории применения атомной бомбы. Звучит она в сцене на складе, когда возможности ИИ к истреблению человечества в этом постапокалиптичном мире впервые показаны зрителю. Тем самым на уровне звука в эпизоде явлено своеобразное предостережение для человечества, готового применять в военных целях новейшие технологии.

Другое произведение Пендерецкого звучит уже в финале: «Three Pieces in Baroque Style», написанное для фильма польского режиссера Войцека Ежи Хаса «Манускрипт Сарагосы», отличающегося сложной структурой и многослойным сюжетом, в том числе поднимающего проблемы того, куда может человека завести разум.

Песня, на которую реагирует пес перед решающей схваткой, когда героиня пытается завести машину и уехать,«Golden Brown» группы The Stranglers, имеет довольно неуловимый смысл, но в зависимости от определенного контекста его обретает. Начальные строки ее как бы сообщают, что разум был отнят у человека, и героине, да и всему человечеству в ее лице, ничего не остается, кроме как смириться и не сопротивляться:

Golden brown texture like sun Lays me down with my mind she runs Throughout the night No need to fight

Never a frown with golden brown.

Заключение

Сериал «Чёрное зеркало» будучи произведением искусства, является своеобразным осмыслением процессов, происходящих в реальном мире, рефлексией по поводу влияния искусственного интеллекта на жизнь людей. Образ искусственного интеллекта, представленный в сериале, обладает рядом интересных своеобразных характеристик:

* во-первых, стоит отметить, что конструируется он на основе уже существующих либо находящихся в разработке изобретений в сочетании с фантастическими технологиями будущего (то есть такими, о которых еще рано говорить как о близких к воплощению в той мере, в которой они могут быть представлены в художественном произведении);

• создатели сериала предлагают посмотреть на проблемы, связанные с возможным внедрением технологий ИИ в жизнь, через призму известных мифологических сюжетов (миф о воскрешении в эпизоде «Я скоро вернусь»), или же вписав показанные на экране события в широкий исторический контекст, в котором уже случались катастрофы (сравнение с эффектом, произведенным ядерной бомбардировкой Хиросимы в эпизоде «Металлист»);

• образ ИИ, несмотря на в целом традиционно характерную для художественных произведений направленность на проявление негативных сторон новых технологий, выглядит весьма разнообразным и многогранным. Немалую роль в этом играет и то, что авторы эпизодов играют с различными кинематографическими жанрами: это и психологический триллер, и антиутопия, и постапокалипсис;

• восприятие технологии ИИ как угрозы, инструмента разрушения связано прежде всего не с тем, что данная технология плоха сама по себе, а скорее с тем, что человек использует ее неправильно. Корнем всех проблем является именно ошибка человека, его неспособность оценивать все возможные риски.

Список литературы / References

1. Albertini, D. F. From artefactual to artificial intelligence - meeting the needs of ART patients and practitioners. In Journal of Assisted Reproduction and Genetics, 2018, 35, 1543-1544.

2. Avdeeva, Y.N.& Degtyarenko, K. A. Vizualizaciya obraza ketov kak sovremennaya kul'turnaya praktika [Visualization of the image of the Kets as a modern cultural practice]. In Severnye arhivy i ekspedicii [Northern archives and expeditions], 2021, 5(2), 16-31. DOI:10.31806/2542-1158-2021-5-2-16-31

3. Balakireva, T. A. Khudozhestvennyy obraz iskusstvennogo intellekta v kinematografe (na primere fil'ma «Ex Machina» i seriala «Mir Dikogo Zapada») [The artistic image of artificial intelligence in cinema (on the example of the movie «Ex Machina» and the TV series «World of the Wild West»)]. In Studia Culturae [Studia Culturae], 2020, 44, 165-174.

4. Brooker, Ch. Charlie Brooker: the dark side of our gadget addiction In The Guardian, 2011. Available at: www.theguardian.com/technology/2011/dec/01/charlie-brooker-dark-side-gadget-addiction-blackmirror

5. Clauberg, R. A conceptual analysis of the opportunities and risks of artificial intelligence for all parts of the economy. In Bulletin Of The Institute Of World Civilizations, 2022, 13(3(36)), 77-85.

6. Horn, C., Ivarsson, O., Lindhe, C., Potter, R., Green, A., & Ling, J. Artificial Intelligence, 3D documentation, and rock art - approaching and reflecting on the automation of identification and classification of rock art images. In Journal of Archaeological Method and Theory, 2021, 1-26.

7. Il'in R.V., Sandakova L. G. Tsifrovizatsiya tvorcheskogo protsessa: problemy i perspektivy [Digitalization of the creative process: problems and prospects]. In VestnikBuryatskogogosudarstvennogo universiteta. Filosofiya [Bulletin of the Buryat State University. Philosophy], 2022, 2, 64-71.

8. Kanareyko, D. A. Transformatsiya kul'tury v tsifrovoy srede [Transformation of Culture in the Digital Environment]. In Ergodizayn [Ergodesign], 2022, 2(16), 108-113.

9. Kistova, A. V. Kul'tura kak faktor sotsial'noy dinamiki. In Severnyye Arkhivy i Ekspeditsii [Northern Archives and Expeditions], 2020, 4, 2, 100-111.

10. Kolyanov, A. Yu. Iskusstvennyy intellekt v mediynoy diskussii 2010-kh gg. [Artificial intelligence in the media discourse of the 2010s]. In Diskurs [Discourse], 2021, 7(4), 58-67.

11. Koptseva, N. P., Degtyarenko, K.A., Pchelkina, D. S. Obrazets sibirskikh territoriy Rossiyskoy imperii v ramkakh protsedury izdaniya rubezha XIX-XX vv [Sample of the Siberian territories of the Russian Empire within the framework of the procedure for publishing the turn of the XIX-XX centuries]. In Byliyye gody [Bylye years], 2022, 2, 17(1), 422-431.

12. Koptseva, N.P., Degtyarenko, K. A. Shpak, AA. Zhurnal «Priroda i lyudi» (1910) kak istochnik po istorii narodov Rossiyskoy imperii]. In Bylyye gody [Bylye years], 2021, 16(2), 990-999.

13. Koptseva, N.P., Seredkina, N. N. Zhurnal «Sever» (1903 g.) kak istoricheskiy istochnik: k voprosu o reforme obrazovaniya v Rossiyskoy imperii [The journal “North” (1903) as a historical source: on the issue of education reform in the Russian Empire]. In Bylyye gody [Bylye years], 2021, 16(1), 343-356.

14. Kostikova A. A., & Konovalova A. D. Simulyakr srednego poryadka v srednem mire [Simulacrum of the middle order in the middle world]. In PR i reklama v izmenyayushchemsya mire: regional'nyy aspekt [PR and Advertising in a Changing World: A Regional Aspect], 2020, 23, 102-107.

15. Laptev V. A. Ponyatiye iskusstvennogo intellekta i yuridicheskaya otvetstvennost' za yego rabotu [The concept of artificial intelligence and legal responsibility for its work.] In Pravo. Zhurnal Vysshey shkoly ekonomiki [Right. Journal of the Higher School ofEconomics], 2019, 2, 79-102.

16. Linchenko, A. A. Za predelami chernogo zerkala: mifologiya budushchego v sovremennom britanskom fenteziynom seriale. [Beyond the Black Mirror: The Mythology of the Future in a Contemporary British Fantasy Series]. In Filosofiya i kul 'tura [Philosophy and Culture], 2022, 11, 75-94.

17. Lyakhova, Ye. S., & Suslov, M. D. Mozhet li iskusstvennyy intellekt obladat' soznaniyem? [Can artificial intelligence be conscious?]. In The Digital Scholar: Philosopher's Lab, 2019, 2(1), 53-59.

18. Mareyeva, Ye. V. Ot iskusstvennogo intellekta k iskusstvennoy dushe [From artificial intelligence to artificial soul.]. In Voprosy filosofii [Questions of Philosophy], 2014, 1, 171-177.

19. Nagornaya, L. N. Nauchnyye dostizheniya i iskusstvennyy intellekt v mire muzykal'nogo iskusstva. [Scientific achievements and artificial intelligence in the world of musical art]. In Kul'tura i obrazovaniye: nauchno-informatsionnyy zhurnal vuzov kul 'tury i iskusstv [Culture and education: scientific and informational journal of universities of culture and arts], 2020, 4(39), 32-43.

20. Nechkin, A. V. Konstitutsionno-pravovoy status iskusstvennogo intellekta v Rossii: nastoyashcheye i budushcheye [Constitutional and legal status of artificial intelligence in Russia: present and future]. In Lex russica, 8(165), 78-85.

21. Ohno, E. (2019). State of the «Fine» art in the age of artificial intelligence. In Journal of Medical Ultrasonics, 2020, 46, 175-175.

22. Oreshnikov, I.M., & Shkerina, T.I. (). Filosofskiye razmyshleniya o probleme iskusstvennogo intellekta [Philosophical reflections on the problem of artificial intelligence]. In Istoriya i pedagogikayestestvoznaniya [History and Pedagogy of Natural Science], 2017, 4, 5-11.

23. Razin A. V. Etika iskusstvennogo intellekta [The ethics of artificial intelligence]. In Filosofiya i obshchestvo [Philosophy and Society], 2019, 1(90), 57-73.

24. Reznikova K. V., Sertakova Ye.A., Sitnikova A. A. Iskusstvennyy intellekt v amerikanskom kinematografe kontsa XX - nachala XXI veka [Artificial intelligence in American cinema of the late XX - early

25. XXI centuries] In Sotsiologiya iskusstvennogo intellekta [Sociology of Artificial Intelligence], 2022, 3(1), 42-49.

26. Santana, M., & D^az-Fernandez, M. Competencies for the artificial intelligence age: visualisation of the state of the art and future perspectives. In Review of Managerial Science, 2022, 1-34.

27. Sitnikova A. A. Fil'm «Letyat zhuravli»: opyt sistemnogo kinoanaliza [Sitnikova A. A. The film «The Cranes Are Flying»: the experience of systemic film analysis] In Sibirskiy iskusstvovedcheskiy zhurnal [Siberian Journal of Art Criticism], 2022, 1(4), 1-17.

28. Sitnikova, A. A. & Sertakova Ye. A. Khudozhestvennyy obraz iskusstvennogo intellekta v animatsii XXI veka [Artistic image of artificial intelligence in the animation of the XXI century] In Sotsiologiya iskusstvennogo intellekta. [Sociology of artificial intelligence], 2022, 3(2), 57-70. DOI 10.31804/2712939X-2022-3-2-57-70.

29. Sitnikova, A. A. Severnyye ekspeditsii i obrazy Arktiki v zarubezhnoy zhivopisi XIX veka [Northern Expeditions and Images of the Arctic in Foreign Painting of the 19th Century] In Severnyye Arkhivy i Ekspeditsii [Northern Archives and Expeditions]. 2022, 6, 1, 240-249.

30. Slyusarev, V. V. Filosofiya «Chernogo zerkala»: perevorot v mozgakh iz kraya v kray [The philosophy of the «Black Mirror»: a coup in the brain from edge to edge]. In The Digital Scholar: Philosopher's Lab, 2019, 2(1), 22-32.

31. Solomko, D. V., & Khaprova, V. A. Vliyaniye sovremennoy tekhniki i tekhnologiy na vzaimootnosheniya lyudey (na primere seriala Charli Brukera «Chernoye zerkalo») [The influence of modern technology and technology on people's relationships (on the example of Charlie Brooker's series «Black Mirror»)]. In Homo Holistic: Chelovek tselostnyy [Homo Holistic: The Whole Man], 2017, 5, 142-146.

32. Zamarayeva, YU.V., Pimenova N. N. S. Russkaya reklama i traditsionnyye russkiye tsennosti [Russian advertising and traditional Russian values] In Severnyye arkhivy i ekspeditsii [Northern Archives and Expeditions], 2023, 7, 1, 19-27.

33. Zinkovskiy, S. A. Pravoslavnoye bogosloviye lichnosti i problematika iskusstvennogo intellekta [Orthodox theology of personality and problems of artificial intelligence]. In Khristianskoye chteniye [Christian Reading], 2020, 6, 10-24.

Размещено на Allbest.ru