Специфика корпоративной редакционной этики при работе с роботизированной журналистикой
Восприятие роботизированной журналистики аудиторией и журналистами. Концептуализация термина "роботизированная журналистика". Сложности использования алгоритмов в России. Технические и этические проблемы и недостатки алгоритмов; корпоративная этика.
| Рубрика | Журналистика, издательское дело и СМИ |
| Вид | дипломная работа |
| Язык | русский |
| Дата добавления | 02.09.2018 |
| Размер файла | 1,6 M |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Размещено на http://www.allbest.ru/
Федеральное государственное автономное образовательное учреждение высшего образования
«Национальный исследовательский университет «Высшая школа экономики»»
Факультет коммуникаций, медиа и дизайна
Выпускная квалификационная работа по направлению подготовки 42.03.02 Журналистика
Специфика корпоративной редакционной этики при работе с роботизированной журналистикой
Мельник Анна Геннадьевна
Москва 2018
СОДЕРЖАНИЕ
- Введение
- Глава 1. Роботизированная журналистика. Теоретический подход к ее исследованию
- 1.1 Аналитический разбор основополагающих теорий исследования
- 1.2 Компьютеризация и цифровизация журналистики
- 1.3 Концептуализация понятия «роботизированная журналистика»
- 1.4 Оценка и восприятие роботизированной журналистики аудиторией и журналистами
- Глава 2. Корпоративная редакционная этика при работе с алгоритмами
- 2.1 Основы журналистской этики
- 2.2 Корпоративная этика
- 2.3 Изменение стандартов редакционной этики при работе с алгоритмами
- Глава 3. Современное состояние роботизированной журналистики в России
- 3.1 Концептуализация термина «роботизированная журналистика»
- 3.2 Сложности использования алгоритмов в России
- 3.3 Технические и этические проблемы и недостатки алгоритмов
- 3.4 Корпоративная этика медиакомпаний при работе с алгоритмами
- 3.5 Перспективы развития роботизированной журналистики в России
- Заключение
- Список литературы
- Приложения
ВВЕДЕНИЕ
роботизированный журналистика алгоритм этика
Появление новых технологий всегда вызывало вопросы об изменениях в журналистике - ее содержании, средствах производства и потреблении. Недавней разработкой в ??области цифровой журналистики является контент, созданный программным обеспечением, то есть автоматически созданный контент. Компьютерные программы преобразуют данные в новостные сюжеты, а новости - в мультимедийные презентации.
Первой медакомпанией, объявившей в 2006 г. о своем переходе на автоматизацию при создании финансовых новостей, стала «Thomson Reuters». Более известный случай с использованием алгоритма «Quakebot» произошел в Калифорнии в 2014 г.: «Los Angeles Times» опубликовало рассказ о землетрясении уже через три минуты после его окончания. «Le Monde» работал с алгоритмом «Syllabs» во время выборов во Франции 2015 г., чтобы обеспечить тысячи мгновенных, локализованных результирующих историй.
Сегодня использование алгоритмов вышло за рамки эксперимента. «Associated Press» регулярно передает автоматически написанные отчеты о доходах компании, созданные алгоритмом «Automated Insights», а российская поисковая система «Яндекс» ежедневно использует автоматизацию для составления отчетов о погоде и трафике.
Внедрение в медиаиндустрию робот-репортеров, созданных для получения большого количества информации на более быстрых скоростях, ставит перед всеми участниками информационного обмена множество важных вопросов, касающихся как технической стороны производства новостного контента, так и этической его составляющей.
Редакторы могут столкнуться с проблемой искажения и предвзятости контента, в основе генерации которого лежат цифры. Медиакомпании, СМИ и организации - с проблемой транспарентности как самих редакционных стандартов, так и открытостью конкретных алгоритмов и кодов программ по созданию автоматизированных новостей. Наконец, сами журналисты - с проблемой нового конкурента и потери рабочих мест.
Однако наиболее важной нам представляется проблема робоэтики, затрагивающая различные моральные и нравственные аспекты. Необходимо также выяснить, как будет выглядеть свод этических норм для журналистов-роботов и каким образом традиционная журналистика будет учитывать новые кодексы в своей работе. Данная работа направлена на более глубокое исследование второго фактора, касающегося вопросов медиаэтики нового вида журналистики - роботизированной.
Степень разработанности выбранной темы характеризуется тремя основными блоками научных исследований. Первый блок включает в себя работы, посвященные феномену компьютеризации и цифровизации журналистики. В него вошли работы российских и зарубежных теоретиков и исследователей, таких как Маклюэн М., Кастельс М., Иванов А., Федерман М., Левинсон П, , Манович Л., Коддингтон М., Мейер П., Левис С. и другие.
Второй блок состоит из исследований, посвященных феномену роботизированной журналистики (Хамильтон Д., Ван Делан А., Андерсон С.), составляющим ее процесса (Леви С., Дер К., Графе А.), а также анализу восприятия автоматизированного контента журналистами и аудиторией (Янг М., Эвенсен Б., Ван Дер Ка Х., Клервал К.).
Третий блок составляют работы и исследования, посвященные журналистской этике (Минбалеев А., Борден С., Диаз-Кампо Д.,) и изменениям редакционной политики средств массовой информации с приходом роботизированной журналистики (Дор К., Вард С., Джаст Н.).
Объект исследования: роботизированная журналистика.
Предмет исследования: изменение редакционных стандартов этики при внедрении роботизированных технологий.
Исследовательский вопрос: меняются ли редакционные стандарты медиакомпаний при внедрении в работу автоматизированных алгоритмов по созданию новостей?
Цель: описать и проанализировать изменения редакционных стандартов средств массовой информации в условиях внедрения роботизированной журналистики.
Задачи исследования:
· охарактеризовать феномен роботизированной журналистики;
· охарактеризовать основные принципы работы роботизированной журналистики;
· перечислить ключевые этические нормы журналистики;
· проанализировать систему корпоративной этики медиакомпаний;
· выявить основные проблемы этической составляющей алгоритмов;
· обозначить основные перспективы развития роботизированной журналистики в России на основе взятых интервью.
Теоретические методы исследования
· контент-анализ
Эмпирические методы исследования
· сравнительный анализ
· кейс-стади
· экспертные интервью
Гипотеза: внедрение алгоритмов по созданию автоматизированных новостей в рабочий процесс средств массовой информации не меняет структуру корпоративной этики медиакомпаний в России.
Эмпирическая база
· интервью с сотрудниками редакций, медиаменеджерами, а также специалистами в области алгоритмической журналистики;
· кодексы, декларации и хартии журналистов России;
· конкретные кейсы роботизированной журналистики в Росси и мире («Associated Press», «The New York Times», «The Guardian», «Forbes», «Los Angeles Times», «BBC», «Yahoo», «Southern Metropolis Daily», «Yandex.ru», «Sports.ru»).
Практическая значимость. Проведенная исследовательская работа может быть полезна специалистам, изучающим механизмы внедрения роботизированной журналистики и эффекты воздействия автоматизированных алгоритмических текстов. Исследование также может быть интересно и самим журналистам: они могут оценить свою работу, сравнить свои тексты с текстами алгоритмов, устранить недостатки.
Глава 1. Роботизированная журналистика. Теоретический подход к ее исследованию
1.1 Аналитический разбор основополагающих теорий исследования
Появление новых технологий всегда вызывало те или иные изменения в журналистике, в средствах производства информации и ее потребления. Так, с институционализацией алгоритмов как создателей контента, профессиональная журналистика столкнулась с трансформацией, повлекшей за собой множество вопросов, касающихся технической стороны производства новостного контента, а также этической его составляющей.
Изучение новых медиа, компьютеризации и цифровизации неразрывно связано с изучением информационного общества и его характеристик. Теоретическое обоснование трансформаций, происходящих в современном обществе и связанных с переходом к новой парадигме общественного развития, наиболее подробно было отражено в трудах канадского философа XX в. Герберта Маршалла Маклюэна, предсказавшего в начале 1960-х гг. развитие средств массовой информации в направлении глобализации и децентрализации. Таким образом, Маклюэн революционизировал мышление в сфере коммуникаций. Взяв за основу теоретические положения М. Маклюэна, изложенные им в книге «Галактика Гуттенберга», испанский социолог Мануэль Кастельс, специализирующийся в области теории информационного общества, описал новый этап трансформации медиа как «Галактику Интернета». Таким образом, для дальнейшего исследования феномена роботизированной журналистики нам представляется необходимым рассмотреть основные концепции обоих теоретиков медиа, выстроив на их основе общую теоретическую парадигму процессов и трансформаций журналистики XXI в.
Маклюэн утверждал, что характеристики коммуникационных технологий формируют познание и социальную организацию. Соответственно, развитие печати привело общество к визуальной эпохе, в то время как телевидение, радио и фильм продвинули нас в век массовых коммуникаций. Эта линия рассуждений лаконично отражена в знаменитом утверждении Маклюэна «the medium is the message».
Стоит отметить, что анализ толкований данного высказывания приводит нас к разным его трактовкам. Так, например, профессор Университета Торонто Марк Федерман объясняет идею Маклюэна так: «новое средство коммуникации несет новый тип информации». Продолжая мысли Маклюэна, Пол Левинсон в книге «Цифровой Маклюэн» трактует знаменитое высказывание, как «использование определенного средства коммуникации во многих случаях имеет большее значение, чем содержание передаваемого сообщения». Джошуа Мейровиц, профессор факультета коммуникаций Университета Нью-Хэмпшира пишет, что высказывание Маклюэна можно воспроизвести как «любой артефакт выступает в качестве сообщения для общества в целом». Это доказывает, что многие положения теории Маклюэна могут быть восприняты неоднозначно. Однако главным в формуле «the medium is the message» Маклюэна, на наш взгляд, является именно технологический подход к средствам коммуникации.
По способу установления и поддержания контакта коммуникации подразделяются на непосредственные - прямые, и опосредованные - дистанционные. Так, до середины XX в. опосредованные коммуникации носили исключительно односторонний характер передачи информации, транслируемой средствами массовой информации. Современная же коммуникационная среда не только включила в процесс медиапроизводства и потребления отдельных агентов медиа и персонализированный контент, но и трансформировала процесс опосредованной коммуникации в двусторонний.
Продолжая идеи Маршалла Маклюэна, Мануэль Кастельс разработал теорию гибких и горизонтально-ориентированных сетевых потоков информации. Согласно теории Кастельса, информационные и коммуникационные технологии 1980-х и 1990-х гг. претерпели сдвиг в структуре социальной организации, характеризующийся децентрализованными гибкими сетевыми узлами, основанными на общих интересах общества, а не на едином географическом пространстве.
Кастельс дифференцирует понятия «информационное общество» и «информациональное общество», объясняя это тем, что в настоящий момент весь мир становится свидетелем процесса перехода привычного для нас общества к обществу нового типа, отличного от всех ранее существовавших. Таким образом, употребление термина «информационное общество» является не совсем корректным для характеристики современных процессов, так как использование информации являлось определяющим фактором для общества на протяжении предыдущих столетий. Важность выделения такого понятия, как «информациональное общество», заключается в акцентирующем влиянии на становлении знания и информации в качестве основного источника производительности.
Фактически, Кастельс ссылался на труды Маклюэна, утверждая, что «сеть - это сообщение». Однако важно отметить, что Маклюэн приписывал социальные изменения развитию и использованию технологий, что, в свою очередь, отрицает Кастельс. Вместо этого он утверждает, что изменения в коммуникационных технологиях влекут за собой и изменения в социальном устройстве. Кастельс объяснил: «Мой тезис заключается в том, что рост информационной, глобальной экономики характеризуется развитием новой организационной логики, связанной с текущим процессом технологических изменений, но не зависящей от него». По мнению М. Кастельса, сети так же, как и информация, не являются определяющей чертой общества XXI в., однако в настоящее время они, как и информация, приобретают совершенно иные функции и значения, занимая в ряде сфер доминирующее положение.
Социальная структура сетевого сообщества основана преимущественно на сетях, которые стимулируются информационными (сетевыми) технологиями. Социальная реальность современного общества носит сетевой характер в связи с массовым распространением интернет-технологий. Сети имеют внутреннюю структуру, а власть сетевых организаций все больше растет, и сетевые структуры не только предоставляют новые возможности для развития, но и создают ограничения для дальнейшего продуктивного функционирования.
Появление нового типа информациональной экономики, описанной Кастельсом, характеризуется обилием информации и ее возрастающей ролью, такая информация должна быть быстро обработана и эффективно использована. Кроме того, важнейшей особенностью современной экономики, по мнению Кастельса, является ее глобальное распространение. Экономика нового типа - следствие развития индустриальной экономики, отличительной чертой которой является приоритет информационного знания.
Кастельс считает, что индустриальная экономика изжила себя, исчерпав все свои возможности, и именно сейчас нуждается в трансформации в информациональную в целях преодоления возрастающей угрозы обвала существовавшей ранее экономической системы.
В эпоху информационализации происходит трансформация сферы труда, характеризующаяся сокращением рабочих мест в промышленной сфере и их расширением в сферах деятельности, связанных с высоким уровнем образования и квалификации. Растет потребность в работниках, отличающихся гибкостью и способностью совершать несколько задач одновременно.
Такой подъем мультизадачности стимулируется развитием технологий, а также социальными изменениями, что особенно наглядно прослеживается в сфере деятельности журналиста. Написание текстов, фактчекинг, текстовые и видеотрансляции, монтаж, создание интерактивного контента, работа с базами открытых данных, работа в социальных сетях - все это сегодня дополняется необходимостью владения навыками программирования.
Современное общество характеризуется появлением новой культуры -это культура реальной виртуальности, что произошло под сильнейшим воздействием информационных технологий. Реальная виртуальность - это система материального и символического существования, полностью погруженного в установку виртуальных образов. Кастельс отмечает, что свобода средств массовой информации, воздействующих на поведение и сознание людей, ограничена властью, сила которой напрямую зависит от контроля над первыми. Особенно важным является тот факт, что в силу развития интернета происходит сегментация и дифференциация аудитории, а также появление новых форм коммуникации, характеризующихся самостоятельностью и массовостью.
Таким образом, в дальнейшем исследовании мы руководствуемся концепцией информационального общества Кастельса как основным теоретическим объяснением причин, хода и следствий трансформации журналистики под влиянием новейших технологий и интернета. Данная теория наиболее подробно описывает изменения важных аспектов, касающихся всех участников процесса медиапроизводства и потребления, и приводит нас к главной цели исследования - анализу изменений редакционных стандартов средств массовой информации в условиях внедрения роботизированной журналистики.
1.2 Компьютеризация и цифровизация журналистики
Новые медиа представляют собой конвергенцию двух отдельных исторических траекторий - это развитие сферы вычислительных технологий и журналистики. Развитие обеих сфер начинается практически одновременно в 1830-х гг.
В середине XX в. появился первый современный цифровой компьютер, позволяющий более эффективно выполнять технические операции с использованием числовых данных. Он включил в себя множество механических табуляторов, получив широкое распространение среди компаний и правительственных организаций. В то же время, мы можем проследить появление новых медиатехнологий, позволивших хранить изображения, звуки и тексты с использованием различных физических носителей - фотографические пленки, видеокассеты, граммофонные пластинки.
В результате синтеза этих двух, вроде бы, параллельных траекторий происходит переход всех существовавших ранее физических носителей в числовые данные, доступные на привычном для нас компьютере. Таким образом появляются новые медиа - графика, движущиеся изображения, звуки, формы, пространства и тексты.
В работе «Принципы новых медиа» Лев Манович рассматривает ключевые последствия этого нового статуса СМИ. Вместо того, чтобы сосредоточиться на привычных нам категориях, таких как интерактивность или гипермедиа, он предлагает иной список, сводя все принципы к модульности, автоматизации, изменчивости и культурному транскодированию.
Манович отмечает, что тот факт, что развитие обеих траекторий -современных медиа и компьютеров - начинается примерно в одно и то же время не удивительно, так как и средства массовой информации, и вычислительные машины были абсолютно необходимы для продуктивного функционирования современных массовых обществ. Способность распространять тексты, изображения и звуки на многомиллионную аудиторию, агитируя идеологические убеждения, была столь же важной, как и необходимость фиксировать записи о рождении, занятости, а также медицинские и полицейские показания.
Фотография, фильм, печатная машина, радио и телевидение способствовали достижению первого, в то время как компьютеры модернизировали и сделали возможным последнее. Средства массовой информации и обработка данных - это технологии, появившиеся в одно время и продолжающие развиваться бок о бок, делая возможным современное массовое общество. Компьютер больше не является калькулятором, механизмом управления или устройством связи, он становится медиапроцессором. Сегодня это не просто аналитический двигатель, а медиа-синтезатор.
Принципы новых медиа следует рассматривать не как абсолютные законы, а, скорее, как общие тенденции культуры, подвергающейся компьютеризации. Поскольку компьютеризация затрагивает все более глубокие слои культуры, эти тенденции будут все чаще проявляться. Основным принципом новых медиа, по мнению Мановича, является числовое представление. Это объясняется тем, что новые объекты мультимедиа, созданные с нуля на компьютерах или преобразованные из аналоговых медиаисточников, состоят из цифрового кода - числового представления. Этот факт имеет два ключевых последствия:
· Новый медиа-объект может быть описан формально (математически). Например, изображение или форма могут быть описаны с использованием математической функции.
· Новый медиа-объект подвергается алгоритмической манипуляции. Например, применяя соответствующие алгоритмы, мы можем автоматически удалить «шум» с фотографии, улучшить ее контраст, найти края фигур или изменить их пропорции. Таким образом, среда становится программируемой.
В течение первого десятилетия XXI в. новые термины, такие как журналистика данных, цифровая журналистика, вычислительная журналистика, журналистика как программирование, программирование как журналистика способствовали общей концепции того, что происходит на пересечении новых технологий и журналистики.
Хотя высокотехнологичные термины, используемые новостными специалистами, обсуждались и утверждались в течение последнего десятилетия, наиболее распространенным термином в новостных изданиях по-прежнему является «компьютерно-вспомогательная отчетность» (computer-assisted reporting - CAR). Она включает в себя такие методы, как поиск данных в интернете, электронную базу и статистический анализ различных публичных записей, а также географическое и другое отображение информации. «CAR» также позволяет пользователям искать справочную информацию в интернете и опрашивать людей по электронной почте или в социальных сетях. Термин «компьютерно-вспомогательная отчетность» возник задолго до оцифровки средств массовой информации. Концепция компьютерно-вспомогательной отчетности наблюдается с 1952 г., когда американская телерадиосеть Си-Би-Эс (CBS) использовала компьютерную программу для анализа аспектов президентских выборов в Соединенных Штата.
Одним из первых разработчиков CAR в 1960-х г.г. был Филипп Мейер, основным открытием которого была прецизионная журналистика, что описано в его работе «A Reporter's Guide to Social Science Methods». С тех пор тысячи репортеров более чем из 30 стран прошли подготовку в области применения вычислительных технологий при создании новостей на базе международной журналистской организации NICAR (Национальный Институт Компьютерной Отчетности).
Компьютеры использовались для анализа огромных правительственных отчетов еще c 1969 г., а журналисты-расследователи начали создавать свои собственные количественные базы данных с начала 1990-х гг.. Статистика выборов, здравоохранения, национальных бюджетов и другие числовые переменные являются традиционными, хорошо известными количественными источниками в журналистике.
Новое в цифровой эре - это расширенное измерение и доступность вычислительных возможностей как внутри, так и вне новостных организаций. Некоторые журналисты говорят о CAR как о раннем поколении данных. Тем не менее, постепенный рост и развитие CAR имеет большое значение, поскольку именно эта система заложила основу для нынешнего подхода к новостям, а также к цифровой обработке количественных данных в журналистике.
Исследователь журналистики в условиях цифровой глобализации Кевин Кавамото пишет, что невозможно дать четкого определения цифровой журналистике, однако можно выделить основные для нее характерные черты
· гипертекстуальность - связывание и «расслоение» цифровой информации через нелинейную иерархическую структуру;
· интерактивность - привлечение активного участия человека или машины в процесс поиска информации и обмена информацией;
· нелинейность - гибкая система подачи информации, которая не обязательно придерживается традиционных, хронологических или условно логических моделей повествования;
· мультимедийность - использование более одного типа носителей в одном продукте;
· конвергенция - слияние и интеграция коммуникативных и информационных технологий в одном ресурсе;
· персонализация - подача и предоставление контента с возможностью определять характер его содержания, подстраиваясь под индивидуальные потребности и желания той или иной аудитории.
Кевин Кавамото также отмечает, что, помимо этих особенностей, журналистика в эпоху цифровой глобализации может включать в себя и многое другое и, по мере изменения технологий и концепции журналистики, определение цифровой журналистики также будет изменяться.
Несмотря на то, что использование количественных методов социологии в журналистике впервые было представлено Филиппом Майером, прошло несколько десятилетий, прежде чем ученые-информатики и исследователи средств массовой информации стали интересоваться изучением вычислительных инноваций в журналистике. Исследователи разных дисциплин все чаще участвуют в инновационных проектах журналистики и многодисциплинарном сотрудничестве.
Научная направленность журналистики в область инноваций также проявляется в журналистике, управляемой данными, чаще всего называемой «журналистикой данных». Это направление, в отличие от компьютерной журналистики, имеет дело только с открытыми данными, которые находятся в свободном доступе в интернете и могут быть проанализированы с помощью таких же свободно доступных инструментов с открытым исходным кодом. Журналистика данных является процессом, в основе которого лежит обработка данных и их использование для создания журналистского материала.
Первым СМИ, начавшим заниматься журналистикой данных, став в последствии ведущим мировым лидером в этой области, был The Guardian, запустив в 2009 г. «Блог данных» (Datablogue), все материалы которого создаются с помощью обработки и представления данных. В нем содержится индекс данных мирового правительства, который состоит более чем из 800 наборов данных. Помимо этого, сотрудники The Guardian проводят исследования полученных ими данных, предоставляя своим читателям возможность самостоятельно анализировать наборы данных и участвовать в процессе обратной связи, формулировать вопросы исследований и делиться своими вариантами визуализаций, которые они могут создать из доступных данных в хранилище The Guardian. Согласно словам редактора «блога данных» Саймона Роджерса, данные оказались столь же популярны среди не разработчиков - обычных людей, которые хотят получить необработанную информацию.
По мере того, как технологии вторгаются в создание новостей, ученые начали изучать меняющийся характер журналистики на фоне обилия данных, вычислительной разведки и алгоритмического акцента с растущим значением для медиаиндустрии и журналистики как практики и профессии. Один из исследователей, ориентированных на данные практик, возникающих в журналистике, М. Карлсон отметил, что ничто не может быть столь же разрушительным, как автоматизированная журналистика, поскольку она ставит под сомнение будущее журналистского труда, новостных композиционных форм и самих основ журналистской власти. Между тем, автоматизированный контент без вмешательства человека на этапе первоначального программирования может сделать журналистов свободными от обработки базовой информации и предоставить больше время для сосредоточения внимания на более трудоемких журналистских расследованиях и репортажах. Это позволит медиакомпаниям изобретать новую систему производства новостей, создавая новости быстрее, в большем масштабе и с меньшим количеством ошибок, а также станет полезным для аудитории, требующей от новостей и большей непредвзятости.
Таким образом, изучив основные этапы конвергенции, компьютеризации и цифровизации журналистики с момента появления первого цифрового компьютера до современного этапа ее развития, мы можем перейти к более подробному рассмотрению понятия роботизированной журналистики и его концептуализации.
1.3 Концептуализация понятия «роботизированная журналистика»
Дискурс об использовании компьютеров и программного обеспечения для сбора, распространения и публикации контента имеет разные типы маркеров. Одним из терминов, охватывающих описанные процессы в наиболее широком смысле, является термин «вычислительная журналистика», которая описывается как сочетание алгоритмов, данных и знаний социальных наук, дополненных функцией журналистской отчетности. Другие термины -«роботизированная журналистика», «автоматизированный контент» и «алгоритмические новости».
Медиакомпании начали работу с алгоритмами с целью производства и распространения новостных материалов, созданных с помощью программного обеспечения. Алгоритмические шаблоны, создаваемые журналистам, требуют кропотливой ручной работы. Хотя эти технологии все еще находятся на ранней стадии, автоматизированная журналистика постепенно, но уверенно проникает в редакции. Так, например, финансово-экономический журнал Forbes использует платформу искусственного интеллекта, предоставленную им технологической компанией Narrative Science. Для создания автоматизированных новостей о корпоративных доходах и ценах акций, этот алгоритм собирает данные и контент из предыдущих статей журнала. Одно из крупнейших международных информационных и новостных агентств Associated Press сотрудничает с американской технологической компанией, производящей программное обеспечение по превращению больших данных в читаемые рассказы Automated Insights, чтобы автоматизировать ежеквартальные отчеты о доходах. Associated Press публикует более 3000 таких финансовых отчетов каждый квартал. После того, как однажды утром в Лос-Анджелесе произошло землетрясение, газете Los Angeles Times потребовалось всего 3 минуты, чтобы написать об этом материал и опубликовать его в интернете, он был написан алгоритмом.
Сегодня алгоритмы используются не только для написания новостей, но и для редактирования их выборки. Алгоритмическое газетное программное обеспечение Guardian выбирает самые популярные статьи интернет-версии издания и собирает их в еженедельную печатную газету. Известно, что поисковые системы, такие как Google и Яндекс также используют алгоритмы для отображения новостей на своих сайтах.
Вычислительная журналистика изначально была задумана как применение вычислительной техники, позволяющей журналистам решать задачи, связанные со сбором информации, ее быстрым распространением, изучением рецепций аудитории, а также с деятельностью, направленной на исследования, основанные на данных. Вычислительная журналистика часто определяется ??как направление журналистики, ориентированное на использование технологических инструментов.
В книге «Руководство по роботизированной журналистике» профессор в области нанотехнологий Андреас Графе выделяет пять простых шагов работы алгоритма:
1. сбор доступных данных;
2. статистический анализ и определение возможных трендов и связей для определение наиболее важных и интересных событий;
3. классификация и приоритезация данных;
4. генерация текста на основе выбранной информации;
5. загрузка готовой новости через приложение контент-менеджера.
Сегодня алгоритмы используются как в новостной журналистике, так и в работе рынков, политических кампаний, а также в сферах социальных услуг, благосостояния и общественной безопасности. Но, несмотря на такую широкую сферу деятельности, доверенную им, алгоритмы могут допускать ошибки. Непрозрачность технически сложных алгоритмов затрудняет их детальное изучение, что приводит к отсутствию ясности в их реализации и силе влияния на общественность. Таким образом, для дальнейшей концептуализации понятия алгоритмической журналистики, нам представляется необходимым рассмотреть это понятие с точки зрения работы механизма.
Алгоритмическая мощность
Алгоритм может быть определен как последовательность шагов, предпринятых для решения конкретной проблемы или достижения определенного результата. Существует множество способов, с помощью которых алгоритмы взаимодействуют и потенциально расширяют общественную жизнь, а также создают сложные модели обратной связи с использованием социальных данных. Неотъемлемая сущность алгоритмической силы заключается в автономном принятии решений. Алгоритмические решения могут быть основаны на правилах или вычислениях на основе огромных объемов данных. Правила закладываются непосредственно программистами, однако нередко алгоритмический оператор-человек принимает окончательное решение в процессе, но даже в этом случае алгоритм искажает внимание оператора в связи с огромным количеством информации. Оценивая алгоритмическую мощность, важно отметить не только решения, которые принимают алгоритмы, но также и приоритизацию, классификацию и фильтрацию информации, с которой справляются алгоритмы, сохраняя при этом интерпретируемость этой информации.
Приоритезация
Приоритезация служит для привлечения внимания к определенным вещам за счет других, например, когда поисковая система выделяет приоритеты и оценивает наиболее релевантные результаты поиска. Другим примером является то, что алгоритмы могут обеспечить более эффективное управление многими социальными данными: пожарной инспекции, полицейской деятельности, иммиграционных служб и другими. Таким образом, уделив определенной информации особое внимание, работа алгоритмов может обеспечить повышение эффективности в той или иной сфере. Но такое ранжирование рисков вызывает логичный вопрос о том, является ли такая выборка свободной от предвзятости, злоупотребления или дискриминации. Поэтому встраиваемые в каждый алгоритм условия определения приоритетности являются его критериями, по которым определяется ранжирование информации посредством процедуры сортировки. Эти критерии включают в себя набор различных вариантов предложений, которые могут иметь, например, политический подтекст или иные признаки предвзятости.
Классификация
Классификации включают в себя структурирование схожих по темам данных. Так, к примеру, идентификатор контента Google - это пример алгоритма, который принимает решения о классификации, которые используются для принятия решений о фильтрации. Он сканирует все видео, загруженные на YouTube, и классифицирует их в зависимости от наличия в них музыки, защищенной авторским правом. Если алгоритм классифицирует видео как нарушителя, он может автоматически удалить это видео с сайта, а также инициировать процесс обратной связи как с загрузчиком, так и с правообладателем. В целом, есть два типа ошибок, которые может совершить алгоритм при классификации: «ложные позитивы» и «ложные негативы». Так, в отношении контента, «ложным позитивом» будет являться видео, классифицированное как «нарушение», когда оно на самом деле не нарушает прав его обладателя и должно быть помечено как «добросовестное использование». В свою очередь, «ложным негативом» будет видео, классифицированное как «добросовестное использование», в то время как оно фактически нарушает закон правообладания. Если алгоритмы запрограммированы грамотно, таких ошибок не возникнет, но, если алгоритм настроен на ложные срабатывания, «ложные негативы» будут увеличиваться, «ложные позитивы» уменьшаться и наоборот. Таким образом, настроенный полностью на «ложные негативы» алгоритм будет отмечать все качественные видеоролики как нарушения, а алгоритм, настроенный обратным способом, пропустит все нарушающие продукты, что может быть использовано теми или иными заинтересованным сторонам при разработке кода алгоритма.
Ассоциация
Алгоритмы ассоциации основаны на критериях, определяющих связь между отдельными данными. При программировании определяется степень подобия, то есть то, насколько точно два типа данных должны совпадать, чтобы их можно было считать связанными друг с другом. Если сходство достигает определенного порогового значения, эти данные можно назвать ??связанными. Таким образом, вычисления ассоциации также подвергаются «ложным позитивным» и «ложным негативным» ошибкам, что и вычисления по типу классификации.
Фильтрация
Фильтрация подразумевает включение или исключение информации в соответствии с установленными правилами или критериями. На деле, алгоритм фильтрации часто учитывает приоритеты, классификацию или ассоциации - таким образом новости отфильтровываются и сортируются в соответствии с тем, как эти новости были классифицированы. Установки фильтрации влияют либо на чрезмерное повторение одной и той же информации, либо на ее цензуру. Понятие «пузырь фильтрации» в значительной степени основывается на идее, что только обеспечив людей информацией, с которой они уже столкнулись (в связи с ее частым повторением), возможно препятствовать развитию личного мнения и здравого смысла в оценке информации. Прямая цензура также является проблемой для новостных онлайн-платформ, так как происходит постоянное сканирование, чтение и удаление любого нежелательного контента на платформе.
Алгоритмическая подотчетность
Исходя из вышеперечисленных способов отбора информации алгоритмами, становится ясно, что в работу алгоритма заложен фактор человеческого влияния, состоящий из выбора критериев, семантики и интерпретации. Таким образом, важно рассматривать алгоритмы как объекты человеческого творчества и учитывать цели их программирования, в том числе любые институциональные процессы, которые могли повлиять на их дизайн, а также влияние человеческого фактора на интерпретацию выводов алгоритмов.
1.4 Оценка и восприятие роботизированной журналистики аудиторией и журналистами
Журналисты не в числе первых ощутили давление и возможности автоматизации. В последние два столетия периодически появлялись предупреждения о том, что автоматизация и новые технологии могут уничтожить большое количество рабочих мест среднего класса. В работе «Второй возраст машины» предложена тревожная картина возможных последствий автоматизации занятости. Авторы утверждают, что никогда еще не было лучшего времени для работников со специальными навыками и образованием и столь же худшего для работников, обладающих только «стандартными» навыками и способностями, так как компьютеры, роботы и другие цифровые технологии приобретают эти навыки с невероятной скоростью.
В 2014 г. шведский исследователь Кристер Клервал решил изучить, как читатели воспринимают контент, сгенерированный программным обеспечением и написанный журналистом. Несмотря на отсутствие статистически значимых различий из-за ограниченного размера выборки (46 респондентов), эксперимент показал интересные и неоднозначные результаты. Хотя контент, созданный программным обеспечением, воспринимался как более описательный и скучный, он также считался более информативным, объективным, точным и заслуживающим доверия. В этом исследовании респондентам также было предложено оценить, кем был написан текст - журналистом или компьютером. Из 27 респондентов, которые прочитали текст, созданный с помощью программного обеспечения, 10 ответили, что его написал журналист. Восемь из 18 опрошенных журналистов сочли текст журналистским творением, другие 10 - что текст сгенерирован программой. Таким образом, респонденты не смогли с точностью определить автора статьи - отличить текст журналиста от текста компьютером.
В другом исследовании, проведенном в Нидерландах, изучалось восприятие текстов журналистов и алгоритмов с точки зрения достоверности содержащейся в них информации. В этом исследовании приняли участие 168 человек, 64 из которых - журналисты Голландии. Участников попросили оценить уровни достоверности спортивных и финансовых новостей. Как и в предыдущем исследовании, потребители новостного контента воспринимали уровни достоверности алгоритмического и журналистского текста одинаково.
Таким образом, и аудитория, и журналисты не смогли распознать различия между новостями, написанными алгоритмом и журналистом. Подобные исследования могут свидетельствовать о том, что различные стереотипы и отношение как к алгоритмам, так и к журналистам могут давать ложные представления о новостях, написанных теми или другими.
Образ журналиста-мужчины в популярной культуре представляется довольно мужественным: он агрессивен, самоуверен, жесток, амбициозен, дерзок и циничен. Журналист-женщина более сострадательна, заботлива, сочувственна. И те, и другие боролись за преодоление этих противоречий на протяжении всего XX в., более того, продолжают это делать и сегодня. Большинство изображений журналистов дополняется многими негативными характеристиками, которые наложили на профессию журналиста определенные негативные стереотипы. Таким образом, можно предположить, что, в соответствии с негативными стереотипами и низким доверием к журналистам, можно ожидать, что общество имеет скорее благоприятное отношение к внедрению новых технологий в журналистику.
Датский исследователь Арьен Ван Дален изучил реакцию журналистского сообщества на автоматизированное создание контента, проанализировав 68 статей в газетах и блогах, в которых журналисты рассказывают об инструменте по созданию автоматизированных спортивных новостей. Исследователь отметил, что журналисты, которые писали о роботах-журналистах, не отвергли преимуществ нового развития. Сам Ван Дален объясняет, что такие выводы могут быть обусловлены тремя причинами. Во-первых, журналисты, которые писали материалы о журналистах-роботах, могут рассматриваться как ранние последователи алгоритмического направления журналистики, они открыты для перемен. Во-вторых, поскольку автоматическое создание контента в основном применяется к спортивной журналистике, а не к таким разделам, как политика или международные отношения, журналисты могут быть более терпимыми к таким изменениям. И, наконец, журналисты, которые пишут об автоматизированном анализе контента, имеют представления о том, что такая тенденция к внедрению новых технологий по-прежнему остается в значительной степени абстрактной и не имеет непосредственного влияния на их собственную работу.
Отмечается, что на данном этапе журналисты воспринимают алгоритмы как дополнение к основной работе журналиста, которое предоставит журналистам больше времени на то, чтобы сосредоточиться на расследовательской деятельности.
В целом аудитория потребления новостного контента, как и многие журналисты, имеет довольно оптимистический взгляд на исследуемые нами процессы. С внедрением алгоритмов, которые работают с основными рутинными задами, журналисты смогут сосредоточиться на задачах, требующих профессиональной подготовки и опыта, каких как расследования, лонгриды и интервью. Алгоритмы же, в свою очередь, способны генерировать новости быстрее и в большем масштабе, а также с меньшим количеством ошибок. Журналисты-роботы могут использовать одни и те же данные, чтобы написать новости на разных языках и подать их под разными углами, тем самым персонализируя их в зависимости от предпочтений отдельного читателя. Однако есть и опасения, касающиеся этого нового явления. Алгоритмы основаны на данных и предположениях, которые могут быть подвержены предвзятости и ошибкам. В результате тексты алгоритмов могут содержать неожиданные и непреднамеренные ошибки, что может привести к этическим проблемам и нарушениям.
Таким образом, в контексте изучения алгоритмов, возникают и этические вопросы, связанные с публикацией той или иной информации, ее негативного влияния на отдельных лиц, а также вопросы, касающиеся правового регулирования роботизированной журналистики. Прежде чем ответить на эти вопросы, нам представляется необходимым изучить этическое составляющие журналистики и его трансформацию в эпоху роботизированной журналистики.
Глава 2. Корпоративная редакционная этика при работе с алгоритмами
2.1 Основы журналистской этики
Этика является подразделом философии и затрагивает такие аспекты наших действий, как мораль и нравственность, их развитие, принципы, нормы и роль в обществе.
Таким образом, с целью анализа этических вопросов философами-теоретиками выделяется несколько основных направлений этики, призванных объяснить концепции морали и нравственности.
Одна из них - теория утилитаризма, согласно которой моральные ценности поведения или поступка определяются его полезностью. Другим подходом к исследованию этики является деонтологический подход, восходящий к учениям Канта. Его последователи утверждают, что мораль основана на правилах человеческого взаимодействия, вынося оценку совершенному действию, деонтология руководствуется его соответствием или несоответствием определенным правилам. Третьей является школа контрактуализма, ее теория основана на «Левиафане» Томаса Гоббса, в которой говорится о том, установление моральных норм происходит посредством негласно заключенных общественных договоров. И, наконец, еще одним подходом является этика добродетели, которая фокусируется на качествах человека. Выделяется множество разновидностей этики добродетели согласно тому, какая именно добродетель проявляется в каждом конкретном случае. Это может быть сочувствие, честность, благоразумие сочувствие, а также доброта, проницательность и мужество. Согласно теории, подобные добродетели ведут человека к самореализации, улучшая качество его жизни.
Эти теории помогают анализировать этические проблемы журналистской этики в целом и алгоритмической этики в частности. Так, подход, предложенный Аннани, сочетает в себе деонтологию, утилитаризм и этику добродетели, описывает применение этих теорий как ограничиваемыми друг другом. По его мнению, деонтология основывается исключительно на политике и правилах, утилитаризм - на развитии технологий, а этика добродетели - на индивидуальном опыте. Но при обсуждении журналистской этики и влиянии на нее производства автоматизированного контента, подразумевается более широкий подход.
Традиционная этика средств массовой информации - это форма прикладной этики, ориентированная на профессиональные составляющие средства массовой информации и ее повседневные практики, развивающаяся асинхронно с технологическими и социальными изменениями, касающимися журналистики.
Журналистика как профессия была одной из первых и наиболее организованных профессий с точки зрения этики. В процессе эволюции этическая сфера журналиста дополнялась все новыми ценностями. В начале этого пути журналистика рассматривалась как простая отчетность -воспроизведение фактов без редакционного вмешательства, основная ее цель заключалась в предоставлении информации. Были разработаны такие ценности, как объективность, нейтральность, фактическая доказуемость и роль посредника. Вследствие социальных восстаний конца XVIII и начала XIX в.в. понимание и предназначение журналистики было интерпретировано. Журналистика была призвана освещать общественные процессы, искать и излагать «правду», критиковать власть, иметь свою позицию и формировать мнения. В основу «новой» журналистики была заложена идея свободы слова, мнений и прессы. В этот период были заложены базы расследовательской журналистики, в основе которой лежала правдивость и защита источников.
Во второй половине XX в. начинается этап консолидации журналистики как профессии, создаются профессиональные организации, процедуры и правовые документы. В это время появляются первые этические кодексы, в том числе «Декларация принципов поведения журналиста Международной Федерации Журналистов», принятая в 1954 г.
Сегодня этические нормы в области журналистики определяются профессиональными кодексами СМИ, призванными защищать интересы журналиста и общественности, а также служить единым законом в решении профессиональных конфликтов. На сегодняшний день во всем мире насчитывается 242 профессиональных кодекса журналиста. Медиа-организации используют этические кодексы как средства выражения своего кредо, сохраняя свою социальную монополию и поддерживая определенные нормативные стандарты в профессии. Таким образом, этические кодексы затрагивают как средства массовой информации, так и общественность, органы власти и другие профессиональные организации.
Кодексы могут быть как частными, так и национальными или даже международными. Они могут формулируются различными группами: журналистами, общественностью, владельцами и менеджерами. Поэтому можно утверждать, что этические кодексы отражают политические и экономические характеристики общества, в котором они действуют, а также организацию средств массовой информации, для которого он был составлен.
Еще в 1979 г. Ларс Брун рассмотрел 59 кодексов и обнаружил, что тремя наиболее распространенными этическими нормами являются истина, профессиональная осторожность и объективность.
Авторы исследования 2006 г. впервые провели сравнение всех существующих 242 профессиональных кодексов журналиста, создав классификация кодексов и их контента, классифицировав их по четырем параметрам таким как графическое положение, степень свободы печати в данном государстве (в соответствии с «Декларацией о свободе печати и информации», принятой ООН в Женеве в 2003 г.), средний доход на душу населения и тип организации. Исследование показало отсутствие четкого общего разграничения норм, которые могли бы отличить журналистику от любой другой профессии, связанной с политикой, рекламой или связями с общественностью. Важным стало и то, что статьи большинства кодексов подвергаются изменениям под воздействием практики, а не наоборот.
Сегодня, несмотря на очевидное замедление роли традиционных корпоративных СМИ, мы не должны забывать, что традиционные средства массовой информации являются основными создателями информационной повестки дня. Они все еще решают, что заслуживает освещения в печати и какие темы представляют интерес для общества. Журналистика сталкивается с новыми этическими проблемами из-за появления интернета и информационно-коммуникационных технологий.
Сам процесс журналистики радикально изменился, и сегодня журналисты находятся в центре меняющегося медиа-ландшафта. Сегодня каждый может участвовать в производстве и распространении новостей, таким образом превращаясь в потенциального издателя. И это лишь одна из крупнейших трансформаций, происходящих в журналистике в последние годы. Интерактивность, гипертекстуальность, мультимедиа - все это также является особенностями цифровой журналистики, каждая из которых поднимает свои этические проблемы.
Еще в 1995 г. Тина Лайтила проанализировала 30 этических кодексов журналиста среди стран Европы, отметив, что большинство из них - 21 - были дополнены или пересмотрены 1990-х гг. Лайтила утверждает, что внедрение новых информационных технологий, а также политические изменения, такие как падение Берлинской стены или процесс европейской интеграции, стали главными причинами, в связи с которыми изменения журналистских кодексов проводились в те годы. Можно заключить, что новые этические вопросы требуют новых этических правил или, по крайней мере, изменения формулировок традиционных этических стандартов.
Таким образом, возникает вопрос о том, какую степень юридической и моральной ответственности будут нести владельцы и работники медиакомпаний за опубликованные материалы, сгенерированные техникой, и каким образом это будет регулироваться. Основываясь на общей структуре сдвигов и проблем в журналистской деятельности, в следующем пункте исследования мы рассмотрим вопросы, связанные с интеллектуальной собственностью, цифровыми манипуляциями, процессом сбора информации и ответим на главный вопрос исследования: каким образом меняются своды этических норм и редакционных стандартов медиакомпаний при внедрении автоматизированных алгоритмов по созданию новостей.
2.2 Корпоративная этика
Корпоративная или деловая этика - это форма прикладной или профессиональной этики, которая рассматривает этические и моральные принципы и проблемы, которые могут возникать в деловой среде. Корпоративная этика применяется ко всем аспектам делового поведения, а ее соблюдение касается как отдельных лиц, так и целых организаций. Нормы и ценности, содержащиеся в этических кодексах, используются для руководства бизнесом, помогая предприятиям поддерживать связь как внутри компаний, так и с заинтересованными партнерами.
...Подобные документы
Возникновение феномена гражданской журналистики в зарубежных и российских масс-медиа. Различные интерпретации термина "гражданская журналистика" в современных исследованиях. Проблемы, затрудняющие развитие гражданской журналистики в России и за рубежом.
курсовая работа [90,3 K], добавлен 21.08.2017Коммуникационная теория журналистики, ее социология и психология. Журналистика как социальный институт. Профессиональная этика и нравственность поведения журналиста. Право массовой информации в правовой системе Беларуси. Понятие политологии журналистики.
контрольная работа [21,7 K], добавлен 07.06.2011Понятие журналистики. Сущность, цели, функции, средства. История развития и становления журналистики, в том числе в России. Типы направления. Социально-политическая и экономическая ситуация обуславливающая качество журналистики в современной России.
курсовая работа [89,7 K], добавлен 28.09.2015Средства массовой информации как создатель особой реальности. Превращение деятельности СМИ в "миксерную журналистику". "Миксерная журналистика" в России. Картина мира, формируемая "миксерными журналистами". Основные правила "миксерной журналистики".
курсовая работа [72,7 K], добавлен 04.11.2013Развитие современного Интернета. Определение журналистики. Понятие и специфика интернет-журналистики. Интернет как способ общения в журнализме. Проблема свободы средств массовой информации в современной России. Закон о средствах массовой информации.
курсовая работа [41,6 K], добавлен 18.06.2012Ознакомление с историей становления военной журналистики в России. Проведение сопоставительного анализа личностей военных корреспондентов различных войн и выявление тенденции того времени. Рассмотрение ситуации с журналистикой в современном мире.
реферат [169,8 K], добавлен 04.01.2016Рассмотрение журналистики как отражения нашей жизни. Оценка процесса нагнетания проблем посредством средств массовой информации. Роль журналистики в политической пропаганде. Влияние развития техники на потребности общества и на качество журналистики.
эссе [19,2 K], добавлен 14.05.2015Определение и изучение основных особенностей аналитической журналистики: анализ формата, жанра и его организации. Состояние аналитической журналистики в России в рамках представления её как политического формата, как профессиональной области и как рынка.
курсовая работа [43,8 K], добавлен 03.12.2010Теоретическое осмысление проблем культурно-просветительской журналистики в современном обществе. Исследование профессионально-психологического портрета журналиста, работающего в сфере культурно-просветительской журналистики на примере электронного ИАР.
дипломная работа [339,6 K], добавлен 25.05.2017Профессиональный долг, ответственность, честь и достоинство журналиста, производственно-этические принципы, в которых отражены требования к его поведению. Запреты или побуждения, регламентирующие поведения журналиста, профессионально-этические нормы.
реферат [22,3 K], добавлен 27.02.2010Характеристика интернет-журналистики: особенности становления, развитие и специфика в Украине. Интерактивность как эффективный фактор реализации массовой коммуникации. Сущность веб-среды, анализ онлайн-журналистики. Обзор деятельности популярных сайтов.
дипломная работа [99,4 K], добавлен 01.09.2013Основные принципы редакционной независимости СМИ. Этический кодекс Центра журналистики стран Латинской Америки. Угрозы редакционной независимости, отношения с рекламодателями. Реклама как мощный и стабильный источник финансирования большинства СМИ.
реферат [20,7 K], добавлен 01.05.2010Определение понятия спортивной журналистики и её особенности в России. Специфика, достоинства и недостатки красноярских спортивных средств массовой информации. Анализ читательских предпочтений, выявленных методом контент-анализа и опроса аудитории.
курсовая работа [185,5 K], добавлен 23.02.2015Субъективно-объективная природа принципов журналистики. Основные теории советских масс-медиа. Ориентиры современного российского журналистского сообщества. Международные принципы профессиональной этики журналиста как базис для национальных кодексов.
реферат [18,5 K], добавлен 14.06.2009Деловая журналистика в России: функциональный аспект, этапы становления и современное состояние. Особенности рекламы и пиара в деловых СМИ. Анализ взаимодействия деловой журналистики и интернета. Общая характеристика рынка деловой информации в России.
шпаргалка [35,0 K], добавлен 22.12.2010Основные понятия, значение и функции PR. Определение журналистики, ее функции и трансформация. Информация как объект работы журналиста. Значение профессионально-этических кодексов. Место в профессиональной деятельности Кодексов профессиональной этики.
курсовая работа [44,9 K], добавлен 09.05.2014Науки-предшественницы журналистики. Этапы ее развития. Многоаспектность функционирования средств массовой информации (СМИ). Роль социологической, филологической и культурологической базы в профессионализме журналиста. Специфика работы в разных типах СМИ.
курсовая работа [46,7 K], добавлен 28.01.2012Идеологическая деятельность и формирование культур как главные функции журналистики. Определение понятия арт-журналистики и определение её места в мире современных информационных технологий. Сущность арт-критики и арт-анализа культуры и вкусов общества.
реферат [26,9 K], добавлен 31.05.2013Современная журналистика как форма коммуникативной практики. Процесс развития и интеграции системы массовых коммуникаций и глобальной сети Интернет, связь свойств информационного общества и журналистики. Становление и формирование интернет-журналистики.
реферат [17,6 K], добавлен 10.06.2010Этапы развития рок-музыки на западе и в России. Феномен "русского рока". Отечественная рок-журналистика 1980-2010 гг. Зарождение независимой рок-журналистики в период тотальных запретов и гонений. Печатные издания, аудио-визуальные и электронные СМИ.
дипломная работа [296,6 K], добавлен 03.10.2014
