Специфика корпоративной редакционной этики при работе с роботизированной журналистикой

Что вам известно об алгоритмической журналистике в целом и ее развитии в России?

- Со времен, когда только появились более-менее вменяемые компьютерные системы, стало понятно, что они хороши только в прикладном смысле. Одно из замечательных прикладных свойств - умение разбирать человеческую речь. Началось все, конечно, со спецслужб. Соответственно, все эти системы изначально создавались для того, чтобы разбирать человеческую речь и переводить звук в текст, читаемый и отправляемый. Это в те времена, когда возможности «приколотить» файл со звуком к электронной почте не было, но можно было отправить папочку специальным курьером. Сегодня это имеет гораздо более гражданское применение.

Сколько раз вы голосом просили Гугл или Яндекс что-нибудь найти или ответить на какой-нибудь вопрос. Для того, чтобы все эти системы работали, вам нужно, чтобы система понимала, что вы говорите. Соответственно, требовалось развитие чисто технологическое с двух сторон. С одной стороны - развитие технологий, которые достаточно шустро обрабатывают такие массивы информации, в которых появляется такая вещь, как машинное обучение, потому что вбить все шаблоны в одну машину невозможно, мы сами не знаем, какими шаблонами мы будем говорить через полгода. Кроме того, появилась такая вещь, как гуманизация технологий. Те компьютеры, которыми мы пользовались, например, в конце 90-х годов и те компьютеры, которые есть сейчас - это совершенно несравнимые вещи. Если бы я вам подсунула тот компьютер, на котором я писала в газетной редакции в 98-ом году, вы бы не знали с какой стороны к нему подойти. Единственное, что вы узнали бы - клавиатуру и монитор, даже мышь была другая. Большинство людей с мышкой не работало, мы знали все горячие клавиши.

Это разные системы. Тогда системы создавались для систем, сегодня они сильно гуманизированы. И получилось так, что совершенно замечательным образом развилась та самая часть, которая отвечает за гуманитарные науки прикладного свойства. В частности, появилась такая штука, как компьютерная лингвистика. Раньше это было немыслимо, как это - компьютер и лингвистика? Лингвистика - это же филологическое дело! Но сейчас - это очень серьезная наука и имеет прекрасные перспективы. Со временем «машинки» научились распознавать текст, сначала читать машинописный текст, а затем распознавать и аудио. И тут возникла одна большая проблема. Дело в том, что у разных языков очень разная структура. Например, давайте сравним прекрасную пару - немецкий и русский языки. В течение XVIII в. немецкий язык был языком науки, потому что он великолепно структурирован. По сути, немецкий язык можно свести в прекрасную, абсолютно системную таблицу. Более того, в немецком языке есть очень жесткие правила, объясняющие любые явления в грамматике и словообразовании, эти правила никогда не нарушаются. Есть четкий порядок слов, есть понятное представление о том, как изменение порядка слов меняет смысл и грамматические структуры и так далее. Попробуйте это сделать с русским языком.

У английского, который родственник немецкого языка, структура та, которая у филологов называется аналитическим языком. Например, «How do you do»? - всем известная фраза. Почему там два раза «Do you»? Потому что одно не осмысленное, оно - грамматическое. Там очень четко разграничены грамматические и семантические категории.

В русском же языке структура синтетическая. Это означает, что мы из одного слова можем слепить что угодно, преобразовывать слова при помощи префиксов, постфиксов, аффиксов, флексий и еще чертовой кучей всяческих разных «обвесов», и русский человек это поймет, а кто учил русский, как иностранный или впервые вбегает в нашу сложную грамматическую структуру, он тут же «гражданскую панихиду» закажет.

Возникла такая сложность, с одной стороны - русский язык практически не имеет диалектов. То, как мы говорим в Москве, мало отличается от того, как мы говорим во Владивостоке. Есть какие-то совершеннейшие мелочи, которые при этом не являются ключевыми в распознавании текста, именно фонетически, но грамматически - «мама дорогая!». Многие системы, которые распознают аудио-информационное расшифровывание, создавались на базе системных языков. Есть сложный язык арабский, он сложен не своей грамматической основой, грамматика у него абсолютно идеальна, он превосходно выстроен и абсолютно системен, он еще более системный, чем немецкий, он существует тысячи лет, и за тысячи лет в нем не было никаких тектонических сдвигов в грамматике, он великолепно построен, он весь просчитан. Но есть одна большая проблема, это литературный арабский, на котором никто не говорит, потому что во всякой стране язык будет отличаться в силу своей специфики. Египтянин марокканца не поймет - это два разных арабских языка, которые богаты собственными диалектизмами и совершенно разными произношениями. И, казалось бы, один и тот же язык, но они уже друг друга не поминают. Да что там далеко ходить - английский.

Если мы возьмем корректно грамматически говорящего человека из Лондона и из Ливерпуля, это будут на слух два совершенно разных языка, а если еще позовем австралийцев или новозеландцев…То, что происходит в Новой Зеландии со смещенными дифтонгами, просто любой лингвист хочется рыдать, это необъяснимо. Соответственно этим диалектам систему научили, легко научить любому произношению, потому что все эти диалекты грамматически очень простые.

С русским языком обратная ситуация, легко научить произношению, и мы вбежали в грамматику. Тут появилась такая штука, давайте придумаем, чтобы эти вот системы, раз не умеют писать этот текст, писали бы его на нужном нам языке.

Появились шаблоны?

- Нет, алгоритмизация - это не шаблоны, мы сейчас к этому придем. Алгоритм - это то, в каком порядке и что вы делаете, чтобы достичь результата. А шаблоны - это заготовки для определенных практических прикладных кейсов. В этом случае, если у вас зачесалось правое ухо, вы чешете его правой рукой, левое ухо - левой рукой, а если правой рукой вы почесали левое ухо - вы сделали неправильно. То есть алгоритм верный - чешется ухо, чеши его рукой, а шаблон не правильный. Соответственно возникла необходимость написания таких текстов сначала смеха ради, а потом - «понеслась душа в рай». Выяснилось, что есть ряд задач, которые выполнять живым людям нет нужды. Например, такая экосистема, как информационное агентство. Вы когда-нибудь видели целиком ленту любого информагентства Рейтера, ТАСС, Associated Press, Deutsche Welle? Крайне рекомендую такую ленту посмотреть. Примерно четверть этой ленты - это информация совершенно стандартного характера: прогноз погоды; когда идут выборы - отчетность по выборам; биржевые сводки. То есть, те вещи, которые повторяются из раза в раз. Как выглядела работа редактора всегда непосредственно с этими темами? Есть готовый текс, в который подбиваются нужные даты, нужные цифры, то есть обезьянья работа в самом скверном ее понимании. Тем не менее, когда работодатель нанимает редактора, он платит ему зарплату, он обеспечивает выплаты в пенсионный фонд, он платит налоги, есть также обязательства юридического свойства (если человек заболел, ему оплачивают больничный, мед. страховка и т.д.). То есть, существует целый ряд обязательств, которые существуют перед редактором, в то время, как кто-то в готовом шаблоне просто «поправил циферку». Возник резонный вопрос, а почему бы не автоматизировать этот процесс. В это же время, одной из предпосылок создания возможности автоматизированных текстов стало и то, что производители необходимой информации - биржи, избиркомы, государственные и негосударственные организации - тоже стали автоматизированными. И как только появились стандартные, изо дня в день понятные цифровые данные, тогда появилась возможность их применять в стандартных агентских текстах.

Представьте, идут выборы, неважно какие, президента Бразилии или короля Нарнии или Средиземья (условно). И вот из всех стран Средиземья начинают поступать отчеты, везде, где голосуют это делают в электронном виде, потому что Средиземье продвинутое. Одни хотят голосовать за Арагорна, другие - за Борамира (условно). У вас есть два бюллетеня: галочка - 1 и галочка - 0, каждое отвечает за своего. Вот приходят эти электронные бюллетени, столько-то единичек, столько-то ноликов, и у каждого кусочка информации, которое к вам приходит есть привязка к местности и ко времени. То есть вы знаете, откуда поступили эти данные и в какую секунду, даже сотую долю секунды они были собраны. И вы можете их не просто суммировать и выдавать, но вы еще на этом фоне можете видеть, что, допустим, данные, которые пришли в 13:30 отличаются на столько-то от данных, которые пришли в 13:35. И мы можем сравнивать заданные интервалы между собой. Круто?

Все это стекается к вам и все это можно машинно обработать. Представьте сколько времени нужно живому человеку, чтобы получить информацию из 15-ти разных участков, сложить, сравнить, написать. К тому времени, как он это сделает, информация, учитывая нашу скорость, уже просто устареет. А тут мы знаем, что каждый раз, когда приходят новые данные, мы пишем по одному и тому же образцу текст, вот нам первый шаблон. Мы создаем шаблон: столько-то отсюда, явка такая-то, к тому-то времени проголосовало столько-то. Вот все проголосовали, все собрали, сколько времени надо машине, чтобы эти данные вытащить из приходящих к ним уже готовых понятных и описанных материалов и вставить в готовый шаблончик?

Да, секунды. Вот они все проголосовали, есть все данные, в результате гонки между Борамиром и Арагорном победил Двайлен, мы получили результат, который надо обсуждать. В этой ситуации есть автоматизируемая часть и не автоматизируемая. Часть, которую можно автоматизировать - это холодные, беспристрастные, автоматически собранные, автоматически переданные и автоматически разложенные по статейкам цифры. Это та часть, в которую человек не вмешивается. Единственное, что здесь делает редактор, а здесь должен быть очень профессиональный журналист с хорошим опытом, чтобы это сделать, он создает все стандартные виды шаблонов и систему соответствия. Например, когда приходит вот такая-то информация, с такими-то данными, она должна попадать в этот шаблон, но если есть одна переменная, которая меняется так, то в другой. А вот в этом шаблоне могут быть вариативные части, которые собираются из этого, этого и вот этого, то есть, есть шаблон готовенький, а есть конструктор из частей в нем.

Это все должен сделать человек с хорошим журналистским опытом, человек, который понимает, как работают мозги у людей и как работают все эти системы. Если какую-то статистическую часть собрать поможет машина, то «почему победил Двайлен?» она не объяснит, здесь нужны человеческие мозги. Все разговоры об искусственном интеллекте прекрасны, но он пока еще не очень интеллектуален это интеллект, он старается, очень работает, но побаиваясь. Он пока не может анализировать такие вещи, как мотивацию человеческую, взаимоотношения какие-то людские и так далее. Есть сейчас какие-то такие штуки, как оценка настроения, но как она производится? Она все равно производится по тем метрикам, которые мы задали, по тем семантическим характеристикам, которые задали люди. Задали люди, что слово «жопа» плохое, и машина все время говорит - слово «жопа» плохое, а может у кого-то это ласковое название жены. И когда он говорит ей «жопка ты моя сладкая», он же ее не обижает, он же ей рассказывает, что жить без нее не может, ну не сложилось у него с другой лексикой. Более того, в украинском языке, например, есть очень нежное обращение к девушке - «рыбонька», в русском языке это звучит издевательством, хотя и то и другое славянские языки. В Суржике, в районах Малороссии, где украинский и русский языки переплелись, понять плохое или хорошее слово без контекста и ситуации невозможно. В то же время, все системы, которые существуют в социальных сетях, не улавливают тонкостей иронии, сарказма, они не всегда понимают, что ненависть может быть холодной и не обязательно для этого поливать человека «матерком», вести себя некрасиво, а можно изысканными, крайне деликатными фразами не просто в гроб уложить, но еще и гвозди сверху «позакалачивать». Машины пока этого не умеют, и слава богу, будет еще чем позаниматься, над чем поработать.

Ответственность за ошибку несет, скорее журналист, или же она возлагается на машину?

- Тут есть такой момент: машины не делают алгоритмы сами, машины не программируют себя сами, таким образом, ответственность на всех этапах лежит на людях. Ответственность человека, который разрабатывал алгоритмы. Он несет ответственность за то, как эти алгоритмы работают, насколько эти алгоритмы точны, насколько они не дискриминативны. Можно написать алгоритм, который будет вычленять, например, все слова, которые считаются ругательными по отношению к определенной группе населения, а можно, наоборот, упустить какие-то моменты. По-хорошему, должны быть какие-то системы проверки, контроля и аудита всех этих систем. То есть, условно, вот у нас робот работает в тестовом режиме, вот результаты, которые дают человеческие редакторы, при уже сложившейся системе контролей, проверок, системе выпуска, многоступенчатой вычитке, перед тем, как это дать на ленту; насколько лучше или хуже с этим справляется машина, где она делает ошибки, какие типические ошибки. То есть, на аудиторе тоже есть ответственность, на тестировщиках такая же ответственность и на людях, которые создают шаблоны и направляют это все, на них тоже вся эта ответственность лежит.

Дело в том, что очень многие ребята, которые работают в журналистике - классные журналисты, но, когда к ним подходишь и начинаешь говорить всякие слова типа «машинное обучение», «искусственный интеллект», «техническое задание», у них глаза из черепа выпадают и с криками они убегают глубоко в закат. Чтобы такого не происходило, им тоже нужно получать хотя бы базовое техническое образование. К сожалению, мы сейчас видим, что люди постарше немножечко отстраняются от этого. Они прекрасно умеют работать в команде, они умеют поставить задачи, но уметь работать с «технарями» - это отдельный навык. Это умение говорить на другом языке и ощущать мир по-другому, не только по-журналистски, но и через все цифровые потоки, которые на нас падают. Сейчас многие люди, которые просто выросли в интернете, уже рождаются с клавиатурой в руках, с портфолио в зубах, рождаются с акаунтом в фейсбуке.

Давайте поговорим об этике, этических сводах и кодексах?

- Что касается этической части вопроса, у компьютера, на том уровне, на котором он есть, на котором он существует, нет отдельно взятой морали, этики и каких-то сводов правил, то есть до истории Айзека Азимова «Я-робот», до этого уровня мы еще не доросли, потому что у компьютеров, как у таковых нет сознания и самосознания, нет ощущения самости. Знаете, что такое психологическая самость? Вот этого всего пока еще нет. Мы сейчас говорим о трех разных итерациях этики. Мы говорим об этике сбора данных, то есть если мы берем данные в обработку, мы должны быть уверены, что эти данные собраны этично, они собраны полностью, не скомпрометированы, никто не удалил какие-то важные, значимые куски, и мы должны быть уверены, что эти данные собраны не во вред кому-то.

Вторая часть - это этичность алгоритмов, о чем мы уже говорили. И третья часть - это этичность результатов выдачи - то, как мы с этими результатами поступаем, как мы с ними работаем, потому что на этапе сбора информации журналист уже должен понимать и решать, вызывает ли информация достаточно доверия, достаточно ли она проверена, действительно ли имеет все необходимые характеристики полных, независимых, этичных данных. Либо же эта информация вызывает вопросы, соответственно, неэтичный сбор информации может привести к печальным последствиям после публикации результатов. Что же касается робо-журналистики пионеров, кто прямо хорош в ней? «Рейтер», у них на ленту очень много пишут роботы. И это та самая проходная автоматизированная информация, которая абсолютно точно нужна медиа в работе, но при этом она каждый раз, изо дня в день шаблонная - одна и та же. «Bloomberg», конечно же. «Washington post» этим занимается и, насколько я помню, собственная разработка была у «New York Times».

А что с ситуацией в России?

- В России с русским языком большая засада, у нас роботы пишут неуклюжие тексты с глупыми ошибками, дебильными окончаниями и такими речевыми ляпами, что нормальный редактор, посмотрев на такой текст, спросит - «вы, что, недавно русский учите?», то есть существуют такие моменты, когда чисто технически это невозможно. Я не знаю ни одного такого российского издательства.

«Sports.ru», «Интерфакс»?

- Надо посмотреть, что у них есть из автоматизированного, думаю, что максимум - счета матчей роботы пишут, но аналитику они все-рано не сделают. Я писала ребятам в «ТАСС», спрашивала об этом, там тоже еще ничего толком нет. Еще такой момент, не существует в настоящее время ничего регламентированного в этой области, никаких стандартов де факто, как это должно происходить. Например, мы знаем, что если мы пишем какой-нибудь документ, то скорее всего мы будем писать его в ворде, получилось, что это стало стандартом, все здесь «срослось», «устаканилось». Есть какие-то стандарты для определенных документов, разработок, открытых данных и всего прочего, есть какие-то стандартные программы для выполнения этих задач. А что касается роботизированной части журналистики, пока все, у кого это есть в каком-то серьезном виде, они все занимаются проприетарной разработкой. Я полгода пыталась найти робота, который будет писать мне новости, ничего не получилось, все компании делают это под себя. Есть какой-то внутренний собственный продукт, который заточен под их нужды. А какого-то универсального инструмента, которым бы пришел, сделал, как это делают интеграторы, у которых есть стандартный коробочный продукт, который они потом аккуратненько «допиливают» под нужды конкретной конторы, с роботизированными системами для журналистики этого пока нет. Думаю, что, в первую очередь, это потому, что в этом пока еще нет денег. Как только в этом появятся деньги, туда народ прибежит, потому что роботизированные системы, например, не появлялись на телевидении очень долгое время, потому что никто не понимал, зачем в это вкладывать деньги. А когда вообще все стало цифровым, все вдруг поняли, что, если перевести всю систему в цифру, мы экономим безумное количество денег. Лучше за одну систему заплатить, чем за 150 человек с этим же старым вордом.

Получается, сегодня проще отказаться от роботизированных технологий, по крайней мере в России?

- Скажем так, многим это пока не по карману - заводить свою проприетарную разработку, кто-то в этом не видит нужды сейчас. Может у них такие потоки информации, которые не требуют такого финансового вложения, потому что поддержание любой IT-системы тоже стоит денег. Вы же не просто один раз заплатили за этого робота, и он «фигачит» себе от рассвета до заката. Нет, есть еще железная инфраструктура, ее тоже нужно поддерживать, она электричество ест, которое стоит у нас не малых денег, она требует инженеров, которые умеют это обслуживать. Нужно убедиться, что у вас в IT-штате есть люди, которые могут всю эту катавасию обслужить, а она обязательно должна поддерживаться разработчиками, потому что нет ни одного программного продукта, который работает идеально, его в принципе нет. И чем сложнее программа, тем интереснее она «глючит», это я вам как бывший IT-директор скажу. Соответственно, кроме этого нужно регулярно обновляться, потому что, как только происходит что-то новенькое, у необходимы, опять-таки, вложения. Вероятно, что мы пока не дошли до той степени, когда это окупается.

Что касается кодексов, должны ли вноситься в стандартные журналистские кодексы какие-то поправки относительно роботов?

- Здесь не совсем журналистика, здесь стыки. Есть некоторое количество организаций, которые такого рода этический кодекс пытаются выработать для себя. Например, Open Data Institute, предложил своего рода условный кодекс. Есть американская ассоциация журналистов расследовательской журналистики, которая тоже пытается такой кодекс разработать, но у них пока тоже нет единого этического кодекса, потому что это стык двух дисциплин. Если смотреть на этику машинной обработки данных, то надо смотреть на науку, в частности, например, очень давно занимаются машинной обработкой данных медики и психологи. Понимаете, насколько у них чувствительные данные, не дай бог это все куда-нибудь выльется или будет неверно трактовано, если будут применяться предвзятые алгоритмы и так далее. Вот у них есть попытки весьма удачные создать такие этические кодексы, но они не во всем транслируются в журналистику. Поэтому сейчас собственно дискуссия об этом открыта. В России пока так.

Никак?

- В общем, да. Когда я прихожу к ребятам, к большому интегратору, и говорю - «ребята, а вот у вас данные, которые вы показываете в презентации, где вы их взяли?», - «А вот в интернете лежат». Ну как же так, да мало ли оно чье? Они отвечают: «Раз в интернете есть - значит для всех». А это не так. Есть какие-то вещи, которые надо обсуждать, об этом договариваться. Если в странах, где такие практики существуют гораздо дольше, отсутствие регуляции в этих практиках уже начинает нести негативные последствия, то мы к этому еще не пришли. Поэтому у нас и разговоров пока про это нет, практика не настолько распространена. Но думаю, что, когда это станет какой-то кипящей материей, бурлящей, которая захлестывает все на своем пути и срывает шапки вместе с головами, вот тогда по принципу «жареный петух клюнул» появится какая-то жесткая, стройная, согласная система.

По поводу обучаемости интеллекта в алгоритмах, как вы думаете, это скоро наступит? Может Россия перепрыгнет этот алгоритмический этап?

- Чисто технологически, это прекрасная утопия. Человечество постоянно приходит к разным интересным новым находкам, и что происходит в закрытых IT-лабораториях мы с вами не знаем, на то они и закрытые. Вы же понимаете, что какой-нибудь Гугл переводчик, который переводит тексты налету это лишь консьюмерская часть разработок, которые нам показывают крупные компании. На самом деле, они живут в гораздо более высокотехнологичном мире в своих лабораториях. То, что происходит там, я полагаю, что оно на пару поколений получше того, что ест у нас. Другое дело, что вещи, которые в конце концов превращаются в консьюмерский продукт, они должны пройти довольно долгий путь от этой лаборатории, где создание технологий бесконечно долго и дорого, до того самого консьюмерского продукта, который распространен и дешев. Он дешев в производстве, в поддержании, обновлении и утилизации, то есть весь жизненный цикл каждого из этих технологических продуктов он должен пройти. Другое дело, не у всех жизненный цикл одинаков, и по длине, и по составу, но, тем не менее, мы к этому идем. Но какие-то есть вещи, которые надо преодолевать. Плюс ситуация, в которой находятся компьютерные лингвисты, она с одной стороны крайне завидная, потому, что это фантастически интересная тема для исследований, с другой - она вообще не завидная, потому что им приходится работать с материалом, который меняется у них на глазах. Это довольно сложно, как мне кажется, но чертовски интересно.

Приложение 2. Экспертное интервью с руководителем отдела «Интернет и СМИ» интернет-издания Lenta.ru Анастасией Евтушенко