Социальные боты — технология, стоящая за фальшивыми новостями

Что такое социальный бот? Этот термин особенно часто использовался в связи с онлайн-дискуссиями о Brexit, а также с избранием Дональда Трампа президентом США. Социальные боты — это роботы, влияющие на дискуссии в социальных сетях. Но действительно ли их влияние так велико? Что такое социальные боты и как они работают?

Социальные боты имитируют человеческих пользователей в социальных сетях. Если они не указывают, что являются машинами, то считаются поддельными аккаунтами. Многие пользователи вводятся в заблуждение, поскольку они видят правдоподобную информацию в профиле и полагают, что общаются с людьми. Этот тип ботов часто используется для распространения мнений в социальных сетях или для стимулирования дискуссий в интересах их операторов.

Компании иногда используют социальных ботов в маркетинговых целях — например, чтобы сымитировать популярность определенных товаров, чтобы побудить больше людей их купить. Они также иногда пишут поддельные положительные отзывы о товарах. Они также могут служить политическим целям, поскольку влияют на общественные дискуссии, представляя взгляды определенных партий или политиков. Чтобы дискредитировать политического оппонента, социальные боты часто распространяют информацию, не соответствующую действительности. Поэтому неудивительно, что эта технология часто обсуждается в сочетании с такими эмоциональными словами, как «фальшивые новости», «язык ненависти», «пузыри фильтров» или «петли обратной связи».

Поляризующий эффект социальных ботов затрагивает как журналистов и медиакомпании, так и представителей гуманитарных и социальных наук. Более того, в связи с растущей значимостью социальных сетей, в настоящее время сформировалась отдельная индустрия, которая зарабатывает деньги на разработке и использовании социальных ботов. Использование социальных ботов является легальным, что делает технологию социальных ботов в интернете прибыльным бизнесом.

Однако не стоит так быстро отворачиваться от этой технологии. В конце концов, ее можно использовать с пользой, не обязательно распространяя ложную информацию или манипулируя мнением других людей — например, в качестве чат-программы на сайтах компаний, отвечающей на вопросы клиентов.

Чтобы понять, чем опасны социальные боты и как их распознать, необходимо знать, как работает технология ботов. Далее следует краткое описание того, что такое бот, и объяснение существующих типов ботов.

Бот (сокращенная форма от «робот») — это автоматизированная программа, которая запрограммирована на определенные действия и выполняет их либо регулярно, либо реактивно. Бот делает это без участия человека. Он анализирует окружающую среду и «решает», какие действия предпринять в зависимости от ситуации.

Различные типы ботов иногда сильно отличаются по своей технической сложности. Спектр варьируется от простых алгоритмов до очень сложных технологий искусственного интеллекта. Если бот работает с искусственным интеллектом, он даже способен обучаться: он исследует свое окружение и адаптируется к нему.

В зависимости от функции, бот обычно не распознается человеком и выполняет свои задачи незаметно, в фоновом режиме, или же представляется человеком (т.е. имитирует человеческое поведение). Ниже более подробно описаны некоторые типы ботов:

• Веб-краулер: Они относятся к категории ботов, которые работают совершенно незаметно. Обычно они используются поисковыми системами для просмотра Интернета, анализа веб-сайтов и последующего внесения этой информации в поисковые каталоги. Обычно они действуют «невинно» в рамках общепринятых стандартов (таких как Стандарт исключения роботов). Другие веб-краулеры действуют за пределами этих стандартов и собирают несанкционированные данные в сети.

• Чат-боты: В отличие от веб-краулеров, чат-боты являются реактивными, то есть они реагируют на действия человека и специализируются на осмысленном ответе другим участникам чата. В повседневной жизни чат-боты встречаются в основном в качестве цифровых помощников. Например, помощник на сайте может провести посетителя по сайту или ответить на вопросы о теме сайта или о том, что он предлагает. Языковые помощники, такие как Siri или OK Google, или внешние языковые помощники, такие как Amazon Echo или Google Home, также основаны на технологии чат-ботов.

• Виртуальные компьютерные игроки: В виртуальных компьютерных играх также требуются виртуальные актеры, которые гибко реагируют на действия человека. Эти действия выполняют боты. Их называют неигровыми персонажами (ролевые игры), ботами-целителями (экшн-игры), ботами-покеристами (онлайн-покер) и так далее. Эти боты являются реактивными и все чаще работают с технологиями искусственного интеллекта. Хорошим примером является искусственный интеллект Google, который называется AlphaZero. Он преуспел в шахматах, а также в настольной игре Го. Подобные интеллектуальные технологии используются и в компьютерных играх — в виде ботов.

• Социальные боты: Это боты, которые скрытно используются в социальных сетях. Они одновременно повторяют и реагируют: Они ставят лайки, комментируют, ретвитят, пытаются спровоцировать или вовлечь других в разговоры и обсуждения. Они симулируют человеческую личность, чтобы пользователи реагировали на них естественно.

Веб-краулер и чат-бот считаются двумя основными типами ботов. Современные типы ботов часто объединяют свои основные функции: анализ скрытых данных от веб-краулера и имитацию человеческого общения от чат-бота. Социальные боты также опираются на эти две основные функции.

Социальный бот — это автоматическая программа, имитирующая поведение человека в социальных сетях. Социальные боты участвуют в дискуссиях в Twitter или Facebook и ведут себя как человеческие пользователи. Они распространяют контент на определенную тему в социальных сетях — в основном для того, чтобы повлиять на мнение людей.

Социальные боты обычно используются в маркетинговых или политических целях. Нередко социальные боты распространяют фальшивые новости. Чтобы повлиять на общественное мнение, социальный бот использует методы, которые типичны для ботов и применяются другими типами ботов. Они ищут в социальных сетях обсуждения на заранее заданные темы (оценка данных, как и веб-краулеры) и воздействуют на них в качестве виртуального участника беседы (имитация разговора, как у чат-бота).

По своим функциям социальные боты очень похожи на чат-ботов или цифровых помощников — они используются для общения с людьми. Но есть одно принципиальное отличие: если чат-боты обычно похожи на консультационную службу, которая помогает партнеру по диалогу, то социальные боты призваны обманывать и манипулировать. И если чат-боты могут выполнять свою функцию, даже если их воспринимают как технические программы, то для социальных ботов обман других участников сети необходим, чтобы влиять на общественное мнение.

Существует множество примеров манипулятивного использования социальных ботов. Только в 2016 и 2017 годах использование социальных ботов было зафиксировано почти на всех крупных публичных выборах. В частности, широко обсуждались социальные боты в связи с их влиянием на голосование по Brexit, президентские выборы в США, а также парламентские выборы во Франции и Германии.

• Голосование по Brexit: В июне 2016 года большинство граждан Великобритании приняли решение о выходе из ЕС. До этого в социальных сетях велись бурные дискуссии — и было отмечено, что в них также участвовало множество социальных ботов. The Independent сообщила, что социальные боты сыграли важную стратегическую роль, особенно когда дело дошло до голосования «за выход».

• Президентские выборы в США: В ноябре 2016 года Дональд Трамп был избран 58^58-м президентом Соединенных Штатов. Появилось много информации о том, какое влияние оказали социальные боты на его победу на выборах. По данным Оксфордского университета, автоматизированные боты, поддерживающие Трампа, преобладали над сообщениями, поддерживающими Клинтон. Очевидно, что каждый третий твит в поддержку Трампа был сделан ботом. Также было распространено фальшивое сообщение о том, что Папа Римский рекомендовал Трампа для избрания, и этим сообщением поделились почти миллион раз — в том числе и социальные боты. Но также было зарегистрировано использование социальных ботов, поддерживающих Клинтон.

• Парламентские выборы в Германии: В свете того, что произошло в предыдущем году в Великобритании, многие люди были обеспокоены тем, что социальные боты могут повлиять на федеральные выборы в 2017 году. В результате все участвующие партии выступили против их использования в избирательной кампании, несмотря на то, что социальные боты не являются незаконными в Германии. К счастью, вмешательство ботов в социальных сетях было незначительным. Однако из-за относительно небольшого количества пользователей Twitter в Германии, их охват также был меньше, поэтому в Германии в любом случае используется меньше ботов.

Влияние социальных ботов на исход выборов обсуждалось неоднозначно. В частности, о голосовании по Brexit и неожиданном избрании Трампа в течение нескольких месяцев писали в прессе. Многие подозревали, что социальные боты использовались в качестве тайных помощников при голосовании до того, как эти выборы состоялись. Последствия социальных ботов и фальшивых новостей очевидны: они приводят к большой потере доверия к цифровой коммуникации.

Социальный бот обычно публикует сообщения, используя поддельный аккаунт — с собственной фотографией профиля, постами и хорошим количеством подписчиков или «друзей». Социальный бот использует этот аккаунт для распространения своих маркетинговых сообщений или политических заявлений. Это может быть сделано через лайки и ретвиты или в виде постов или комментариев. Используя интерфейс программирования (API), социальный бот может получить доступ к социальным сетям, получать и отправлять данные.

Социальные боты обычно работают в то время, когда другие пользователи более активны. Кроме того, они обычно публикуют сообщения через разные промежутки времени, чтобы создать впечатление, что это человек, хотя на самом деле за всеми сообщениями стоит машина.

Социальный бот также может отправлять запросы на добавление в друзья. Если запрос подтверждается человеком, социальный бот может собирать и анализировать данные пользователя. Еще в 2011 году канадское исследование показало, что социальные боты способны собирать данные и анализировать информацию об аккаунтах пользователей, которые приняли их запрос на дружбу.

Многие социальные боты программируются с помощью простых алгоритмов, основанных на простых утверждениях «если… то…»: Если была определена релевантная тема, то социальные боты публикуют заранее запрограммированный контент. Для поиска релевантных тем социальные боты используют простой поиск по ключевым словам и сканируют ленты Twitter или посты Facebook в поисках конкретных формулировок и хэштегов. Затем они публикуют заранее написанные тексты в качестве заявлений или пытаются направить разговоры в определенное русло.

Однако существуют также социальные боты, которые технически гораздо сложнее. С помощью искусственного интеллекта, всестороннего анализа данных и анализа текста эти интеллектуальные социальные боты постоянно генерируют новые комментарии, которые отличаются от предыдущих. Иногда эти боты могут даже ссылаться на события текущего дня. Обычно они собирают свои посты из различных онлайн-текстов, которые они просто переставляют. Эти более сложные социальные боты труднее разоблачить.

Однако роботы не могут работать эффективно, пока они не связаны друг с другом: Если множество ботов координируют свои действия друг с другом в так называемой бот-сети, они распространяют информацию еще более эффективно. Например, социальные боты могут ставить лайки и делиться сообщениями, написанными другими социальными ботами. Чем больше таких аккаунтов, тем больше растет их влияние.

Чтобы разработать простого социального бота, вам не нужны особые технические навыки: Вы можете создать своего собственного социального бота без каких-либо предварительных знаний в области программирования, если только вы используете правильные инструменты. Так же легко получить доступ к поддельным учетным записям пользователей, поскольку их можно легко воссоздать с помощью генераторов, доступных в Интернете — или оператор может просто купить существующие поддельные учетные записи. Даже программное обеспечение для управления этими аккаунтами теперь можно приобрести в Интернете. Через программный интерфейс бот получает доступ к Twitter или Facebook, где он реагирует на заранее заданные хэштеги или ключевые слова. Технология легкодоступна, что в значительной степени способствует быстрому распространению социальных ботов.

Однако распространение облегчают и сами социальные сети, поскольку Facebook и Twitter намеренно поддерживают относительно легкий доступ к своим интерфейсам программирования, чтобы стимулировать разработчиков приложений продолжать работу над новым программным обеспечением для своих платформ. Но это также означает, что социальные боты без труда пользуются этим. Особенно легко получить доступ к Twitter, поэтому большинство ботов можно найти именно там.

Но есть и меры, которые можно принять, чтобы ограничить возможности социальных ботов. Таким образом, можно создать технические барьеры, которые предотвратят или, по крайней мере, усложнят создание поддельных аккаунтов. Определив IP-адрес бота, вы можете заблокировать его, чтобы он не получил доступ к сети.

Многие платформы используют капчи для защиты от социальных ботов. Капчи — это короткие тесты, которые люди обычно могут пройти без проблем, но многие боты испытывают с ними трудности. При использовании капчи пользователь обычно должен ввести графически измененную последовательность цифр, которая не может быть прочитана машиной. Чем сложнее запрограммирован бот, тем выше вероятность того, что он сможет решить простые капчи.

Основные функции социальных ботов всегда одинаковы, но в зависимости от их функций их можно разделить на три категории: перегрузчик, трендсеттер и автотролль.

1. Перегружатель: Это бот, который буквально наводняет онлайн-беседу своими комментариями. Он публикует одни и те же высказывания снова и снова, в результате чего другие сообщения вытесняются из поля зрения. Перегрузчик действительно эффективен, только если он работает вместе с другими ботами. Когда ботнет перегружает пост лайками и комментариями, пользователи-люди быстро теряют контроль над дискуссией. После этого обмен контентом таким образом становится невозможным.
2. Трендсеттер: Законодатели моды также лучше всего работают в команде: Если большое количество социальных ботов вместе используют хэштег, они могут легко распространять сообщения, относящиеся к теме хэштега. Если тема становится трендовой в Twitter или Facebook, ее может подхватить пресса. Таким образом, боты-трендсеттеры искажают реальную актуальность выбранной тематической области: Они добиваются того, что маргинальные явления выглядят как революционные тренды, а небольшие группы — как крупные общественные движения.
3. Автотролль: Автотролль действует в одиночку. Он пытается отвлечь пользователей, которые высказываются по определенной теме, и пытается вовлечь их в разговор. Обычно он делает это с помощью противоречивых заявлений, что заставляет пользователя отвечать. Это отвлекает пользователя от первоначального разговора, и новый разговор становится полемичным и острым. Используя этот метод, боты могут легко помешать пользователям обмениваться контентом.

Трудно определить, кто на самом деле стоит за социальным ботом. До сих пор не существует метода, который мог бы точно идентифицировать поддельные аккаунты. Поэтому еще сложнее отследить ответственного оператора. Однако существует примерно четыре группы, которые могут извлечь выгоду из использования социальных ботов:

1. Социальный маркетолог/инфлюенсер: Малые и крупные компании могут использовать социальных ботов для скрытого маркетинга. Как влиятельный человек, вы хотите использовать этих ботов, чтобы запустить тренды и повлиять на них. Информация о целевой группе также может быть получена с помощью социального бота, поскольку если вы подтвердите запрос бота в друзья, он получит полный доступ к данным, хранящимся в вашем профиле.
2. Политические деятели: Лоббистские группы или политические деятели также подозреваются в использовании социальных ботов. Например, американские спецслужбы подозревают, что российские хакеры стояли за множеством фальшивых аккаунтов и социальных ботов во время предвыборной кампании в США. Однако от кого исходила атака — от преступников или от российского правительства — пока неясно.
3. Люди, заинтересованные в формировании общественного мнения: Есть пользователи, которые хотят влиять на мнение других людей с помощью социальных ботов. Это могут быть отдельные люди, группы, организации или преступники. Третья группа — совокупность людей, которых трудно идентифицировать, — вероятно, самая большая из всех упомянутых здесь групп. Эти люди используют ботов в интересах какой-либо партии или для повышения осведомленности об определенных проблемах — или просто для создания проблем. Распространение левого или правого экстремистского контента довольно часто является целью. Поскольку эта группа настолько неоднородна, не так просто назвать одно конкретное намерение.
4. Те, у кого нет узнаваемых интересов: Существует ряд таких же «безобидных» социальных ботов, которые, например, оставляют безумное количество лайков на комментариях к «Звездным войнам». Подобные боты не преследуют никаких узнаваемых политических или экономических целей. Предположительно, тем, кто стоит за ботами, просто нравится троллить других.

В большинстве случаев цель социальных ботов — влиять на мнения и тенденции в социальных сетях.

Однако существует дискуссия о том, насколько хорошо социальные боты выполняют свои задачи. В конце концов, многие эксперты сходятся во мнении, что социальные боты не очень хорошо справляются со своей работой и поэтому имеют мало влияния на пользователей социальных сетей. В статье из UX Magazine объясняется, почему ботов переоценивают, поскольку они имеют ограниченный диапазон ответов и дают жесткие ответы, что выдает их с головой.

Существует единое мнение, что работа социальных ботов нуждается в более тщательном исследовании. Поэтому можно предположить, что в ближайшие годы социальные исследования дадут более точные результаты. В профилактических целях более детальное исследование этой техники имеет смысл: Хотя в настоящее время многих ботов все еще легко разоблачить, это не означает, что технически продвинутые боты являются таковыми. Это увеличило бы потенциал ботов. Поэтому необходимо разрабатывать стратегии решения проблемы на ранней стадии, чтобы иметь возможность реагировать на технический прогресс.

Идентифицировать социального бота стало намного сложнее, поскольку их сложность возросла. Однако существует ряд вопросов, которые вы можете задать себе при работе с аккаунтами социальных сетей, чтобы понять, имеете ли вы дело с человеком или нет:

1. Насколько вероятно, что человек создал этот профиль? Вы можете получить подсказки по фотографии профиля, возрасту аккаунта или соотношению количества подписчиков к количеству аккаунтов, за которыми они следят. Это связано с тем, что боты обычно следят за большим количеством аккаунтов, не имея при этом большого количества подписчиков. Если у аккаунта всего два или три друга, вероятность того, что это бот, достаточно высока. Выглядит ли фотография профиля как уникальный снимок или как фотография профессиональной модели, которую бот мог найти где угодно в Интернете? То, насколько связно написан текст профиля, также может показать, имеете ли вы дело с человеком или нет. Также следует проверить, когда был создан аккаунт. Многие боты разрабатываются незадолго до использования и поэтому имеют совсем свежие аккаунты.
2. Что размещает аккаунт? Если аккаунт постоянно публикует похожие сообщения — со ссылками на одни и те же медиа или практически одинаковыми словами — это, очевидно, бот, который пытается начать разговор на определенную тему. Неестественный язык или обычные грамматические ошибки также указывают на то, что это работа бота. Как правило, боты больше публикуют, чем комментируют.
3. Как часто аккаунт публикует сообщения и как часто ему нравятся другие сообщения? Дальнейшие выводы можно сделать на основании частоты активности аккаунта в социальных сетях. Исключительно большое количество постов, лайков и ретвитов так же заметно, как и постоянное количество постов в день. Также следует обратить внимание на время реакции аккаунта: если аккаунт отвечает и публикует посты спустя всего несколько секунд, это явный признак того, что за аккаунтом не стоит человек.
4. Как аккаунт реагирует на контекстные вопросы? Один из самых надежных методов выявления бота — задавать контекстные вопросы. Это вопросы, на которые нужно отвечать по-разному в зависимости от ситуации. Социальным ботам трудно мыслить пространственно. Если бота спросят: «Как выглядит фотография профиля пользователя над вами?», ему будет сложно ответить на этот контекстный вопрос.

И последнее, но не менее важное: всегда имеет смысл помнить, как работают различные социальные боты. Если вы столкнулись с «перегружателем» или «автотроллем» и стали свидетелем их тревожного поведения, не позволяйте себя провоцировать. Даже если аккаунтом управляет не бот, лучше игнорировать его и конструктивно обсуждать пользователя с другими пользователями. Таким образом, влияние социальных ботов И людей-возмутителей спокойствия уменьшается.