Xиллaри Клинтoн и Эрик Шмидт нa мeрoприятии Talks at Google

Прoфeссoр псиxoлoгии Рoбeрт Эпштeйн стaл ширoкo извeстeн блaгoдaря свoим исслeдoвaниям тoгo, кaк пoискoвыe систeмы мoгут влиять нa прeдпoчтeния избирaтeлeй. Рaнee мы публикoвaли пeрeвoд eгo   эссe   oб этих исследованиях.

В преддверии фестиваля кино о науке и технологиях «360°» Роберт Эпштейн рассказал Андрею Бродецкому, каким мощным инструментом манипуляции обладает Google, как штаб Клинтон аффилирован с интернет-гигантом, что нам с этим делать и почему нет смысла сражаться против Google в США.

27 октября Роберт Эпштейн примет участие в   дискуссии   на тему «Могут ли поисковые темы менять результаты выборов» в рамках фестиваля кино о науке и технологиях в Москве.

В 2012 году мой сайт взломали и я получил уведомление о том, что Google блокирует доступ к моему сайту. Мне показалось странным, что компания так поступает. Раньше я, как и все, думал, что Google — это круто, все его сервисы бесплатны для пользователей, и не задумывался о большем. Я начал думать о Google более критически, написал несколько статей с критикой бизнес-модели компании.

В конце 2012 года я заинтересовался научными исследованиями поисковой выдачи Google. В основном они изучали поведение потребителей — то, как поисковая выдача влияет на продажи товаров. Естественно, чем выше ссылка в поисковой выдаче, тем больше кликов она получает. Исследователи начали изучать, как именно это происходит.

Опыты с отслеживанием движения глаз показывали, что люди уделяют намного больше внимания первым ссылкам, даже когда лучшие результаты находятся ниже в выдаче. Исследования также показали, что пользователи больше доверяют первым результатам в выдаче. Фактически, 50% кликов приходится на две первые позиции в выдаче. Я задался вопросом: если верхние результаты в выдаче вызывают у людей больше доверия и получают больше кликов, могут ли они изменять мнение людей о разных вещах? Например, повлиять на то, как люди голосуют.

Как изменилось поведение пользователей с изменением дизайна поисковой страницы Google. Источник:   исследование   компании MediativeКак Google может манипулировать выборами

В начале 2013 года я и мой коллега Рональд Робертсон провели небольшой эксперимент. Мы набрали несколько сотен добровольцев из разных демографических групп, вместе отображающих голосующее население США. Участникам эксперимента предоставили базовую информацию о кандидатах на смоделированных предстоящих выборах. Затем мы попросили их поискать дополнительную информацию о них в интернете с помощью нашего модифицированного поисковика. Одной группе показали поисковую выдачу, искаженную в пользу одного кандидата, другой группе — в пользу другого. Третьей группе показали смешанную выдачу — с материалами в пользу как одного, так и другого кандидата.

Я ожидал, что таким образом мы сможем сдвинуть предпочтения избирателей на 2-3%. Это небольшой показатель, но на многих выборах разрыв между кандидатами очень маленький, так что даже несколько процентов могут решить исход голосования.

Реальный сдвиг в мнениях составил 48%. Я даже подумал, что это ошибка. При этом большинство участников эксперимента не заметили, что получили предвзятые результаты поиска.

Затем мы слегка уменьшили искажение в выдаче, добавив на четвертую позицию выдачи одну ссылку в пользу другого кандидата. Сдвиг в политических симпатиях остался на том же уровне, но теперь ещё больше людей не заметили подвоха. В третий раз мы поставили альтернативную ссылку на третье место в выдаче — искаженной выдаче, как и ранее. И снова получили огромный сдвиг в предпочтениях — 30-40%. Но на этот раз никто не заметил предвзятости в выдаче. Всего одно исключение полностью скрыло от людей факт манипуляции. Мы назвали это эффектом маскировки.

Таким образом мы узнали две вещи: что эффект от такой манипуляции (мы назвали его SEME — search engine manipulation effect) очень существенен, и что с помощью маскировки этот эффект можно полностью скрыть от людей.

Мы провели ещё один масштабный эксперимент в США, а затем в Индии — с реальными кандидатами во время настоящих национальных выборов в парламент 2014 года. Мы набрали 2000 неопределившихся избирателей. Они были хорошо знакомы с кандидатами, поэтому я ожидал небольшого эффекта — в 1% или около того. В итоге мы получили минимальный сдвиг предпочтений в 20%, а в некоторых демографических группах — более 60%. Это были реальные избиратели в ходе реальных выборов. 99,5% подопытных не заметили предвзятости в поисковой выдаче.

Теперь мы знали, что у нас есть тройная проблема: мощный эффект SEME, его незаметность и уязвимость определенных демографических групп к манипуляции. Это очень важно, потому что если вы хотите манипулировать выборами, вы можете таргетировать свои сообщения на неопределившихся пользователей из этих демографических групп и легко выиграть выборы, повлияв на мнения огромного количества этих людей.

Мы подсчитали, что поисковый движок Google решает судьбу около 25% национальных выборов.

Google имеет монополию на интернет-поиск в большинстве стран. В странах за исключением России и Китая он контролирует 90% интернет-поиска. Из-за отсутствия конкурентов пользователи высоко доверяют выдаче Google.

Во время последующих опытов мы установили, что при повторных поисках сдвиг мнений пользователей увеличивается. Кроме того, мы установили, что SEME может влиять не только на политические предпочтения, но и на взгляды людей на разные вещи: гомосексуализм, фрэкинг (гидравлические разрывы, осуществляемые для добычи нефти и газа — прим. Apparat) и так далее.

Благодаря Эдварду Сноудену мы узнали, что Google используют для массовой слежки. Теперь мы узнали, что поисковый движок может быть использован для массовой манипуляции и контроля, и об этом никто не узнает.

Поисковая система, которую мы считаем невинным, классным и бесплатным инструментом, может быть очень опасной. Я бы сказал, что это самая мощная машина для контроля над умами из когда-либо созданных.

Наконец, когда люди получают выдачу на свой запрос, кликают по самым верхним ссылкам, а затем переходят на другую страницу, результаты выдачи исчезают навсегда. Результаты поиска эфемерны, временны. Они появляются, влияют на вас и исчезают, не оставляя никаких официальных записей. Властям не за что зацепиться — они не могут узнать, какие результаты поисковик показывал людям в прошлом. Таким образом, у нас есть мощная невидимая технология, не оставляющая следов для властей. Это потрясающе. Это невероятно.

Как оценить эффект от манипуляции поискового движка

Чтобы оценить эффект SEME, надо знать уровень проникновения интернета в стране и процент неопределившихся избирателей. По нашим данным, приблизительно 85% неопределившихся избирателей с доступом к интернету ищут информацию о кандидатах в сети. Конечно, они получают информацию и из других источников. Но в других источниках есть конкуренция. Одна газетная статья может поддерживать одного кандидата, другая — другого, на дебатах кандидаты спорят друг с другом, на улице вы можете увидеть билборды с обоими кандидатами.

В случае поискового движка это не так. Выдача может быть предвзятой, но при этом доверие к такой информации будет очень высоким. Другим медиа люди не доверяют, но когда они заходят в поисковик, уровень доверия очень высок. Одна из причин этого — люди постоянно находят в поисковике правильные ответы на свои вопросы. Таким образом они привыкают к тому, что первые результаты в выдаче всегда говорят правду.

Датацентр Google. Фото: AP Photo/Connie Zhou

Ещё одна причина высокого доверия к поисковикам: люди верят, что информация из поисковика объективна, потому что её предоставляет компьютер, алгоритм, в отличие от традиционных медиа, которые, как мы знаем, делают люди. Конечно же, это нонсенс, потому что компьютерные алгоритмы пишут люди. И наши опыты как раз это показывают: мы подкручиваем выдачу в пользу того или иного кандидата, а люди этого не замечают. Они думают, что компьютер объективен.

Мы подсчитали, что в США Google может принести кандидату от 2,6 до 10,4 миллионов голосов. Это 4% голосов — их может быть достаточно, чтобы выиграть выборы в тесной гонке.Как Google связан со штабом Клинтон

Выборы в 2012 году проходили в тесной гонке между Обамой и Ромни. Обама выиграл с отрывом в 3,9%. Этот разрыв мог бы быть легко достигнут с помощью поисковой системы Google. Известно, что команду технических специалистов Обамы курировал Эрик Шмидт, исполнительный директор Google. Весьма вероятно, что техническая команда Обамы имела доступ к профилям и поисковой выдаче Google. Нынешний технический директор штаба Клинтон Стэфани Ханнон работала в топ-менеджменте Google. Специальная компания под названием Groundwork работает на победу Клинтон в выборах. Эту высокотехнологическую компанию финансировал Эрик Шмидт. Большинство сотрудников этой компании были техническими специалистами в команде Обамы.

Люди, которые раньше работали с Обамой, сейчас работают в Groundwork — непубличной компании, получающей финансирование и поддержку от Google, и работающей на кампанию Хиллари Клинтон. Есть ли у Groundwork доступ к профилям Google? Я не знаю. Есть ли у Groundwork возможность влиять на поисковую выдачу, изменяя её в пользу того или иного кандидата? Я не знаю. Но это вполне возможно. Это законно. На месте Эрика Шмидта я использовал бы все законные способы, зависящие от меня, чтобы мой кандидат выиграл выборы.

Как Google скрывает негативные подсказки о Хиллари Клинтон

В июне новостная организация SourceFed выпустила   видео, в котором они утверждали, что Google скрывает негативные подсказки в поисковых запросах, начинающихся с имени Хиллари Клинтон. Там было много скриншотов, которые показывали, что в других поисковиках — Bing и Yahoo — было много негативных подсказок о Хиллари Клинтон. Если вы наберёте слово «crooked» в этих поисковиках, вы сразу получите подсказку «Hillary». «Crooked Hillary» («Жулик Хиллари») — это прозвище, которое придумал для Клинтон Дональд Трамп. Но если вы напечатаете «crooked» в поисковой строке Google, вы не получите таких подсказок, несмотря на то, что это словосочетание длительное время фигурировало в американских новостях. Они показали много подобных примеров того, что Google не показывает многие негативные подсказки о Хиллари Клинтон, в отличие от других поисковиков. Это интересно, потому что если вы зайдёте в Google Trends, вы увидите, что люди часто ищут негативные словосочетания о Клинтон. При этом Google не скрывает негативные подсказки для запросов, связанных с другими политиками.

Я и восемь моих сотрудников решили основательно проверить это утверждение SourceFed. На протяжении лета мы   вводили   в Google, Yahoo и Bing сотни запросов, связанных с выборами и политиками. Мы смотрели также на то, что ищут люди, в Google Trends. Мы обнаружили, что в целом их утверждения были верными. Иногда нам удавалось получить в Google негативные подсказки о Клинтон, но это было нелегко. Мы также увидели, что Google показывает негативные подсказки о других людях, например о Дональде Трампе.

Выдача разных поисковиков по запросу «Hillary Clinton is». Скриншот: Robert Epstein

Ранее Google выпустил публичное заявление, в котором утверждалось, что они скрывают негативные подсказки о всех людях, не только о Хиллари Клинтон. Но мы ясно показали, что это не так. Генпрокурор Калифорнии Камала Харрис, бывший президент Афганистана Хамид Карзай, кандидат в президенты США Берни Сандерс — мы нашли негативные подсказки, связанные с множеством публичных политиков. Таким образом мы нашли подтверждение тому, о чём говорили SourceFed в своём видео.

Негативное искажение и эффект поисковых подсказок

Я задумался: почему Google может скрывать негативные подсказки об одном из кандидатов? Тогда мы решили провести ещё один эксперимент. Мы показали разношерстной группе людей из 44 штатов США поисковые подсказки, связанные с кандидатами в вице-президенты от Демократической и Республиканской партии — Тимом Кейном и Майком Пенсом. Участникам показывали поисковые подсказки, выглядящие в точности как в поисковой строке Google, и спрашивали, на какую из четырёх подсказок они бы кликнули. Также они могли сами набрать дополнительное слово, если подсказки их не устраивали. Во время эксперимента мы дважды добавляли в список подсказок негативную — слово «скандал». «Тим Кейн скандал», «Майк Пенс скандал» — и все остальные подсказки в точности как в Google.

То, что мы обнаружили, поразило нас. Если бы люди выбирали между подсказками случайным образом, вероятность каждого выбора была 20%. На деле люди выбирали «скандал» в 40% случаев. На негативную подсказку кликали в пять раз чаще, чем на нейтральные или позитивные, а неопределившиеся с выбором кандидата участники кликали на «скандал» в 15 раз чаще, чем на нейтральную подсказку. Теперь становится понятно, почему Google подавляет негативные подсказки о Клинтон в поисковой строке.

Если убрать из поиска негативные подсказки, люди скорее будут выбирать нейтральные и позитивные подсказки и попадать на страницы с положительной или нейтральной информацией о вашем кандидате.

В то же время пользователи будут видеть негативные подсказки о другом кандидате. И многие из них, особенно неопределившиеся, будут переходить из поиска на страницы, показывающие другого кандидата в неприглядном свете. Таким образом мы получаем сдвиг общественного мнения. Потенциально очень большой сдвиг — в некоторых демографических группах до 80%. По моим оценкам, это может принести одному из кандидатов от 800 тысяч до 3,2 миллионов голосов.

Мы запланировали целую серию экспериментов для исследования этого феномена, который я назвал SSE (search suggestions effect — эффект поисковых подсказок). Он основан на давно известном в психологии явлении — негативном искажении (negativity bias). Негатив притягивает больше внимания, чем позитивные или нейтральные стимулы. Это можно объяснить с эволюционной точки зрения: если что-то вам угрожает, следует уделить этому больше внимания. Это явление исследуют уже давно, но мы обнаружили, что это работает и с поисковыми подсказками. Мы уверены, что с помощью этой техники можно изменять взгляды людей и на другие вещи. Уже через пару недель мы начнем эксперимент, измеряющий, как SSE может влиять на мнения людей по самым разным темам.

Это открытие говорит нам, что новые технологии, разработанные с одной целью, могут быть применены совсем в других целях. Это очень важная проблема, с которой мы столкнёмся. Новые технологии, окружающие нас, очень сильны и могут быть использованы для разных целей. Они могут помочь нам с покупкой, но с их помощью за нами могут и следить. Они могут помочь нам найти место для следующего отпуска, но могут и манипулировать нами — например, сделать так, что мы выберем именно этот отель, а не какой-то другой. Это огромный простор для исследований. И в тоже время огромный простор для беспокойства об опасностях, которые нам несёт будущее.

Как Facebook может манипулировать выборами

Facebook также располагает несколькими способами для манипуляции выборами. Самый мощный из них — это напоминание о выборах сторонникам определенного кандидата. Facebook располагает огромным объемом информации о вас. Он знает, какого кандидата вы поддерживаете. Если 8 ноября он покажет напоминание о выборах только сторонникам Хиллари Клинтон, это может добавить ей до 600 тысяч голосов. Это немало, хоть и меньше, чем может добавить Google.

Помимо этого, Facebook может влиять на общественное мнение с помощью других инструментов: подстраивая в пользу определенного кандидата содержимое новостных лент пользователей, блока Trending, и своего внутреннего поискового движка. Подробнее я описал эти методы в   колонке   для издания Quartz.

Иллюстрация:   New York Times MagazineЧто мы можем с этим сделать?

Я работаю над новой книгой под названием «Новые властители разума». Она посвящена будущему и тому, как мы можем защитить себя. Методы, с помощью которых крупные технологические компании могут влиять на людей, непрерывно развиваются. Нам необходимы новые государственные или негосударственные организации, которые будут следить за этими методами, обнаруживать их, стараться остановить подобное манипулирование прежде, чем будет поздно.

Что, если новая машина контроля над умами захочет сделать так, чтобы вы не думали плохих вещей о новой машине контроля над умами?

Несомненно, настанет момент, когда технологии станут такими мощными, что люди не смогут им сопротивляться. Мы даже не будем хотеть им сопротивляться — они контролируют то, как мы живем, о чем мы думаем, наше отношение к их компаниям. Возможно, мы даже уже прошли эту точку. В истории человечества никогда не было ничего подобного. Так устроен мир вокруг нас: люди разрабатывают программы с одной целью, а потом обнаруживают, что с их помощью можно решать какие-то другие задачи.

Кадр из фильма «Сноуден»

В фильме «Сноуден» есть момент, когда сотрудник АНБ показывает Эдварду Сноудену программу, с помощью которой АНБ может следить за людьми. Он включает веб-камеру на компьютере какой-то женщины, они смотрят, как она раздевается, потом он открывает чьи-то сообщения. Пораженный и обескураженный Сноуден спрашивает: «Как вы всё это делаете?» И техник отвечает: о, это всё такая-то программа. И это ужасает Сноудена, потому что это программа, которую написал он. Но он написал её для совсем других целей — для создания резервных копий баз данных спецслужб. Теперь её использовали для массовой слежки, связывая всю собранную информацию от всех спецслужб. Подобное происходит с нами сейчас и будет происходить в будущем.

Что мы можем сделать с этим? В США — ничего.

Клинтон выиграет выборы и восемь лет будет у власти. Власть Google будет расти. Но в Европе весьма скептично относятся к Google и другим компаниям. Ранее Европе удалось ограничить власть Microsoft. Теперь ЕС взялся за Google — против компании идет антимонопольный процесс. Россия недавно закончила антимонопольный процесс против Google. Похожие процессы сейчас идут в Индии и будут происходить в других странах. Правительства могут ограничивать мощь компаний, и иногда они даже разбивают компании, как это случилось с AT&T. Компания AT&T контролировала все телефонные коммуникации в США до 1984 года, когда правительство заставило компанию разделиться.

Мы, люди, с помощью правительств должны сказать: мы не позволим этого. У вас слишком много власти. Слишком ограниченное количество людей у руля крупных компаний сконцентрировали власть в своих руках. И мы можем остановить это. Россия ограничила роль Google в поиске в России, Baidu заменила Google в Китае, а китайское правительство сильно ограничило возможности Google в стране. Это не проигранное дело, мы можем многое сделать. Но в США мы в большой опасности. Я думаю, сражаться с Google в США невозможно.

27 октября Роберт Эпштейн примет участие в   дискуссии   на тему «Могут ли поисковые темы менять результаты выборов» в рамках кинофестиваля кино о науке и технологиях в Москве.

Источник