Алгоритмы Фейсбука настроены таким образом, чтобы сталкивать людей лбами и вызывать негативные эмоции.
Facebook считает, что контент, провоцирующий злобу, ненависть, разногласия, поляризующий пользователей, работает лучше
Глобальный сбой в работе Facebook 4 октября 2021 года сделал эту соцсеть главным фигурантом новостей. И он же отвлек внимание от слушаний в американском Сенате, где давала показания бывшая сотрудница компании Фрэнсис Хауген (Frances Haugen). Причем, ее признания способны навредить Марку Цукербергу куда больше, чем недавний шатдаун.
Фрэнсис Хауген проработала в компании Facebook два года. Она была ведущим менеджером по продукту и, по ее словам, в какой-то момент политика компании стала вызывать у нее сомнения. В итоге она скопировала десятки тысяч страниц внутренней документации — чтобы затем выложить их в открытый доступ.
Эти документы пролили свет на множество злоупотреблений. Например, на существование VIP-пользователей, которым разрешено нарушать правила и не получать за это бан. На слабую модерацию в региональных офисах, из-за чего в ряде стран криминальные синдикаты используют Facebook в преступных целях. Кроме того, стало ясно, что компания не пытается эффективно противостоять антипрививочной пропаганде — из-за чего миллионы людей по всему миру оказываются под угрозой.
В эфире передачи
«60 минут» на CBS News Фрэнсис Хуаген рассказала о том, что с помощью телефона пользователь способен увидеть около 100 единиц контента соцсети в течение пяти минут. При этом у компании есть тысячи вариантов контента, которые она может вам показать.
Но, по словам экс-сотрудницы компании, алгоритмы Facebook выстроены таким образом, чтобы показывать вам контент, вызывающий ненависть и гнев. Потому что именно он вызывает у людей
сильные эмоции. И чем больше контента вы потребляете, чем больше эмоциональных реакций вы проявляете — тем больше соцсеть зарабатывает. В то время как спокойный, вдумчивый и взвешенный контент получает куда меньшую индексацию, и пользователи видят его значительно реже.
И одно из проявлений того, как в Facebook сегодня работает алгоритм демонстрации контента, — это оптимизация контента с тем, чтобы он вызывал интерес, реакцию. Но собственное исследование Facebook показывает, что контент, пробуждающий ненависть, разногласия, поляризующий пользователей, работает лучше, в людях легче пробудить злобу, чем другие эмоции.
— Дезинформация, злость соблазняют людей…
— Это очень заманчиво.
— И удерживают их на платформе.
— Да. Facebook осознал, что, если они изменят алгоритм, сделают его более безопасным, люди будут проводить меньше времени на сайте, они будут реже нажимать на рекламные баннеры, а Facebook будет зарабатывать меньше денег.
Хауген приняла участие в публичном слушании в американском Сенате. Оно было посвящено защите несовершеннолетних от пагубного воздействия социальных сетей. Открывая слушание, председательствующий Ричард Блюменталь призвал Марка Цукерберга дать отчет о своих действиях.
Имеется задокументированное доказательство того, что Facebook знает, что его продукты могут вызывать привыкание, становиться токсичными для детей, и дело не только в том, что они зарабатывают деньги. Дело в том, что они ценили свою прибыль, не думая о боли, которую они причинили детям и их семьям. Ущерб, нанесенный личной самооценке сегодня, скажется на целом поколении. Чувства неполноценности, отверженности и ненависти к себе будут преследовать наших детей долгие годы. Сегодня подростки, глядя на себя в зеркало, испытывают неуверенность. Марк Цукерберг должен сегодня посмотреть в зеркало на себя. Господин Цукерберг, вы должны явиться в этот комитет и объяснить Фрэнсис Хауген, нам, всему миру и американским родителям, что вы делаете и почему вы это делаете.
Сенатор Эми Клобушар в диалоге с Фрэнсис Хауген выясняла подробности манипуляций Facebook с несовершеннолетними пользователями.
— Имеет ли смысл приучать человека к социальным сетям в юном возрасте, чтобы извлечь из него больше выгоды в долгосрочной перспективе?
— Во внутренних документах Facebook говорится о важности привлечения молодых пользователей в Instagram. Они понимают их ценность для долгосрочного успеха.
— По их оценке, в прошлом квартале они сделали 51 доллар 58 центов на каждом пользователе, а когда я спросила их, сколько из них было детей младше 18 лет, мне не ответили. Как вы думаете, подростки выгодны?
— Предполагаю, что да, суда по рекламе на телевидении. Я уверена, что это одни из наиболее прибыльных пользователей, но я не работала над этим напрямую.
— Другая проблема — это расстройства пищевого поведения. Исследования показали, что из всех психических заболеваний у женщин расстройства пищевого поведения составляют главную причину смертности. Меня беспокоит, что алгоритмы, которые они используют, продвигают возмутительный контент, пропагандируют анорексию и тому подобное. Вы полагаете, алгоритмы навязывают часть этого контента девушкам? Вы думаете, они создают свои продукты, чтобы вызывать привыкание?
— В Facebook давно действует отдел роста, где занимаются тем, что при постоянно стараются оптимизировать сеть с целью ее роста. Эти действия могут быть истолкованы как способствующие развитию зависимости.
Также выдвинуты обвинения в адрес сервиса Instagram, принадлежащего корпорации Facebook, который пропагандирует похудение среди несовершеннолетних девочек и тем самым внушает им
— ненависть к собственному телу. Instagram еще в апреле извинился, сославшись на «ошибку алгоритма». Однако «ошибка» продолжается. Помощники сенатора Блюменталя по его поручению зарегистрировали в Instagram аккаунт от имени 13-летней девочки и подписались на несколько страниц о диете и похудении. И алгоритм заработал: юной пользовательнице сервис стал предлагать все новые и новые ресурсы на эту тему.
Бывшая сотрудница компании Фрэнсис Хауген заявила в показаниях Конгрессу США, что Facebook ставит «астрономическую прибыль выше людей», вредит детям и дестабилизирует демократию.
Фактически, речь идет о том, что алгоритмы фейсбука кормят своих пользователей неврозами — чтобы провоцировать реакцию. Но даже если угроза санкций заставит Марка Цукерберга отрегулировать свое детище
— это не решит всех проблем. Нам выпало жить в эпоху соцсетей и у этого есть последствия.
В конце концов, именно соцсети позволили фрикам и конспирологам по всему миру объединяться. Лет сорок назад сторонник теории плоской Земли был обречен на одиночество. Он мог подозревать окружающих в лицемерии или глупости, мог быть уверен, что астрономы и учебники врут — а себя считать одиноким пророком. Но именно интернет и соцсети подарили ему возможность находить единомышленников, объединяться с ними в группы и создавать политический запрос. На который в какой-то момент стали откликаться политики.
Люди не рациональные создания, а рационализирующие. Они сперва делают выбор, а затем ищут подтверждение, что поступили правильно.
Вдобавок, медиарынок перестал быть рынком продавца, а стал рынком покупателя. В результате медиа стали подстраиваться под этот запрос. Они перестали усложнять представление о реальности для своей аудитории. Вместо этого они стали своей аудитории подыгрывать. Убеждая своих зрителей и читателей в том, что они носители правды, справедливости и единственно верной точки зрения. Диалог закончился — и мы стали жить в ситуации множества монологов.
И нет ничего удивительного в том, что сегодня те же Соединенные Штаты всерьез готовы рассуждать о правилах для соцсетей. Да, это частный бизнес. Да, речь идет о коммерческих компаниях. Но в ситуации, когда треть взрослого населения планеты является пользователями одной соцсети
— непрозрачность алгоритмов может создавать риски.
Хауген ссылается на Мьянму и Эфиопию как на примеры разжигания этнической вражды при помощи Facebook. Пользователи, следящие за событиями в этих странах, обратили внимание на то, что Facebook не препятствует нападкам в первом случае на представителей народа рохинджа, во втором — на народность тиграи.
Годами Facebook служил эфиопскому режиму и его сторонникам одной из главных платформ, при помощи которых они внушали ненависть к тиграи и демонизировали их, что привело к продолжающемуся геноциду тиграи.
Около половины населения Мьянмы, насчитывающего 53 миллиона человек, пользуются Facebook, и многие полагаются на этот сайт как на основной источник новостей. В июне этого года расследование, проведенное правозащитной группой Global Witness, показало, что алгоритм Facebook продвигал посты в нарушение своей собственной политики, которая подстрекала к насилию против протестующих, выступающих против переворота, устроенного военными в феврале.
Документы, которые опубликовала Фрэнсис Хауген, довольно иллюстративны. Например, в Мьянме, где 90% населения буддисты, в местном сегменте Facebook было множество призывов к расправам над народом рохинджа. Эта этническая группа живет в Мьянме и исповедует ислам, но до 2015 года у компании в регионе был лишь один модератор, который владел бирманским языком. А потому соцсеть в этой стране превратилась в рассадник ненависти.
Постсоветское пространство — не исключение. С самого начала гибридной войны России против Украины в 2014 году и до недавнего времени дефицит модераторов было принято объяснять тем, что местный рынок для социальной сети неприоритетный, а потому у компании нет возможности уделять ему много внимания.
Такое объяснение, впрочем, никак не снижает остроту проблем.
В момент появления соцсетей все полагали, что это будет пространство общения всех-со-всеми. Что это будет площадка для обмена идеями и для дискуссий.
Но оказалось, что соцсети по замыслу своих создателей должны превратиться в гладиаторскую арену. А пока собственники компании зарабатывают на наших неврозах — другие крупные игроки используют человеческую доверчивость, чтобы отстаивать свои интересы. Например, убеждая всех в том, что жертва насилия виновна в случившемся. Или в том, что украденное принадлежит грабителю лишь потому, что ему так захотелось.
Вероятно, дискуссия об алгоритмах соцсетей должна была начаться несколько лет назад. Но лучше поздно, чем никогда.
Facebook harms children and is damaging democracy, claims whistleblower Facebook’s role in Myanmar and Ethiopia under new scrutinyMyanmar: Facebook promotes content urging violence against coup protesters — studyПрибыльная ненависть. О чем рассказала бывшая сотрудница Facebook Фабрика ненависти
-
«Фейсбук» искажает восприятие реальностиTwitter и Facebook не объединяют людей, а изолируют от реальности
Фейсбук делает тебя толстым и беднымПользователи Facebook и Twitter страдают от «синдрома отмены»
Facebook-зависимость приравнена к наркомании
Источник: