(18+) НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ ЖУРАВСКОЙ ЕКАТЕРИНОЙ ВСЕВОЛОДОВНОЙ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ЖУРАВСКОЙ ЕКАТЕРИНЫ ВСЕВОЛОДОВНЫ.
Алгоритмы, как радиация, — незаметно меняют состав нашего «информационного» организма. Это только один из выводов исследования соцсети X**, которое провела вместе с коллегами профессор Парижской экономической школы Екатерина Журавская. В интервью Urbi et Orbi она рассказывает о том, как алгоритмическая лента сдвигает политические взгляды вправо — и почему этот сдвиг практически необратим; о структурном вытеснении профессиональной журналистики агрессивным треш-контентом; о «гонке вооружений» между ИИ-дезинформацией и ИИ-фактчекингом; и о том, можно ли вообще регулировать платформы, которые стали сопоставимы по влиянию с государствами.
Два слова о механике исследования, проведенного Журавской и коллегами (см. сноску 1) и опубликованного в феврале в журнале Nature. В соцсети X существуют два режима ленты. Хронологическая (Following) показывает только посты аккаунтов, на которые вы подписаны, в порядке их публикации. Алгоритмическая (For You) формируется алгоритмом платформы: он перемешивает порядок постов и добавляет публикации от аккаунтов, на которые вы не подписаны, «исходя» из ваших «интересов» и активности.
В 2023 году команда исследователей набрала примерно 5 тысяч американских пользователей X, разбила их на группы и предписала им семь недель строго оставаться на назначенной ленте (алгоритмической или хронологической). До и после — опросы. Параллельно — автоматический сбор данных о содержимом лент и подписках. Всё независимо, без ведома самой соцсети X.
Исследование Журавской — это далеко не единственный, но самый качественный «рентген», который показал, как именно это работает.
Екатерина Журавская. Фото: соцсети
Выяснилось:
Алгоритм сдвигает взгляды: переведенные на алгоритмическую ленту с хронологической начинали менять позицию по иммиграции, инфляции, вооруженному конфликту в Украине — в более «консервативную» сторону. Алгоритм менял состав того, что они видели, — и этого оказалось достаточно.
«Эффект храповика»: сдвиг взглядов остается устойчивым даже после отключения алгоритма. Когда людей переводили обратно на хронологическую ленту, взгляды «не возвращались назад». Даже за семь недель алгоритм успевал изменить экосистему подписок: люди подписывались на правых активистов, которых им подбрасывал алгоритм. После его «выключения» эти подписки оставались и продолжали формировать ленту самостоятельно.
Традиционные СМИ вытесняются. Алгоритм системно понижал позиции профессиональных изданий и повышал посты разного рода активистов, блогеров и проч.
I. Алгоритмы «гасят» журналистику и разрушают мышление аудитории
— Один из главных выводов вашего с коллегами исследования — асимметрия: включение алгоритма сдвигает взгляды вправо, а отключение почти не возвращает их назад. «Эффект храповика» вы объясняете главным образом изменением подписок. Но насколько убедительно это объяснение? Человек мог подписаться на консервативного активиста, почти не читать его посты — и всё равно это считается «сохранением воздействия»? Можно ли отделить факт подписки от реальной последующей экспозиции к контенту?
— В нашей статье, опубликованной в журнале Nature, мы собрали данные не только о подписках, но и о содержании лент пользователей. Мы показываем, что у пользователей, которых мы переключили на алгоритмическую ленту, хронологическая лента после эксперимента содержала на 60% больше постов от консервативных аккаунтов и на 28% больше постов от консервативных политических активистов по сравнению с контрольной группой. Это означает, что новые подписки действительно транслировались в реальное изменение контента, который пользователи видели. Другими словами, дело не просто в формальном факте подписки — подписка меняла информационную среду пользователя в долгосрочном периоде.
— Есть ли «антидот» от «эффекта храповика»? Что может сделать сам пользователь, чтобы перезагрузить свою информационную среду?
— Наш эксперимент показал, что простого переключения на хронологическую ленту недостаточно, потому что пользователи продолжают следить за аккаунтами, на которые они подписались под влиянием алгоритма. Логический вывод из наших данных:
чтобы действительно «перезагрузить» свою информационную среду, пользователю нужно не только переключить ленту, но и пересмотреть свои подписки, отписаться от аккаунтов, которые были подсказаны алгоритмом.
Но это, конечно, требует осознанного усилия и понимания того, как алгоритм повлиял на ваш список подписок. Большинство пользователей даже не задумываются об этом. Именно поэтому регулирование и прозрачность алгоритмов важнее, чем советы индивидуальным пользователям. Ответственность не должна лежать исключительно на пользователях — это проблема дизайна платформы.
— Ваш эксперимент показал, что сторонники демократов практически не меняли своих взглядов, несмотря на рост экспозиции к консервативному контенту. Говорит ли это о том, что рекомендательные алгоритмы эффективнее в укреплении уже существующих взглядов, чем в переубеждении?
— Именно. Наши результаты согласуются с хорошо известным в литературе феноменом: убеждение наиболее эффективно, когда аудитория уже предрасположена к сообщению. Алгоритм X продвигал больше консервативного, чем либерального, контента для всех — и для демократов, и для республиканцев. Но сдвиг во взглядах мы наблюдаем преимущественно у республиканцев и «независимых» пользователей, то есть у тех, кто более восприимчив к консервативным посланиям. <…>
Важно отметить также, что партийная идентичность и аффективная поляризация не менялись значимо за семь недель. Менялись взгляды на конкретные политические вопросы — приоритеты политики, оценка расследований против Трампа, отношение к (военным действиям) в Украине — но это важные и осязаемые показатели.
Фото: Пресс-служба СКФУ
— Алгоритм заметно снижал долю традиционных СМИ в «раздаче». Считаете ли вы, что эта замена источников — от качественной журналистики фактов к «эмоционально заряженным» активистам — является ключевым механизмом наблюдаемого сдвига?
— Наши данные показывают, что алгоритм одновременно делает две вещи: продвигает посты политических активистов (особенно правых) и понижает посты традиционных СМИ (и правых, и левых). Мы наблюдаем, что именно подписки на аккаунты консервативных политических активистов растут в результате воздействия алгоритма. Это создает механизм, который вы описываете: замена профессиональной журналистики контентом активистов, который, как правило, более эмоционально заряжен и менее ограничен редакционными стандартами.
Этот наш эксперимент не позволяет полностью разделить разные «рычаги» влияния — какой именно тип изменения контента вызывает сдвиг.
Однако мы провели еще один эксперимент, в котором оценивали различные меры, направленные на сокращение распространения ложных новостей в социальных сетях при одновременном сохранении вовлеченности и распространения достоверной информации — в контексте президентских выборов в США 2024 года. Результаты обобщены в статье, готовящейся к публикации в научном журнале Econometrica.
Мы показываем, что поведение людей в интернете существенно различается в зависимости от того, имеют ли они доступ к бесспорно достоверному контенту.
Если в их ленте присутствуют такие надежные новости, люди склонны обращаться именно к ним — особенно когда испытывают неопределенность относительно более провокационного и сенсационного контента. Напротив, когда бесспорно достоверные новости не распространяются в социальных сетях, единственный эффективный способ снизить распространение ложной информации — это снизить вовлеченность пользователей.
Именно поэтому платформы сворачивают программы фактчекинга и настраивают алгоритмы таким образом, чтобы скрывать публикации традиционных СМИ — хотя именно такие материалы с наибольшей вероятностью являются бесспорно достоверными.
Эта особенность алгоритмов — скрытие контента традиционных медиа — имеет весьма существенные последствия.
— Можно ли констатировать, что профессиональная журналистика проигрывает эту гонку структурно — и исчезает из поля зрения граждан без какой-либо законодательной цензуры? И что можно сделать, чтобы переломить эту тенденцию?
— Наши данные подтверждают это прочтение для X: алгоритм снижает видимость постов традиционных СМИ на 58% по сравнению с хронологической лентой. Это действительно форма структурного вытеснения журналистики — не путем цензуры, а путем алгоритмического понижения.
Что можно делать? Во-первых, регулирующие органы могут требовать от платформ прозрачности в отношении того, как алгоритмы ранжируют разные типы контента. Во-вторых, можно обсуждать требования о минимальной видимости контента профессиональных СМИ — примерно как существуют требования к телеканалам. В-третьих, независимые аудиты алгоритмов должны оценивать не только содержание, которое продвигается, но и то, чей контент систематически подавляется. Наконец, государственная поддержка качественной журналистики и медиаграмотности становится еще более важной в эпоху алгоритмических лент.
— Является ли это продвижение треш-контента с большим количеством фейков сознательным решением владельцев или неизбежным побочным эффектом погони за удержанием внимания — который невозможно устранить, не сломав бизнес-модель платформы?
— Важно отметить, что еще в 2022 году было опубликовано исследование Huszar et al. (2021), которое показало, что когда Twitter впервые ввел алгоритм в 2016 году, уже тогда он продвигал правый контент. Это было задолго до покупки платформы Маском — при совершенно другом руководстве. Наш эксперимент проводился летом 2023-го, после приобретения Маском, но примерно за год до его публичной поддержки Трампа. Это позволяет предполагать, что как минимум часть наблюдаемого эффекта связана с самой логикой алгоритма, нацеленного на максимизацию вовлеченности: провокационный, эмоциональный контент, производимый консервативными активистами, оказывается более втягивающим в дискуссию, получает больше лайков, репостов и комментариев, а именно это алгоритм вознаграждает.
Однако это не означает, что выбор владельцев и менеджеров платформы не имеет значения. Платформы принимают решения о том, что именно оптимизирует алгоритм, каковы правила модерации, какие аккаунты блокировать или восстанавливать. По всей видимости, истина посередине:
базовая логика максимизации вовлеченности создает структурную предрасположенность к продвижению эмоционального и провокационного контента, который чаще всего оказывается правым, а решения менеджмента платформы могут усиливать или корректировать этот эффект.
— Как вы отметили выше, ваш эксперимент проводился после покупки платформы Маском. В какой мере полученные результаты специфичны для того периода, а в какой — отражают более общие закономерности? Были бы результаты исследования другими сегодня?
— Это очень важный вопрос, и я хочу быть предельно аккуратной здесь. Наши результаты зафиксированы для лета 2023 года. Мы знаем, что алгоритм Twitter продвигал правый контент еще до покупки Маском, что позволяет предположить, что часть наблюдаемого эффекта — структурная. Однако с тех пор произошли значительные изменения: Маск публично поддержал Трампа, модерация была еще более ослаблена, программы фактчекинга свернуты.
Есть основания полагать, что сегодня эффекты могут быть еще сильнее — информационная среда на X стала более политически поляризованной, и платформа еще больше сместилась вправо. Но это именно обоснованное предположение, а не доказанный факт. Именно поэтому мы призываем к систематическому мониторингу алгоритмов: единичные исследования фиксируют снимок конкретного момента, а политика платформ меняется постоянно.
Марк Цукерберг. Фото: Carlos Barria / Reuters
— Что известно о «политических эффектах» алгоритмов других платформ — YouTube, TikTok, Instagram? Какие исследования вы считаете наиболее методологически убедительными?
— Крупнейшее методологически строгое исследование других платформ — это серия экспериментов на Facebook и Instagram, проведенных в сотрудничестве с их владельцем Meta*** во время выборов 2020 года в США (Guess et al., 2023, и связанные статьи). Они обнаружили, что отключение алгоритма изменяет контент, но не влияет на политические установки. Как показывает наша работа, этот нулевой результат может объясняться именно тем, что они изучали только отключение, а не включение алгоритма.
По YouTube существуют работы, исследующие «кроличьи норы» радикализации, но экспериментальных данных, сравнимых по строгости, существенно меньше.
По TikTok строгие экспериментальные исследования алгоритма мне неизвестны, хотя описательные данные указывают на то, что алгоритм этой китайской платформы чрезвычайно эффективен в удержании внимания и, потенциально, в формировании информационной среды пользователей.
Механизм, который мы описываем для X — изменение подписок как канал долгосрочного влияния, — может работать иначе на платформах вроде TikTok, где роль подписок менее центральна, и контент подбирается почти полностью алгоритмически. Это делает исследования на разных платформах особенно важными.
II. Искусственный интеллект на службе… чего? И кто поборется за права потерявших работу людей на «фабриках троллей»?
— Что сегодня известно о роли генеративного искусственного интеллекта — языковых моделей, дипфейков, синтетических аккаунтов — в политическом влиянии через соцсети?
— Это быстро развивающаяся область. Генеративный ИИ радикально снижает стоимость создания убедительного контента — текста, изображений, видео. Это означает, что операции по влиянию, которые раньше требовали целых «фабрик троллей» с живыми людьми, теперь могут проводиться малыми группами с помощью ИИ. Синтетические аккаунты, созданные с помощью ИИ, труднее обнаружить, потому что они могут производить более разнообразный и «человечный» контент.
Алгоритм X может быть особенно уязвим, потому что он оптимизирует вовлеченность: контент, идеально подстроенный ИИ под параметры виральности (способность контента распрстраняться вирусно. — Ред.), будет продвигаться эффективнее. Впрочем, пока строгих эмпирических исследований масштабов этого явления недостаточно — это одна из приоритетных областей для исследования.
— Может ли ИИ также стать и «антидотом» — помогать пользователям распознавать манипуляции, маркировать синтетический контент, выявлять координированные кампании?
— Безусловно, ИИ может быть инструментом как для создания, так и для обнаружения дезинформации. Методы на основе ИИ уже используются для выявления скоординированных кампаний, обнаружения ботов и маркировки синтетического контента. Проблема, однако, в том, что это — «гонка вооружений»: те же технологии, которые позволяют обнаруживать синтетический контент, помогают его создателям делать его более убедительным.
Ключевой вопрос — у кого стимулы использовать ИИ для защиты. Платформы могут это делать, но если их бизнес-модель основана на максимизации вовлеченности, у них может не быть достаточных стимулов. Именно поэтому важна роль независимых организаций и регуляторов, использующих ИИ для мониторинга платформ.
III. Зачем строят «цифровой ГУЛАГ» для Дурова и Маска
— Американская «Доктрина объективности» (Fairness Doctrine), отмененная в 1987 году, требовала относительного баланса мнений на радио/ТВ. Если говорить о Франции, где вы живете и работаете, то что-то в этом направлении пытается сейчас делать, например, Arcom (см. сноску 2) — по крайней мере, заявляет об этом. Что-то такое необходимо для соцсетей? И можно ли это реализовать технически?
— Аналогия с Fairness Doctrine интересна, но прямое перенесение этого принципа на социальные сети технически сложнее. Радио и телевидение производят единый поток контента для всех зрителей, и баланс можно отслеживать. Социальные сети создают персонализированные ленты для каждого пользователя, и контента на них несравнимо больше.
Кроме того, у отмены Fairness Doctrine была своя причина. На практике этот принцип нередко использовался так, что давал равную площадку идеям, противоречащим здравому смыслу. Например, требование всегда представлять «две точки зрения» могло приводить к тому, что общепризнанные в научном сообществе факты — такие как изменение климата — подавались лишь как одна из позиций наряду с противоположным мнением.
Тем не менее основная идея — что платформы не должны систематически продвигать одну сторону политического спектра — остается актуальной. Технически вполне возможно требовать, чтобы алгоритмы не создавали систематического перекоса в политическом контенте. Именно на это направлен европейский DSA (Digital Services Act, Закон ЕС о цифровых услугах)… Это не означает, что регулятор диктует содержание ленты каждого пользователя, — но платформы должны быть прозрачны в отношении принципов работы своих алгоритмов, и необходим независимый аудит их работы.
Павел Дуров со своим адвокатом Давидом-Оливье Камински в Париже, 2024 год. Фото: AFP
— Павел Дуров называет европейский закон DSA «инструментом цензуры» и обвиняет президента Франции Макрона в том, что тот подталкивает Европейский союз к построению «цифрового ГУЛАГа». Маск и Трамп говорят об ограничении свободы слова. Чем законное требование прозрачности алгоритмов принципиально отличается от цензуры?
— Отличие принципиальное. Цензура — это когда государство запрещает определенный контент или определенные высказывания. Условие о прозрачности алгоритмов — это требование объяснить, по каким правилам платформа выбирает, какой контент показывать каждому пользователю. Никто не говорит платформам, что публиковать и что запрещать, — речь идет о праве общества знать, как алгоритмы формируют информационную среду миллиардов людей.
Аналогия: требование к пищевым компаниям указывать состав продуктов на упаковке — это не цензура, а потребительская прозрачность. Риторика о «цензуре» в данном контексте — это, как правило, инструмент сопротивления регулированию со стороны тех, кто извлекает выгоду из непрозрачности.
— Франция и ЕС действительно пытаются регулировать платформы. Могут ли эти меры реально заставить гигантов вроде X изменить алгоритмы?
— DSA — это первый серьезный законодательный инструмент регулирования алгоритмов крупных платформ. Он предусматривает штрафы, что создает существенные экономические стимулы для соблюдения (штрафы могут доходить до 6% от мирового оборота компании. — Ю. С.). Еврокомиссия уже инициировала процедуры против X в рамках DSA.
Может ли это реально изменить поведение платформ? Исторический опыт показывает, что регулирование ЕС способно влиять на глобальные практики технологических компаний — GDPR (см. сноску 3) фактически стал мировым стандартом защиты данных. Однако эффективность DSA зависит от политической воли к его применению и от ресурсов, выделяемых на мониторинг и правоприменение. Платформы располагают огромными юридическими и лоббистскими ресурсами и могут затягивать процессы. Ключевой вопрос — будут ли европейские институты последовательны в применении закона?
— Следите ли вы за расследованием французской юстиции против X? Что думаете о его правомочности и беспристрастности?
— Я слежу за этим процессом — хотя, конечно, как исследователь, а не как юрист. Могу сказать, что расследование в рамках DSA — это вполне законная процедура, предусмотренная европейским законодательством. Вопрос беспристрастности важен, но его следует оценивать по конкретным действиям и доказательствам, а не на основании политической риторики о «преследовании».
— Может ли такое расследование реально изменить поведение платформы — по крайней мере, на европейской территории?
— В принципе, да — особенно если речь идет о значительных штрафах или требованиях изменить практики работы на территории ЕС. Платформы уже адаптируют свои продукты для разных юрисдикций — например, правила обработки данных в ЕС отличаются от американских. Возможность заблокировать платформу или наложить крупный штраф дает регуляторам реальные рычаги. Другой вопрос — захотят ли платформы адаптировать алгоритмы именно для европейского рынка или предпочтут конфронтацию.
— Президент Макрон формулирует позицию Европы как умеренную «гуманистическую модель» между «англосаксонской» (делегирование контроля частному капиталу) и китайской (государственный контроль). Вы разделяете эту классификацию?
— Это полезная рамка, хотя, как всякая простая классификация, она несколько упрощает реальность. «Англосаксонская» модель не является полностью laissez-faire — в США тоже существует регулирование, пусть и менее строгое. Китайская модель — это не просто «государственный контроль», а тотальная цензура и подчинение платформ госпропаганде.
Европейский подход действительно пытается найти баланс: обеспечить прозрачность и подотчетность платформ, не скатываясь к государственной цензуре. Главный вызов — в реализации…
Эффективность зависит от институциональной способности ЕС применять закон к транснациональным технологическим гигантам и от защиты этих механизмов от злоупотреблений со стороны самих государств.
IV. Государство — это кто? (если X может за недели «сдвинуть взгляды» миллионов пользователей)
— Ваш эксперимент был независимым от X. Насколько сильно это ограничило возможности исследования? Много ли важного могут скрыть платформы от внешнего наблюдателя?
— Независимость от платформы имеет как преимущества, так и ограничения. Главное преимущество — отсутствие конфликта интересов: мы не зависели от одобрения X и не были ограничены в публикации результатов…
Ограничения тоже существенны. Мы могли бы иметь доступ к гораздо более детальным данным об активности пользователей. Платформы располагают огромным объемом данных, которые недоступны внешним исследователям: данные о внутренней работе алгоритмов, о трафике, об A/B-тестах. Именно поэтому европейский DSA предусматривает механизмы предоставления данных исследователям — это критически важный шаг.
Илон Маск в офисе Твиттер после покупки компании. Кадр из видео
— Если алгоритмы действительно способны системно сдвигать взгляды, означает ли это, что частные технологические компании становятся политическими акторами масштаба, сопоставимого с государствами?
— Наше исследование показывает, что алгоритм одной платформы способен за семь недель сдвинуть политические взгляды активных пользователей. X — платформа с сотнями миллионов пользователей по всему миру. Масштаб потенциального влияния огромен.
Но я бы остерегалась прямого сравнения с государствами. Государства обладают монополией на насилие, системой принуждения, контролем над образованием. Технологические компании влияют через информационную среду — это серьезная, но другая форма реальной силы.
Тем не менее, когда одна компания способна системно сдвигать политические установки населения целых стран, это ставит фундаментальные вопросы о демократической подотчетности. Эти компании никем не избраны, их алгоритмы непрозрачны, а их влияние может быть сопоставимо с влиянием крупных медиаимперий, которые исторически подвергались регулированию.
— Насколько оправданны сравнения манипуляций через соцсети с централизованной пропагандой? В чем принципиальное отличие?
— Это один из вопросов, которые мне особенно интересны как исследователю. С коллегами мы изучали воздействие нацистской радиопропаганды (Adena et al. QJE 2015).
Принципиальные отличия есть. Классическая централизованная пропаганда производится сверху, с единым источником и целью, часто в условиях государственной монополии на информацию или близкой к ней. Алгоритмическое воздействие через соцсети — это во многом децентрализованный процесс: алгоритм не создает контент, он отбирает и продвигает его из того, что производят миллионы пользователей.
Но есть и общее: и то и другое формирует информационную среду, определяя, что люди видят и чего не видят. В определенном отношении алгоритмическое воздействие может быть даже мощнее, потому что оно персонализировано — каждый пользователь видит контент, подобранный именно для него для максимальной вовлеченности.
Классическая пропаганда одинакова для всех; алгоритмическая — индивидуальна.
Кроме того, пользователи, как правило, не осознают, что их информационная среда формируется алгоритмом, тогда как централизованная пропаганда часто воспринимается именно как пропаганда.
V. О некоторых важных приемах и эффектах пропаганды
— Есть популярный тезис: «Люди не верят пропаганде, но она все равно работает». Согласны ли вы с этим? Если да — за счет каких механизмов?
— Да, это наблюдение подтверждается множеством исследований, включая наши. Пропаганда работает через несколько механизмов помимо прямого убеждения.
Во-первых, она формирует повестку — определяет, о чем люди думают, даже если не определяет, что именно они думают. Наше исследование показывает сдвиг в приоритетах политики — алгоритм влияет на то, какие темы люди считают важными.
Во-вторых, пропаганда создает представления о том, что думают другие, — так называемое ложное большинство.
В-третьих, постоянное повторение определенных нарративов повышает их воспринимаемую правдоподобность — эффект простого повторения.
В-четвертых, пропаганда может работать через координационный механизм: люди могут не верить пропаганде, но верить, что другие ей верят, и корректировать свое поведение соответственно. Если бы пропаганда не работала, ее бы не использовали абсолютно все диктаторы всех времен и народов.
— Как вы, экономист, могли бы перевести в измеримые показатели «влияние пропаганды»?
— По сути, для этого нужны две вещи: вариация в воздействии пропаганды и ее измерение, а также вариация в исходах — во взглядах и поведении. Первый — измерение на стороне контента: объем, частота, тональность, источники. В нашем исследовании X мы используем NLP-классификацию (см. сноску 4) для определения политической ориентации контента. Второй — измерение на стороне результатов: изменения во мнениях, в поведении (например, голосование, участие в протестах, экономические решения), в поведении на платформе (подписки, репосты).
Ключевая задача — установить причинно-следственную связь, а не просто корреляцию. Для этого необходим экзогенный (условно случайный. — Ю. С.) источник вариации в воздействии пропаганды — именно это дает эксперимент (как в нашей работе), или естественный эксперимент (вариация в покрытии (радио- или теле-) сигнала (см. сноску 5), например).
Критерий того, что пропаганда «изменила мнения», — это статистически значимое различие в измеренных установках между группой, подвергшейся воздействию, и контрольной группой — при условии, что назначение в группы экзогенно.
Фото: Владимир Смирнов / ТАСС
— Какие угрозы демократиям, исходящие от соцсетей, кажутся вам наиболее серьезными? И какой наиболее недооцененный риск?
— Наиболее серьезная угроза, на мой взгляд, — это способность алгоритмов систематически формировать политическую повестку и сдвигать взгляды населения в интересах владельцев платформ или в результате структурных свойств алгоритмов, без какой-либо демократической подотчетности. Наше исследование показывает, что это не теоретическая угроза — это происходит прямо сейчас.
Наиболее недооцененный риск — это именно тот механизм, который мы обнаружили: «необратимость эффектов». Даже временное воздействие оставляет долгосрочный след, и «откатить» его сложнее, чем кажется.
— Планируете ли вы и коллеги новые исследования в этой области? Какие вопросы кажутся вам наиболее важными и наименее изученными?
— Да, мы продолжаем работу. Наиболее важные открытые вопросы, на мой взгляд, — это, во-первых, какие именно «рычаги» алгоритма — темы, источники, характеристики контента — определяют сдвиг политических установок. Во-вторых, эффекты алгоритмов на других платформах и в других странах. В-третьих, долгосрочные эффекты — наш эксперимент длился семь недель, а люди используют эти платформы годами. Накапливается ли эффект со временем? В-четвертых, взаимодействие между генеративным искусственным интеллектом и алгоритмами: как ИИ-генерированный контент влияет на политические установки через алгоритмическое продвижение. Это одна из наименее изученных и, возможно, наиболее острых тем на ближайшее будущее.
— Как вы видите эволюцию соцсетей в ближайшие 5–10 лет? Если совсем упрощенно: дальнейший рост дезинформации или «коллективное пробуждение», приведшее к реформам?
— Прогнозы на 10 лет в такой неопределенности — дело очень неблагодарное. В любом случае, я бы не стала противопоставлять эти сценарии — скорее всего, мы увидим оба одновременно. С одной стороны, генеративный ИИ сделает создание дезинформации проще и дешевле. С другой стороны, осознание проблемы растет, и регулирование — как европейский DSA — делает первые шаги.
Многое зависит от политической воли. Если демократические общества отнесутся к регулированию алгоритмов так же серьезно, как к регулированию финансовых рынков или пищевой безопасности, реформы возможны. Если политическая воля ослабнет, платформы сумеют заблокировать регулирование. Исследования, подобные нашему, играют важную роль, предоставляя эмпирическую базу для обоснованных политических решений.
Germain Gauthier, Roland Hodler, Philine Widmer & Ekaterina Zhuravskaya.
Arcom — французский независимый «жандарм» в области интернета, теле- и радиовещания; отвечает за обеспечение свободы коммуникации, но и за соблюдение законодательных и нормативных обязательств электронных СМИ; в задачи ведомства, например, входит обеспечение уважения к человеческому достоинству, соблюдение журналистской этики, регулирование коммерческой эксплуатации детей, борьба с пиратством. Кроме того, ведомство следит за справедливостью распределения эфирного времени политических деятелей как в предвыборный период, так и вне его.
General Data Protection Regulation — Общий регламент ЕС по защите данных, вступивший в силу в 2018 году. Он устанавливает правила, как компании и организации должны собирать, хранить и обрабатывать персональные данные пользователей, и дает людям право контролировать свои данные (доступ, удаление, переносимость и т.д.).
То есть автоматический анализ текстов методами машинного обучения для разделения материалов по категориям.
Журавская уточняет: есть исследования, в которых изучалось в том числе влияние пропаганды в зависимости от разницы в зоне покрытия радиосигнала (как в исследовании нацистского радио — Adena et al. QJE 2015), доступ к иностранному телевидению в ГДР, вариация в проникновении современного российского ТВ в соседние страны… Важно вспомнить и о чудовищном примере геноцида в Руанде: доказана прямая зависимость активности убийц от зоны покрытия печально знаменитой радиостанции RTLM, призывавшей к «полному истреблению» людей из народности тутси.