Нове дослідження показує, що відеоплатформа TikTok не в змозі відфільтрувати неправдиві заяви та риторику за кілька тижнів до проміжних виборів у США

Експерти попереджають, що на останньому етапі кампанії з проміжних виборів у США гігант соціальних медіа TikTok ризикує стати основним джерелом дезінформації про вибори, оскільки величезна база користувачів платформи та її дизайн роблять відеосервіс особливо сприйнятливим до таких загроз.

Попереднє дослідження, опубліковане минулого тижня цифровим контролером Global Witness і командою Cybersecurity for Democracy з Нью-Йоркського університету, показує, що відеоплатформа не може фільтрувати великі обсяги дезінформації про вибори за кілька тижнів до голосування.

TikTok схвалив 90% реклами з дезінформацією про вибори, наданої дослідниками, включаючи рекламу з неправильною датою виборів, неправдивими заявами про вимоги до голосування та риторикою, яка відмовляє людей від голосування.

TikTok кілька років забороняв політичну рекламу на платформі, включно з фірмовим контентом від авторів і платною рекламою, а перед проміжними виборами автоматично вимкнув монетизацію, щоб краще забезпечити дотримання цієї політики, заявив у вересневій публікації в блозі міжнародний бізнес-президент TikTok Блейк Чендлі. «TikTok — це, перш за все, розважальна платформа», — написав він.

Але дослідження Нью-Йоркського університету показало, що TikTok «працював найгірше з усіх протестованих платформ» в експерименті, кажуть дослідники, схвалюючи більше неправдивої реклами, ніж інші сайти, такі як YouTube і Facebook.

Ці висновки викликають занепокоєння серед експертів, які вказують на те, що з огляду на 80 мільйонів користувачів щомісяця в США та велику кількість молодих американців, які використовують платформу як своє основне джерело новин, такі публікації можуть мати далекосяжні наслідки.

Проте результати не викликають здивування, кажуть експерти. Під час попередніх великих виборів у США TikTok мав набагато менше користувачів, але дезінформація вже широко поширювалася на платформі. TikTok зіткнувся з проблемами модерування дезінформації про вибори в Кенії та війну в Україні.

І компанія, на думку експертів, робить занадто мало, щоб приборкати виборчу брехню, яка поширюється серед її користувачів.

«Цей рік буде набагато гіршим, оскільки ми наближаємось до проміжних виборів», — сказала Олівія Літтл, дослідниця, яка є співавтором звіту Media Matters. «Відбулося експоненціальне зростання кількості користувачів, а це лише означає, що буде більше дезінформації, яку TikTok потрібно активно зупинити, інакше ми ризикуємо зіткнутися з новою кризою».

Вирішальний тест

Оскільки сам Джо Байден попередив про те, що цілісність американських виборів знаходиться під загрозою, TikTok оголосив про низку політик, спрямованих на боротьбу з дезінформацією про вибори, яка поширюється через відеосервіс.

Компанія виклала вказівки та заходи безпеки, пов’язані з виборчим контентом, і запустила виборчий центр, який «з’єднує людей, що займаються виборчим контентом», із затвердженими джерелами новин понад 45 мовами.

«Щоб посилити нашу реакцію на нові загрози, TikTok співпрацює з незалежними розвідувальними компаніями та регулярно співпрацює з іншими представниками галузі, організаціями громадянського суспільства та іншими експертами», — сказав у серпні Ерік Хан, керівник відділу безпеки TikTok у США.

У вересні компанія також оголосила про нову політику, яка вимагає перевірки облікових записів уряду та політиків, та заявила, що заборонить відео, спрямовані на збір коштів на кампанію. TikTok додав, що заборонить перевіреним політичним обліковим записам використовувати функції заробляння грошей, доступні впливовим особам у додатку, такі як цифрові платежі та подарунки.

Тим не менш, експерти глибоко стурбовані поширенням дезинформації щодо виборчої кампанії на відеоплатформі.

Ці побоювання посилюються структурою TikTok, яка ускладнює розслідування та кількісну оцінку поширення дезінформації. На відміну від Twitter, який оприлюднює свій інтерфейс прикладного програмування (API), програмне забезпечення, яке дозволяє дослідникам отримувати дані з платформ для аналізу, або Meta, який пропонує власну внутрішню пошукову систему під назвою Crowdtangle, TikTok не пропонує інструментів для зовнішнього аудиту.

Однак незалежні дослідження, а також власні звіти про прозорість платформи підкреслюють проблеми, з якими вона зіткнулася в останні роки під час модерування контенту, пов’язаного з виборами.

TikTok видалив 350 000 відео, пов’язаних з дезінформацією про вибори, у другій половині 2020 року, згідно зі звітом про прозорість компанії, і заблокував 441 000 відео, які містять дезінформацію, з каналів користувачів у всьому світі.

Некомерційна інтернет-організація Mozilla напередодні виборів у Кенії 2022 року попереджала, що платформа «провалює свій перший справжній іспит», щоб зупинити дезінформацію та відверту брехню під час ключових політичних моментів. Некомерційна організація заявила, що перед голосуванням знайшла на платформі понад 130 відео, які містили пов’язану з виборами дезінформацію, ворожнечу та підбурювання проти спільнот, які разом набрали понад 4 мільйони переглядів.

 «Замість того, щоб вчитися на помилках більш відомих платформ, таких як Facebook і Twitter, TikTok йде їхніми стопами», — написав тоді дослідник Mozilla Оданга Мадунг.

Чому TikTok настільки вразливий до дезінформації?

Частина причин, чому TikTok унікально сприйнятливий до дезінформації, полягає в певних особливостях його дизайну та алгоритму, кажуть експерти.

Його сторінка «Для вас» або загальний відеоканал налаштована відповідно до індивідуальних уподобань користувачів за допомогою алгоритму, який мало зрозумілий навіть власному персоналу. За словами Літтла, дослідника Media Matters, така комбінація створює бульбашки дезінформації.

«Гіперспеціалізований алгоритм TikTok може дуже швидко підірвати випадкові облікові записи до вірусності, і я не думаю, що це зміниться найближчим часом, тому що це причина, чому він став такою популярною платформою», – сказала вона.

У той же час легкість, з якою користувачі реміксують, записують і репостують відео (лише деякі з яких первіряються фактчекінгом) дозволяє легко поширювати дезінформацію, ускладнюючи її видалення.

Ексклюзивний відеоконтент TikTok створює додаткові перешкоди для модерації, оскільки процесам штучного інтелекту може бути важче автоматично перевіряти відеоконтент на наявність дезінформації порівняно з текстом.

Кілька недавніх досліджень показали, як ці функції посилили поширення дезінформації на платформі. Наприклад, коли мова йде про вміст TikTok, пов’язаний з війною в Україні, можливість «реміксувати медіа» без перевірки фактів ускладнює «навіть досвідченим журналістам і дослідникам відрізнити правду від чуток, пародій і вигадок», говориться в нещодавньому звіті Гарвардського центру Шоренштейна з медіа.

У цьому звіті згадуються інші конструктивні особливості програми, які роблять її легким шляхом для дезінформації, включно з тим, що більшість користувачів публікують публікації під псевдонімами та що, на відміну від Facebook, де стрічки користувачів заповнюються переважно вмістом від друзів і знайомих, TikTok For Your Page (для твоєї сторінки) в основному складається з вмісту незнайомців.

Деякі з цих проблем не є унікальними для TikTok, сказав Марк Фаддул, співдиректор Tracking Exposed, організації цифрових прав, яка досліджує алгоритм TikTok.

Дослідження показали, що алгоритми на всіх платформах оптимізовані для виявлення та використання когнітивних упереджень для більш поляризованого контенту, і що будь-яка платформа, яка покладається на алгоритми, а не на хронологічну стрічку новин, більш сприйнятлива до дезінформації. Але TikTok є найбільш прискореною моделлю алгоритмічної стрічки, сказав він.

У той же час, додав він, платформа повільно справлялася з проблемами, які роками переслідували її колег, таких як Facebook і Twitter.

«Історично TikTok характеризував себе як розважальну платформу, заперечуючи розміщення політичного контенту і, отже, дезінформації, але тепер ми знаємо, що це не так», — сказав він.

Молоді користувачі у групі підвищеного ризику

Експерти кажуть, що додатковою причиною для занепокоєння є відсутність медіаграмотності серед переважно молодих користувачів TikTok. Переважна більшість молодих людей у ​​США користується TikTok, як показало нещодавнє дослідження Pew Research Center. Внутрішні дані Google показали в липні, що майже 40% покоління ЗЕД – покоління, яке народилося в період з кінця 1990-х до початку 2000-х років – у всьому світі використовують TikTok і Instagram як основні пошукові системи.

Окрім того, що покоління ЗЕД має більшу ймовірність отримати висвітлення новин із соціальних мереж, також має значно вищі показники недовіри до традиційних інституцій, таких як ЗМІ та уряд, порівняно з минулими поколіннями, створюючи ідеальний шторм для поширення дезінформації, сказала Хелен. Лі Буйгес, президент Reboot Foundation, організації з пропаганди медіаграмотності.

«За характером своєї аудиторії TikTok піддає дезінформації багато дітей, які не навчені медіаграмотності, і крапка», — сказала вона. «Вони не мають навичок, необхідних для розпізнавання пропаганди чи дезінформації, коли бачать її в Інтернеті».

Загроза посилюється величезною кількістю часу, витраченого на програму: 67% підлітків у США використовують програму в середньому 99 хвилин на день. Дослідження, проведене Reboot Foundation, показало, що чим довше користувач витрачає на додаток, тим менше шансів, що він розрізнить дезінформацію від факту.

Щоб забезпечити дотримання своєї політики, яка забороняє дезінформацію про вибори, переслідування, ворожу поведінку та насильницький екстремізм, TikTok каже, що покладається на «поєднання людей і технологій» і співпрацює з фактчекерами для модерування вмісту.

Компанія направила запитання до цієї публікації в блозі щодо заходів щодо дезінформації про вибори, але відмовилася повідомити, скільки людей-модераторів вона наймає.

Bouygues сказав, що компанія повинна зробити набагато більше, щоб захистити своїх користувачів, особливо молодих. Її дослідження показують, що медіаграмотність і спонукання до перевірки фактів у додатках можуть мати велике значення для боротьби з дезінформацією. Але щоб провести такі зміни, потрібні дії уряду.

«Якщо TikTok у світі дійсно хоче боротися з фейковими новинами, то вони можуть це зробити», — сказала вона. «Але поки їхня фінансова модель стежить за сторінкою, у них немає стимулу це робити. Ось тут має вступити в гру політика».

За матеріалами: The Guardian