Китайські моделі штучного інтелекту частіше відмовляються відповідати на політично чутливі запитання або відтворюють офіційні державні наративи. Дослідники зробили такий висновок на основі аналізу відповідей провідних чат-ботів у Китаї, зокрема BaiChuan, DeepSeek і ChatGLM, пише EuroNews. 

Автори дослідження, опублікованого в журналі PNAS Nexus, проаналізували понад 100 запитань про державну політику та порівняли відповіді BaiChuan, DeepSeek і ChatGLM з моделями, розробленими за межами Китаю. Відповіді вважали потенційно цензурованими, якщо бот відмовлявся відповідати або надавав неточну інформацію.

Питання про статус Тайваню, етнічні меншини чи відомих продемократичних активістів часто викликали відмови або повторення урядових тез. Китайські моделі також надавали коротші відповіді з вищим рівнем неточностей, пропускаючи ключові деталі або ставлячи під сумнів саму передумову запитання.

“Наші висновки мають значення, адже цензура з боку китайських компаній з розробки великих мовних моделей може впливати на доступ користувачів до інформації та їхню усвідомленість”, — зазначили дослідники.

Найнижчий рівень неточностей серед китайських моделей продемонстрували BaiChuan і ChatGLM — 8%. У DeepSeek, який бойкотують за межами Китаю через ризики для безпеки та захисту даних, цей показник сягнув 22%, що більш ніж удвічі перевищує приблизно 10% у некитайських моделей.

В одному з прикладів чат-боти, відповідаючи на запитання про інтернет-цензуру, не згадали систему “Великий фаєрвол”, яку Стенфордський університет описує як державну програму моніторингу та обмеження доступу до мережі. Натомість вони зазначили, що влада “керує інтернетом відповідно до закону”.

Дослідження попереджає, що така форма цензури може бути складною для виявлення, оскільки чат-боти часто перепрошують або надають формальні пояснення замість прямої відповіді. Автори вказують, що цей підхід може “непомітно формувати сприйняття, прийняття рішень та поведінку”.

У 2023 році в Китаї набули чинності нові правила, які зобов’язують компанії у сфері ШІ дотримуватися “основних соціалістичних цінностей” і забороняють створювати контент, що підриває національний суверенітет або шкодить іміджу держави. Компанії, чиї продукти можуть забезпечити “соціальну мобілізацію”, повинні проходити оцінку безпеки та подавати алгоритми до Cyberspace Administration of China.

Дослідники наголосили, що ці правила “мають потенціал впливати на результати великих мовних моделей, що розробляються в Китаї”. Водночас вони застерегли, що не всі відмінності у відповідях можна пояснити державним тиском, оскільки моделі також навчаються на наборах даних, які відображають культурний і соціальний контекст країни.

Дослідження Інституту стратегічного діалогу виявило, що популярні ШІ-чатботи регулярно поширюють російську пропаганду щодо війни в Україні. Найбільше ворожих наративів генерували Grok, Deepseek та ChatGPT, тоді як Gemini продемонстрував найвищий рівень обережності до маніпуляцій.