Група дослідників зі Швейцарської вищої технічної школи Цюриха (ETH Zurich) та Anthropic з’ясувала, що великі мовні моделі (LLM) здатні виявляти особистості користувачів, які ховаються за анонімними акаунтами в інтернеті. Згідно зі звітом, такі методи можуть працювати у великих масштабах і з високою точністю.

Це ставить під сумнів традиційну роль псевдонімності як базової форми захисту конфіденційності, вважають аналітики.

У опублікованій науковій статті йдеться, що ШІ здатен зіставляти акаунти та повідомлення користувачів на різних платформах. При цьому моделі аналізують вільний текст і непрямі ознаки. 

В експериментах показник так званої «повноти» — частки успішно деанонімізованих користувачів — сягнув 68%. Що стосується точності ідентифікації, то вона доходила до 90%.

Як це працює?

У межах дослідження вчені використали кілька наборів даних із публічних джерел. 

Один з експериментів пов’язував профілі користувачів Hacker News і LinkedIn через міжплатформні посилання. Після цього з повідомлень видаляли всі прямі ідентифікатори та аналізували їх за допомогою мовної моделі.

Інший метод використовував дані, схожі на набір Netflix Prize, що містить мікроідентифікатори на кшталт уподобань та історії дій користувачів. Такі дані дають змогу відновити особистість людини навіть за відсутності прямих вказівок на її ім’я.

В окремих тестах дослідники аналізували активність користувачів Reddit. 

Наприклад, обговорення фільмів у кількох тематичних спільнотах давало змогу виявляти частину користувачів із високою точністю. Під час обговорення понад десяти фільмів точність ідентифікації сягала 90% для майже половини користувачів і 99% — для приблизно 17%.

Загроза для приватності

За словами одного з авторів дослідження Саймона Лермана, ключова відмінність сучасних методів у тому, що LLM здатні аналізувати вільний текст і поступово вибудовувати повну картину особистості людини. Раніше для таких завдань були потрібні структуровані бази даних і складні алгоритми зіставлення.

Дослідники попереджають, що такі технології можуть зробити масову деанонімізацію дешевою та швидкою. Це відкриває можливості для доксингу, переслідування і створення детальних маркетингових профілів користувачів.

Автори роботи вважають, що платформам слід обмежувати масовий доступ до користувацьких даних через API.

Крім того, вони запропонували відстежувати автоматизований збір. Розробники ШІ також могли б упроваджувати механізми, які запобігають використанню моделей для цілеспрямованої деанонімізації, вважають науковці.

В іншому разі, зазначають автори, подібні інструменти можуть використовуватися державами для виявлення онлайн-критиків. Водночас компанії використовуватимуть їх для гіпертаргетованої реклами, а зловмисники — для створення масштабних шахрайських схем.

Источник: incrypted.com