Що відбувається

Об’єднане командування спеціальних операцій (JSOC) – таємна контртерористична група при Міністерстві оборони США — опублікувала документ зі своїми побажаннями та запитами до розробників штучного інтелекту. У ньому розкривають зацікавленість відомства у використанні генеративного ШІ, повідомляє The Intercept, а також надають список конкретних потреб. Одним із варіантів застосування технології вказали створення фальшивих інтернет-користувачів.

У документі JSOC пояснює, що шукає «технології, які можуть створювати переконливі онлайн-персони для використання на платформах соціальних медіа, в соціальних мережах та іншому онлайн-контенті». Це повинно включати зображення обличчя і фону, відео з обличчям і фоном, а також звук (імовірно, генерування голосу).

Такі віртуальні «агенти» будуть використовувати свої можливості для «збору інформації з публічних онлайн-форумів». Іншими словами, JSOC хоче надати своїм командам спеціального призначення технологію для створення складних, виготовлених на замовлення фейків зі штучним інтелектом, здатних переконати користувачів соціальних мереж у тому, що вони є справжніми. І все це заради кращої розвідки.

З одного боку, не можна сказати, що спецслужби вже не ховаються на форумах і в соціальних мережах. Але тепер ця присутність вийде на новий рівень – автоматизований, швидший, розумніший, уважніший, здатний робити кращі висновки і шукати більше взаємозв’язків. Така увага до штучного інтелекту є помітним зрушенням до розвідувальних операцій у мережі.

Неясно, чи будуть такі ШІ-агенти здатні до спілкування з реальними людьми, наприклад, вести листування в особистих повідомленнях. Але цілком може виявитись, що десь на умовному Reddit хтось буде спілкуватися саме з віртуальним персонажем Пентагону, а не з живою людиною.

Вчені не дуже задоволені

У той час, як Пентагон намагається використати ШІ для покращення своєї цифрової діяльності, експерти попереджають, що використання технологій американським оборонним сектором дасть зелене світло аналогічним оманливим практикам для країн по всьому світу.

Це лише заохотить інших військових або супротивників робити те ж саме, – каже в інтерв’ю The Intercept Хейді Клааф, науковиця у сфері ШІ в AI Now Institute.

Клааф вважає, що це призведе до створення суспільства, в якому все важче буде відрізнити правду від вигадки, і заплутає геополітичну сферу. Що ж, комусь варто знову зануритись у теорію мертвого інтернету, щоб зрозуміти, що все вже давно захоплене ботами на основі ШІ.