У сучасну епоху, коли шахраї використовують генеративний ШІ для афер або паплюження репутації, технологічні компанії розробляють методи, що допомагають користувачам перевіряти контент — насамперед, зображення. Згідно зі стратегією боротьби з дезінформацією на 2024 рік, OpenAI тепер включає метадані про походження в зображення, створені за допомогою ChatGPT на вебсайті та через API DALL-E 3, при цьому мобільні аналоги отримають таке ж оновлення до 12 лютого.

Метадані відповідають відкритому стандарту C2PA (Коаліція за походження та автентичність контенту), і коли таке зображення завантажується у інструмент перевірки Content Credentials Verify, можна відстежити його лінію походження. Наприклад, зображення, створене за допомогою ChatGPT, покаже початковий маніфест метаданих, що вказує на його походження з API DALL-E 3, за яким слідує другий маніфест метаданих, що показує, що воно з’явилося в ChatGPT.

Попри складну криптографічну технологію за стандартом C2PA, цей метод перевірки працює лише тоді, коли метадані залишаються недоторканими; інструмент не має користі, якщо ви завантажуєте зображення, створене ШІ, без метаданих — як це відбувається з будь-яким скріншотом або зображенням, завантаженим у соціальні мережі. Не дивно, що і поточні зразкові зображення на офіційній сторінці DALL-E 3 також не дали результатів. На своїй сторінці з частими запитаннями OpenAI визнає, що це не панацея у війні з дезінформацією, але вважає, що ключем є заохочення користувачів активно шукати такі сигнали.

Хоча останні зусилля OpenAI щодо боротьби з фальшивим контентом наразі обмежені статичними зображеннями, Google’s DeepMind вже має SynthID для цифрового водяного знаку на зображеннях та аудіо, створених ШІ. Тим часом, Meta тестує невидиме водяне знакування за допомогою свого генератора зображень ШІ, яке може бути менш схильне до втручань.

Источник: sundries.ua