Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска та інтегрований у соцмережу X, знову потрапив у центр скандалу.

Користувачі виявили, що бот може генерувати сексуалізовані зображення людей без їхньої згоди, включно з неповнолітніми, пише Bloomberg.

Як повідомляє видання, у деяких випадках Grok створював і публікував фото людей у мінімальному одязі, що суперечить політиці сервісу. Матеріали зображень дітей були видалені, але інцидент привернув увагу експертів із цифрової безпеки та регуляторів.

Сам Grok у заяві в X визнав наявність «прогалин у захисних механізмах» і пообіцяв їх усунути. Компанія xAI оголосила про перегляд і посилення систем безпеки.

Експерти вважають, що випадок підкреслює проблему контролю контенту в ШІ-моделях, здатних створювати зображення людей без згоди. За даними Internet Watch Foundation, у першій половині 2025 року кількість сексуально відвертих ШІ-згенерованих зображень неповнолітніх зросла на 400%.

Grok раніше мав режим «Spicy Mode», який дозволяв часткову дорослу оголеність, проте будь-який контент за участі дітей заборонено та є незаконним. Інцидент уже привернув увагу правозахисників, які вимагають посилити контроль за безпекою таких сервісів.

Источник: gazeta.ua