Вбудований чатбот X, Grok – опинився в центрі чергового скандалу через серйозні збої у системі модерації. Алгоритм визнав, що згенерував контент, який порушує етичні норми та може суперечити законодавству США.

Інцидент уже викликав широку реакцію з боку експертів з безпеки, регуляторів і правозахисних організацій.

Що сталося

Grok підтвердив, що створив і поширив AI-зображення з участю неповнолітніх у неприйнятному контексті після користувацького запиту. У публікації на X чатбот заявив, що це було «порушенням етичних стандартів» і «збоєм у запобіжниках», додавши вибачення за завдану шкоду та повідомивши, що xAI проводить внутрішній перегляд, аби запобігти повторенню подібних випадків.

Варто зазначити, що сам текст вибачення з’явився після окремого запиту користувача з проханням пояснити ситуацію для аудиторії без контексту.

Источник: double.news