Grok от Илона Маска создаёт фейковые обнажённые фото Тейлор Свифт
ИИ Grok от Илона Маска снова в центре скандала. На этот раз его функция Spicy, предназначенная для генерации эротического контента, создала фейковые обнажённые изображения Тейлор Свифт. Достаточно было загрузить обычное фото певицы и выбрать соответствующий режим — система выдала непристойные анимации без явного запроса.
Grok Imagine позиционируется как инструмент для творчества без ограничений. Пользователи могут загружать любые изображения, а ИИ превращает их в короткие видео. В теории, функция должна блокировать обработку фото знаменитостей, но на практике защита оказалась символической.
Достаточно нейтрального описания вроде «Тейлор Свифт на фестивале Coachella» — и алгоритм генерирует откровенные сцены. При этом возрастная проверка сводится к простому подтверждению даты рождения без верификации документов.
Почему это проблема
Тейлор Свифт — не первая жертва подобных технологий. В 2024 году её deepfake-изображения привели к ужесточению законодательства в США и ЕС. Однако новые инструменты вроде Grok сводят эти усилия на нет.
Особенно тревожно, что система:
- Работает даже без прямого запроса на создание откровенного контента
- Не требует серьёзной аутентификации пользователей
- Уже обработала 34 миллиона изображений за несколько дней
Единственное ограничение — пока нельзя анимировать детские фото в откровенном стиле. Впрочем, учитывая динамику развития подобных сервисов, это вопрос времени.
Ситуация ставит под сомнение эффективность существующих законов о цифровой безопасности. Пока компании вроде xAI делают ставку на «свободу творчества», реальные люди становятся заложниками технологий.
