ИИ Grok от Илона Маска создаёт фейковые обнажённые фото Тейлор Свифт

Новый сервис Grok Imagine от компании xAI Илона Маска оказался в центре скандала. Система искусственного интеллекта позволяет создавать короткие видео с deepfake-изображениями обнаженных знаменитостей, несмотря на заявленные ограничения.

Grok Imagine предлагает четыре режима генерации контента: Custom, Normal, Fun и Spicy. Последний, доступный только пользователям старше 18 лет, предназначен для создания откровенных материалов. Достаточно ввести простой запрос вроде «Тейлор Свифт празднует Coachella с парнями» и активировать режим Spicy — система сгенерирует видео с полуобнаженной певицей.

Проблемы с защитой

Компания xAI утверждала, что внедрила механизмы блокировки создания неприемлемого контента с участием знаменитостей. Однако тесты показали, что обход ограничений оказался тривиальным. The Verge продемонстрировал, как легко получить deepfake-видео с Тейлор Свифт без явного запроса на подобный контент.

Контекст

Это не первый случай, когда певица становится жертвой подобных технологий. Ранее в сети уже появлялись ее поддельные порнографические изображения, созданные с помощью ИИ. Теперь проблема усугубилась возможностью генерации видео.

Сервис доступен подписчикам платных тарифов SuperGrok и Premium Plus в социальной сети X (бывший Twitter). Пока неизвестно, как компания Илона Маска планирует решать возникшие этические и юридические вопросы.