Google представил детектор AI-контента – запишитесь в лист ожидания

Google запустил SynthID Detector — инструмент для выявления контента, созданного искусственным интеллектом. Пока он доступен ограниченному кругу тестировщиков, но компания открыла лист ожидания для журналистов, исследователей и специалистов в области медиа.

SynthID — технология, разработанная Google в 2023 году, — добавляет невидимые водяные знаки в изображения, сгенерированные ИИ. Эти метки остаются даже после редактирования: обрезки, фильтрации или других манипуляций. Теперь система научилась маркировать не только картинки, но и текст, аудио и видео.

Пользователи загружают файл в SynthID Detector, и алгоритм проверяет наличие водяного знака. Результат может быть трёх видов: «обнаружено», «не обнаружено» или «неопределённо». Изображения, созданные Gemini, уже содержат такие метки по умолчанию.

Контекст

Гонка технологических гигантов за лидерство в ИИ привела к взрывному росту инструментов, способных генерировать текст, изображения, аудио и видео, неотличимые от созданных человеком. Это подняло волну опасений о распространении дезинформации и фейков.

Google, Meta, OpenAI и другие компании пытаются решить проблему прозрачности. В ЕС уже действуют GDPR и AI Act, обязывающие разработчиков внедрять механизмы идентификации контента. В США регулирование пока отсутствует, поэтому компании действуют самостоятельно.

Помимо SynthID, Google анонсировала партнёрство с GetReal Security — компанией, специализирующейся на борьбе с цифровой дезинформацией.

Соцсети тоже не остаются в стороне: TikTok и Instagram требуют маркировки AI-контента. Но пока ни один детектор не гарантирует стопроцентной точности — водяные знаки можно обойти, а алгоритмы иногда ошибаются.