Google объявила о глобальном запуске SynthID Detector — онлайн-сервиса, предназначенного для проверки изображений, видеороликов и аудиозаписей на наличие цифровых отметок искусственного интеллекта. Инструмент позволяет выяснить, использовались ли технологии генеративного ИИ при создании или обработке медиаконтента. Главная особенность платформы заключается в поддержке невидимых водяных знаков не только Google, но и ряда других технологических компаний, включая OpenAI, Nvidia и Kakao. В перспективе к ним должна присоединиться Apple.

Новый сервис доступен пользователям по всему миру через сайт synthid.com. Для проверки достаточно авторизоваться и загрузить интересующий файл. Система анализирует встроенные цифровые маркеры и, если обнаруживает совместимую маркировку, сообщает о её наличии. Для изображений и видео предусмотрена дополнительная возможность выделения областей, содержащих водяной знак. При этом SynthID Detector не является универсальным определителем любого ИИ-контента: его возможности зависят от наличия поддерживаемой маркировки, поэтому отсутствие обнаруженного знака само по себе не доказывает подлинность материала.

Что представляет собой SynthID Detector

Развитие генеративного искусственного интеллекта заметно усложнило задачу определения происхождения цифрового контента. Современные нейросети способны создавать реалистичные фотографии, видеозаписи и голоса, которые зачастую трудно отличить от материалов, полученных традиционными способами.

Для решения этой проблемы Google развивает технологию SynthID, созданную специалистами подразделения DeepMind.

Её основная задача — внедрение специальной цифровой маркировки в материалы, сформированные или изменённые искусственным интеллектом.

SynthID Detector представляет собой инструмент для обнаружения такой маркировки. Вместо попыток определить происхождение изображения исключительно по визуальным признакам сервис анализирует наличие встроенного цифрового сигнала.

Это принципиально иной подход по сравнению с обычными классификаторами ИИ-контента, которые оценивают характерные особенности изображения, звука или видео и на основании этих признаков делают вероятностный вывод.

Как работают невидимые водяные знаки SynthID

Технология SynthID была представлена Google DeepMind в 2023 году. Её отличительная особенность заключается в том, что маркировка встраивается непосредственно в создаваемый материал и не требует размещения видимого логотипа.

Способ внедрения зависит от типа контента.

В изображениях цифровая отметка интегрируется в данные пикселей таким образом, чтобы не создавать заметных визуальных изменений.

В видеороликах маркировка может присутствовать в отдельных кадрах, позволяя системе обнаруживать участки, связанные с генеративными технологиями.

В аудиозаписях специальный сигнал внедряется в характеристики звукового содержимого, оставаясь практически незаметным для человеческого слуха.

Технология SynthID также предусматривает маркировку текста, созданного определёнными языковыми моделями. Однако возможности проверки текстовых материалов следует отличать от функций публичного сервиса, ориентированного на анализ медиафайлов.

Важным преимуществом такого подхода является независимость от обычных метаданных файла.

Метаданные могут исчезнуть при пересохранении, публикации в социальных сетях или передаче через различные сервисы. Встроенный цифровой знак потенциально способен переживать некоторые подобные преобразования.

Вместе с тем его устойчивость не абсолютна. Сильная обработка, изменение содержимого или другие преобразования могут затруднить обнаружение маркировки.

Google сообщает о масштабном использовании технологии

За несколько лет SynthID превратилась из экспериментальной разработки в инструмент, применяемый при создании огромного количества цифровых материалов.

Согласно опубликованным Google данным, с момента запуска технологии цифровыми водяными знаками были отмечены более 180 миллиардов изображений и видеороликов.

Кроме того, маркировка применялась к аудиоматериалам, суммарная продолжительность которых, по оценке компании, составляет около 240 тысяч лет.

Эти показатели демонстрируют масштаб использования технологии в продуктах генеративного искусственного интеллекта.

При этом количество промаркированных материалов не следует путать с числом уникальных пользователей или успешно проведённых проверок.

Google приводит эти данные прежде всего как показатель распространения самой системы цифровой маркировки.

Поддержка OpenAI, Nvidia и других компаний

Одним из наиболее значимых изменений стала возможность проверки маркировки, связанной с технологиями нескольких разработчиков искусственного интеллекта.

Ранее подобные инструменты преимущественно работали внутри собственных экосистем компаний.

Например, возможности проверки через Gemini были ориентированы на водяные знаки, добавленные средствами Google. Аналогичным образом инструменты OpenAI предназначались для обнаружения маркировки, используемой собственными продуктами компании.

SynthID Detector должен сделать этот процесс более универсальным.

В число заявленных партнёров входят:

• Google — разработчик технологии SynthID и одноимённого сервиса проверки.

• OpenAI — компания, развивающая генеративные модели для создания текста, изображений и других материалов.

• Nvidia — производитель вычислительных платформ и разработчик технологий искусственного интеллекта.

• Kakao — южнокорейская технологическая компания, развивающая собственные цифровые и ИИ-сервисы.

• Apple — ожидается присоединение к поддерживаемой экосистеме в дальнейшем.

Важно учитывать, что поддержка конкретной компании не обязательно означает возможность обнаружения любого файла, созданного всеми её инструментами.

Результат проверки зависит от того, используется ли совместимая маркировка в конкретном продукте и сохранилась ли она в исследуемом материале.

Сервис способен показывать участки с цифровой маркировкой

Помимо определения наличия водяного знака, SynthID Detector предлагает дополнительную функцию визуального анализа.

При проверке изображения или видео система может выделять области, в которых обнаружены признаки встроенной маркировки.

Это особенно полезно при работе с материалами, которые могли подвергаться частичному редактированию.

Например, фотография может содержать как исходные элементы, так и фрагменты, обработанные генеративными инструментами.

В таких случаях локализация обнаруженного сигнала помогает лучше понять результаты проверки.

Однако подсветка определённой области не должна автоматически восприниматься как исчерпывающее доказательство того, каким именно способом изменялось изображение.

Она указывает на обнаружение поддерживаемого цифрового маркера, а не восстанавливает полную историю создания файла.

Как проверить изображение, видео или аудиозапись

Google сделала SynthID Detector доступным через отдельную веб-платформу.

Для использования инструмента необходимо выполнить несколько действий:

1. Перейти на официальный сайт SynthID Detector.

2. Авторизоваться с помощью поддерживаемой учётной записи.

3. Загрузить изображение, видеоролик или аудиофайл.

4. Дождаться завершения анализа.

5. Ознакомиться с результатами проверки и дополнительной информацией об обнаруженной маркировке.

Согласно представленным сведениям, для входа поддерживаются учётные записи Google, Apple и OpenAI.

При этом возможность проверки файлов без авторизации пока не предусмотрена.

Несмотря на глобальный запуск, интерфейс сервиса на момент объявления доступен только на английском языке.

Google также не уточнила, появятся ли в дальнейшем дополнительные способы авторизации и локализация интерфейса для других языков.

Можно ли доверять результатам проверки ИИ-контента

Появление общедоступного инструмента цифровой маркировки — важное событие для пользователей, журналистов, редакций и специалистов, работающих с медиаматериалами.

Однако необходимо понимать ограничения технологии.

SynthID Detector ищет определённые встроенные маркеры, а не устанавливает подлинность файла по всем возможным признакам.

Поэтому возможны две принципиально разные ситуации.

Если совместимый водяной знак обнаружен, это указывает на использование технологии, которая внедрила соответствующую маркировку.

Если водяной знак отсутствует, нельзя однозначно утверждать, что материал создан человеком или получен с помощью обычной камеры.

Файл мог быть сгенерирован системой, которая не применяет SynthID или другую поддерживаемую маркировку. Кроме того, цифровой знак мог быть повреждён в процессе обработки.

Следовательно, подобные инструменты наиболее полезны как один из элементов проверки происхождения контента, а не как единственный источник окончательного заключения.

Для более надёжной оценки по-прежнему могут потребоваться анализ первоисточника, изучение контекста публикации и сопоставление материала с другими данными.

Почему единая система проверки важна для интернета

Распространение генеративного ИИ создаёт новые возможности для творчества, разработки цифровых продуктов и производства медиаконтента.

Одновременно растёт потребность в инструментах, которые позволяют определить происхождение опубликованных материалов.

Особенно актуальна эта задача для новостных организаций, социальных платформ и сервисов, где пользователи ежедневно сталкиваются с большим количеством фотографий, видео и аудиозаписей.

Невидимая цифровая маркировка может стать одним из способов повышения прозрачности использования искусственного интеллекта.

Если разработчики будут применять совместимые методы маркировки, пользователям станет проще проверять происхождение материалов без необходимости обращаться к отдельному инструменту каждой компании.

При этом эффективность подобной системы напрямую зависит от распространённости стандартов, их совместимости и устойчивости к изменениям файлов.

Другие разработчики ИИ также изучают цифровую маркировку

Google не единственная компания, которая работает над механизмами определения происхождения генеративного контента.

В частности, Anthropic сообщила о возможностях добавления водяных знаков в текст, создаваемый Claude.

Маркировка текстовой информации представляет отдельную техническую задачу, поскольку текст гораздо проще изменить, переписать или перевести без сохранения исходной структуры.

Поэтому подходы к идентификации сгенерированных текстов могут существенно отличаться от методов, применяемых к изображениям и аудиозаписям.

Развитие подобных технологий свидетельствует о растущем интересе индустрии к прозрачности происхождения цифровых материалов.

В перспективе различные методы проверки могут дополнять друг друга, формируя более комплексную систему подтверждения источников контента.

Что изменится после открытия SynthID Detector

Ранее инструменты проверки цифровой маркировки нередко были ограничены отдельными платформами или доступны преимущественно профессиональным пользователям.

Глобальный запуск SynthID Detector делает такую проверку значительно доступнее.

Теперь обычные пользователи могут самостоятельно анализировать медиафайлы на наличие поддерживаемых невидимых водяных знаков, а специалисты — использовать дополнительный инструмент при работе с сомнительными материалами.

Важным преимуществом становится объединение нескольких технологических экосистем в одном сервисе.

Однако дальнейшая практическая ценность платформы будет зависеть от того, насколько широко производители генеративных моделей начнут использовать совместимую маркировку.

Открытие SynthID Detector — заметный шаг к более прозрачному использованию искусственного интеллекта в интернете. Сервис не способен обнаружить абсолютно любой сгенерированный материал, но предоставляет пользователям доступный способ проверки цифровых следов ИИ там, где соответствующая маркировка действительно применяется.