Новый инструмент помогает ставить водяные знаки и идентифицировать синтетические изображения, созданные Imagen.

Изображения, созданные с помощью искусственного интеллекта, с каждым днем ​​становятся все популярнее. Но как нам лучше их идентифицировать, особенно если они выглядят настолько реалистично?

Сегодня в партнерстве с Google Облакомы запускаем бета-версию SynthID, инструмента для нанесения водяных знаков и идентификации изображений, созданных искусственным интеллектом. Эта технология встраивает цифровой водяной знак непосредственно в пиксели изображения, делая его незаметным для человеческого глаза, но обнаруживаемым для идентификации.

SynthID доступен ограниченному числу пользователей. Вертексный ИИ клиенты, использующие Изображениеодна из наших последних моделей преобразования текста в изображение, которая использует вводимый текст для создания фотореалистичных изображений.

Технологии генеративного искусственного интеллекта быстро развиваются, и изображения, созданные компьютером, также известные как «синтетические изображения», становится все труднее отличить от тех, которые не были созданы системой искусственного интеллекта.

Хотя генеративный ИИ может раскрыть огромный творческий потенциал, он также таит в себе новые риски, например, позволяя авторам распространять ложную информацию — как намеренно, так и непреднамеренно. Возможность идентифицировать контент, созданный ИИ, имеет решающее значение для предоставления людям знаний о том, когда они взаимодействуют с созданными медиа, а также для предотвращения распространения дезинформации.

Мы стремимся предоставлять людям высококачественную информацию и поддерживать доверие между создателями и пользователями в обществе. Частью этой ответственности является предоставление пользователям более совершенных инструментов для идентификации изображений, созданных ИИ, чтобы их изображения — и даже некоторые отредактированные версии — можно было идентифицировать позже.

Google Cloud — первый поставщик облачных услуг, предлагающий инструмент для ответственного создания изображений, сгенерированных искусственным интеллектом, и их уверенной идентификации. Эта технология основана на нашем подходе к разработке и внедрению ответственного искусственного интеллекта. Она была разработана Google DeepMind и усовершенствована в сотрудничестве с Google Research.

SynthID не защищен от экстремальных манипуляций с изображениями, но он обеспечивает многообещающий технический подход, позволяющий людям и организациям ответственно работать с контентом, созданным искусственным интеллектом. Этот инструмент также может развиваться вместе с другими моделями и модальностями ИИ, выходящими за рамки изображений, таких как аудио, видео и текст.

Новый тип водяных знаков для изображений AI

Водяные знаки — это рисунки, которые можно накладывать на изображения для их идентификации. От физических отпечатков на бумаге до полупрозрачного текста и символов, которые сегодня можно увидеть на цифровых фотографиях, они развивались на протяжении всей истории.

Традиционных водяных знаков недостаточно для идентификации изображений, созданных искусственным интеллектом, поскольку они часто наносятся как штамп на изображение и могут быть легко отредактированы. Например, отдельные водяные знаки в углах изображения можно обрезать с помощью базовых методов редактирования.

Найти правильный баланс между незаметностью и устойчивостью к манипуляциям с изображениями сложно. Хорошо видимые водяные знаки, часто добавляемые в виде слоя с названием или логотипом в верхней части изображения, также создают эстетические проблемы для творческих или коммерческих целей. Аналогичным образом, некоторые ранее созданные незаметные водяные знаки могут быть потеряны из-за простых методов редактирования, таких как изменение размера.

Мы разработали SynthID так, чтобы он не ставил под угрозу качество изображения и позволял обнаружить водяной знак даже после таких модификаций, как добавление фильтров, изменение цветов и сохранение с использованием различных схем сжатия с потерями — наиболее часто используемых для JPEG.

SynthID использует две модели глубокого обучения — для нанесения водяных знаков и идентификации — которые были обучены вместе на разнообразном наборе изображений. Комбинированная модель оптимизирована для решения ряда задач, включая правильную идентификацию контента с водяными знаками и повышение незаметности за счет визуального выравнивания водяного знака с исходным контентом.

Надежный и масштабируемый подход

SynthID позволяет клиентам Vertex AI ответственно создавать изображения, сгенерированные искусственным интеллектом, и уверенно их идентифицировать. Хотя эта технология не идеальна, наше внутреннее тестирование показывает, что она точна против многих распространенных манипуляций с изображениями.

Комбинированный подход SynthID:

• Водяные знаки: SynthID может добавлять незаметный водяной знак к синтетическим изображениям, созданным Imagen.
• Идентификация: сканируя изображение на наличие цифрового водяного знака, SynthID может оценить вероятность того, что изображение будет создано Imagen.

Этот инструмент предоставляет три уровня достоверности для интерпретации результатов идентификации водяных знаков. Если обнаружен цифровой водяной знак, часть изображения, скорее всего, создана Imagen.

SynthID вносит свой вклад в широкий набор подходов к идентификации цифрового контента. Одним из наиболее широко используемых методов идентификации контента является использование метаданных, которые предоставляют информацию о том, кто его создал и когда. Эта информация хранится в файле изображения. Цифровые подписи, добавленные к метаданным, могут показать, было ли изменено изображение.

Когда информация метаданных не повреждена, пользователи могут легко идентифицировать изображение. Однако метаданные могут быть удалены вручную или даже потеряны при редактировании файлов. Поскольку водяной знак SynthID встроен в пиксели изображения, он совместим с другими подходами к идентификации изображений, основанными на метаданных, и остается обнаруживаемым даже при потере метаданных.

Что дальше?

Чтобы ответственно создавать контент, генерируемый искусственным интеллектом, мы стремимся разрабатывать безопасные, надежные и заслуживающие доверия подходы на каждом этапе пути — от создания и идентификации изображений до медиаграмотности и информационной безопасности.

Эти подходы должны быть надежными и адаптируемыми по мере развития генеративных моделей и их распространения на другие среды. Мы надеемся, что наша технология SynthID сможет работать вместе с широким спектром решений для авторов и пользователей во всем обществе, и мы продолжаем развивать SynthID, собирая отзывы пользователей, расширяя его возможности и изучая новые функции.

SynthID может быть расширен для использования в других моделях искусственного интеллекта, и мы воодушевлены возможностью интеграции его в большее количество продуктов Google и предоставления его третьим сторонам в ближайшем будущем, что даст людям и организациям возможность ответственно работать с контентом, созданным искусственным интеллектом.

Примечание. Модель, используемая для создания синтетических изображений в этом блоге, может отличаться от модели, используемой в Imagen и Vertex AI.