Как распознать изображения, созданные с помощью ИИ, и дипфейки: пошаговое руководство

Не существует единого надежного теста для различия реальной фотографии и изображения, созданного ИИ. Вместо этого исследователи и организации, занимающиеся проверкой фактов, рекомендуют применять несколько проверок — визуальный анализ, метаданные, данные о происхождении и обратный поиск изображений — поскольку каждый метод выявляет разные типы подделок и каждый может быть обманут самостоятельно.

Шаг 1: Внимательно посмотрите на само изображение

Компания по кибербезопасности ESET рекомендует начать с тщательного визуального анализа изображения. Предупреждающие знаки включают неестественное освещение, чрезмерно гладкую текстуру кожи, мерцание или размытые края вокруг объекта, неправильно расположенные глаза, искаженные зубы и необычные схемы мигания в видео. Для видео со звуком проверьте, соответствует ли звук движениям губ, поскольку несоответствия являются частым признаком дипфейка, говорит ESET.

Шаг 2: Проверьте метаданные

ESET советует просмотреть метаданные файла, включая даты создания и изменения, поскольку инструменты для создания дипфейков часто удаляют или изменяют эту информацию, что может привести к несоответствиям, достойным внимания. Отсутствие ожидаемой информации о камере или устройстве или наличие имен программ для редактирования ИИ в данных файла может быть подсказкой, хотя метаданные также можно удалить или подделать, и они не должны рассматриваться как окончательные сами по себе.

Шаг 3: Используйте обратный поиск изображений

Запуск изображения через инструмент обратного поиска изображений, такой как Google Images или TinEye, может показать, появилось ли изображение в другом месте в Интернете, в каком контексте и когда — помогая подтвердить, является ли это старой фотографией, распространяемой с ложным утверждением, или действительно новым изображением, отмечает ESET.

Шаг 4: Проверьте наличие учетных данных содержания или водяных знаков

Инициатива Content Authenticity Initiative (CAI), группа, стоящая за стандартом C2PA, описывает Content Credentials как своего рода «этикетку питания» для цифрового контента: криптографически подписанные метаданные, которые могут записывать, кто создал изображение, когда, какие инструменты использовались и был ли задействован ИИ. Учетные данные защищены от подделок — если изображение или его прикрепленные данные будут изменены после подписи, Content Credentials отметят это изменение, согласно CAI.

Однако CAI четко указывает на ограничения: Content Credentials не объявляют, что контент является поддельным или измененным, и они зависят от того, добавило ли создающее средство учетные данные в первую очередь. Изображение, созданное с помощью ИИ, созданное инструментом, не поддерживающим C2PA, вообще не будет иметь такого ярлыка.

SynthID от Google DeepMind работает иначе: он встраивает невидимый цифровой водяной знак непосредственно в пиксели изображения, когда изображение создается с помощью модели Imagen от Google. Google сообщает, что водяной знак сохраняется при обычных редактированиях, таких как фильтры, изменения цвета, сжатие и регулировка яркости, и инструмент обнаружения возвращает один из трех результатов — «обнаружено», «не обнаружено» или «возможно обнаружено». Водяной знак SynthID работает только на изображениях, созданных собственными моделями Google; он не может определить контент, созданный другими генераторами, такими как Midjourney или Stable Diffusion, согласно DeepMind.

Шаг 5: Будьте осторожны с автоматическими инструментами обнаружения

Оценка исследователей организации WITNESS, опубликованная Reuters Institute for the Study of Journalism в апреле 2024 года, изучила тесты, проведенные в феврале 2024 года на восьми общедоступных детекторах дипфейков — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID и детекторе изображений ИИ с открытым исходным кодом. Она обнаружила, что инструменты обнаружения работают только так же хорошо, как данные, на которых они обучались: детектор, обученный распознавать изображения, созданные ИИ, может дать сбой при дипфейках подмены лиц, а инструменты, обученные в основном на известных государственных деятелях, таких как Владимир Зеленский, испытывали трудности с менее известными людьми.

Та же оценка обнаружила, что простые правки могут обойти детекторы. Обрезка, сжатие или снижение разрешения изображения привели к тому, что некоторые инструменты неправильно классифицировали синтетический контент как подлинный; после того как разрешение известного видео дипфейка Обамы было снижено и часть клипа отредактирована, детектор вернул результат «Дипфейк не обнаружен». Скриншоты аватаров, созданных ИИ, также часто неправильно классифицировались как созданные человеком, обнаружила оценка.

Собрав все вместе

1. Внимательно осмотрите изображение на предмет несоответствий в освещении, текстуре, глазах, руках и фоне.
2. Проверьте доступные метаданные (модель камеры, даты, программное обеспечение) на предмет аномалий.
3. Выполните обратный поиск изображения, чтобы увидеть, где и когда изображение впервые появилось.
4. Проверьте наличие Content Credentials (C2PA) или водяного знака SynthID, если применимо, понимая, что ни то ни другое не охватывает каждый инструмент ИИ.
5. Если вы используете автоматический детектор, рассматривайте его результат как один из нескольких входов, а не как окончательный вердикт — исследователи WITNESS отмечают, что такие инструменты работают лучше всего вместе с другими методами, такими как обратный поиск изображений и геолокация, а не как автономное решение.
6. Перепроверьте утверждение, прикрепленное к изображению, на репутируемых новостных сайтах или в справочных сайтах.

Ни один из методов в этом списке не является достаточным сам по себе. CAI, ESET и оценка WITNESS/Reuters Institute приходят к одному и тому же выводу: данные о происхождении, водяные знаки и автоматические детекторы охватывают только часть проблемы, и объединение нескольких проверок — плюс здравый скептицизм относительно того, откуда пришло изображение и кто его распространяет — остается наиболее надежным подходом, доступным сегодня.