Как распознать Deepfakes и изображения, созданные ИИ: пошаговое руководство
Опубликовано:
Коротко
Надежное определение deepfake или изображения, созданного ИИ, требует сочетания визуальных проверок, инструментов проверки происхождения, таких как Content Credentials или SynthID, и поиска по обратному изображению — ни один метод не ловит все фальшивки. Исследователи, занимающиеся обнаружением, предупреждают, что автоматизированные инструменты могут быть обмануты простыми правками, такими как кадрирование или сжатие, поэтому проверка контекста остается необходимой.
Эта версия — машинный перевод оригинала (English). Читать оригинал
Не существует единого инструмента, который ловит каждый deepfake или изображение, созданное ИИ. Фирма кибербезопасности ESET и Институт исследования журналистики Рейтера при Оксфордском университете оба рекомендуют использовать несколько проверок — визуальный осмотр, метаданные происхождения, обнаружение водяных знаков и проверку источника — потому что каждый метод имеет известные слепые пятна.
Шаг 1: Ищите визуальные и звуковые несоответствия
Руководство ESET по выявлению дезинформации, созданной ИИ, перечисляет конкретные визуальные подсказки для проверки в первую очередь: неестественное освещение, чрезмерно гладкая текстура кожи, мерцающие края и размытый фон. Аномалии лица, на которые стоит обратить внимание, включают неправильное выравнивание глаз, искаженные зубы и необычные паттерны мигания. Для видео несоответствие между аудио и движениями губ говорящего — частый признак манипуляции, по словам ESET.
ESET также отмечает, что инструменты, используемые для создания deepfakes, часто изменяют или стирают даты создания и изменения файла, поэтому несовместимые метаданные могут быть вторичной подсказкой.
Шаг 2: Проверьте Content Credentials (C2PA)
Content Credentials, созданные на основе технического стандарта C2PA, записывают информацию об изображении в момент его создания путем криптографической подписи, согласно Инициативе подлинности контента (CAI). CAI описывает эту запись как своего рода этикетку питательной ценности для цифрового контента, показывающую создателя, программное обеспечение или инструмент ИИ, использованный, и был ли файл создан или отредактирован с помощью ИИ, если эта информация была включена создателем.
CAI явно указывает, что Content Credentials не предназначены для заявления о том, является ли контент "реальным": они предоставляют контекст о происхождении, а не приговор. Система также работает только если инструмент создания фактически встраивает манифест.
Шаг 3: Проверьте невидимый водяной знак, такой как SynthID
SynthID от Google встраивает неуловимый цифровой водяной знак прямо в пиксели изображений, созданных его моделью Imagen, согласно Google DeepMind. Отдельная модель обнаружения сканирует изображение на предмет этого паттерна и сообщает один из трех результатов: обнаружен водяной знак (вероятно, созданный ИИ), не обнаружен (маловероятно, созданный ИИ), или возможно обнаружен, в этом случае DeepMind рекомендует относиться к результату с осторожностью.
DeepMind говорит, что водяной знак SynthID разработан для устойчивости к обычным правкам, таким как фильтрация, цветокоррекция, ротация и сжатие JPEG. Однако он только отмечает изображения, которые были помечены при создании Imagen или партнерскими инструментами, использующими SynthID — изображение из модели, которая не использует SynthID, вернет результат "не обнаружено", даже если оно создано ИИ, показывает документация DeepMind.
Шаг 4: Выполните поиск по обратному изображению
Инструменты поиска по обратному изображению, такие как Google Lens или TinEye, могут показать, циркулировало ли изображение ранее в другом контексте, что является одним из наиболее надежных способов поймать переработанные или переименованные визуальные элементы, как отмечают исследователи Института исследования журналистики Рейтера. Если одна и та же картинка появляется вместе со старой, не связанной с ней историей, это сильный сигнал о том, что текущее утверждение о ней ложно, независимо от того, была ли само изображение создано ИИ.
Почему автоматизированные детекторы все еще могут быть обмануты
Обзор инструментов обнаружения ИИ, проведенный Институтом исследования журналистики Рейтера, показал, что простые правки обычно их побеждают. Когда исследователи обрезали и масштабировали вирусное изображение, якобы показывающее взрыв в Пентагоне, программное обеспечение для обнаружения классифицировало измененную версию как подлинную. Снижение разрешения и обрезка хорошо известного deepfake видео Обамы дали аналогичные ложные отрицания, а сжатие в социальных сетях созданного ИИ видео робозвонка Байдена заставило один детектор назвать копию "скорее всего реальной", в то время как исходный несжатый файл набрал 74% вероятности быть подделкой.
В обзоре также отмечается, что детекторы, обученные в основном на известных государственных деятелях, таких как глава государства, хуже работают с менее известными людьми с небольшим присутствием в сети, потому что базовые модели имели меньше проверенных справочных данных для сравнения.
Объединив все вместе
Осмотрите изображение или видео на предмет визуальных и звуковых несоответствий, которые указывает ESET, таких как неестественное освещение, паттерны мигания или несоответствие синхронизации губ.
Проверьте, содержит ли файл метаданные Content Credentials (C2PA), раскрывающие создание ИИ.
Если изображение может быть из модели Google, проверьте его с помощью детектора SynthID от Google для получения результата водяного знака.
Выполните поиск по обратному изображению с помощью Google Lens или TinEye, чтобы увидеть, появилось ли изображение в другом месте в другом контексте.
Рассматривайте любой единственный результат как неубедительный сам по себе и сравните утверждение с освещением в сообщениях от установленных новостных организаций перед тем, как поделиться им, как рекомендуют Институт исследования журналистики Рейтера и ESET.
Инструменты вычислительного обнаружения могут быть отличной отправной точкой как часть процесса проверки, наряду с другими методами с открытым исходным кодом.
— Институт исследования журналистики Рейтера, Оксфордский университет
Вопросы
Может ли одно приложение или веб-сайт надежно сказать мне, является ли изображение deepfake?
Нет. ESET и Институт исследования журналистики Рейтера оба сообщают, что отдельные инструменты обнаружения можно обмануть простыми правками, такими как кадрирование, изменение размера или сжатие, поэтому результаты любого одного инструмента следует рассматривать как отправную точку, а не как окончательный ответ.
В чем разница между Content Credentials и SynthID?
Content Credentials (C2PA) — это метаданные, которые инструмент создания добровольно прикрепляет, заявляя, как был создан файл; SynthID — это невидимый водяной знак на уровне пикселей, встроенный моделью Imagen от Google и проверяемый с помощью отдельного детектора. Оба могут отсутствовать даже на подлинно созданных ИИ изображениях, если инструмент создания их не поддерживает или метаданные удалены.
Почему детекторы deepfake иногда говорят, что реальное изображение ИИ является подлинным?
Институт исследования журналистики Рейтера обнаружил, что правки, такие как кадрирование, снижение разрешения или перепересжатие файла для социальных сетей, могут сдвинуть оценку детектора в сторону "подлинного", даже если базовый контент создан ИИ или манипулирован.
Какие визуальные признаки я должен искать в первую очередь в подозреваемом deepfake видео?
ESET рекомендует проверить согласованность освещения, текстуру кожи, выравнивание глаз, паттерны мигания и то, совпадает ли аудио с движениями губ говорящего.
Обнаруживает ли поиск по обратному изображению создание ИИ?
Не прямо — это обнаруживает, появлялось ли изображение в интернете раньше в другом контексте, что, как отмечает Институт исследования журналистики Рейтера, полезно для обнаружения переработанных реальных фотографий, неправильно описываемых, отдельно от обнаружения генерации ИИ.
Этот материал подготовлен с помощью искусственного интеллекта и перед публикацией прошёл автоматическую проверку источников. Если вы заметили ошибку, запросите исправление. Запросить исправление или ответ · Как мы работаем
Джеффри Хинтон, лауреат Нобелевской премии в области компьютерных наук, известный как «крёстный отец ИИ», говорит, что лучший способ выжить при встрече с всё более интеллектуальными машинами — это разработать их таким образом, чтобы они по-настоящему заботились о людях, а не просто подчинялись им. Выступая на фестивале Starmus на Тенерифе в октябре 2026 года, Хинтон предупредил, что без этого изменения человечество столкнётся с серьёзными последствиями.
Лаборатория искусственного интеллекта Flapping Airplanes, базирующаяся в Сан-Франциско, привлекла $1 млрд в раунде Series A, повысив свою оценку до $6 млрд, примерно в четыре раза выше отметки $1,5 млрд, которую она достигла после раунда посева в размере $180 млн в январе 2026 года. Стартапу годовалого возраста еще не хватает коммерческого продукта, и он сосредоточен на том, чтобы сделать обучение AI-моделей менее зависимым от огромных объемов данных и вычислительных мощностей.
Инструменты генеративного ИИ, такие как чат-боты, генераторы изображений и ассистенты кодирования, преобразуют входные данные в численные данные, а затем создают выходные данные пошагово, используя закономерности, выученные на основе больших наборов данных обучения. Инструменты для работы с текстом и кодом предсказывают следующий токен в последовательности, используя модели трансформер, в то время как инструменты для работы с изображениями, такие как Imagen, постепенно удаляют шум из случайного паттерна, пока не появится изображение, соответствующее текстовому запросу.
ИИ-чатботы построены на основе больших языковых моделей (LLM), нейронных сетей, обученных предсказывать следующий "токен" в последовательности текста. Они преобразуют слова в числа, используют механизм внимания для взвешивания того, как слова связаны друг с другом, и затем точно настраиваются с помощью человеческой обратной связи, чтобы вести себя как полезные помощники, а не как сырые предсказатели текста.
