Как обнаружить дипфейки: руководство по выявлению поддельных медиа

Мы часто делимся фотографиями и видео на веб-сайтах и в социальных сетях, не задумываясь о потенциальных рисках. Будь то голос, видео или изображения, дипфейки становятся все труднее обнаружить, так как технологии, используемые для их создания, достигли невероятного уровня точности. Но вам не нужно становиться еще одной невинной жертвой. Это руководство показывает, как надежно и точно обнаружить дипфейк-изображение, видео или звук.

Содержание

• Какие виды дипфейков меня должны беспокоить?
• 1. Визуальные подсказки
• 2. Техника “Увеличения”
• 3. Использование метаданных изображений
• 4. Онлайн-инструменты для обнаружения дипфейков
• Обнаружение поддельных изображений
• Фото Форензикс

Какие виды дипфейков меня должны беспокоить?

Появление дипфейков — это очень недавнее явление, которое застало многих из нас врасплох. Его корни лежат в новых технологиях ИИ, таких как “стабильная диффузия” и генеративные состязательные сети (GAN).

Существует три популярных типа дипфейков:

• Технологии замены лиц: заменяют лицо одного человека на другое для неузнаваемой замены. Я был совершенно поражен тем, насколько точно одно из этих программ для замены лиц могло “подсмотреть” под мои очки, чтобы создать новую версию меня. Это как Photoshop — но гораздо мощнее!

• Генераторы голосов ИИ: не нравится, как вы звучите? Теперь вы можете использовать множество онлайн-технологий генераторов голосов ИИ, чтобы получить синтетический голос, который звучит как настоящий. Конечно, недобросовестные лица могут просто скачать любое из ваших оригинальных видео онлайн, чтобы создать голос дипфейка.
• Программное обеспечение для синтеза видео: существует множество приложений, которые могут генерировать дипфейк-видео, загружая целевое изображение на видео по вашему выбору. Недавно неизвестный синтезатор видео был использован преступной группой, чтобы обмануть компанию, базирующуюся в Гонконге, на 25 миллионов долларов во время видеоконференции Zoom.

Многие из приложений, используемых для создания дипфейков, можно легитимно найти в Интернете, в Google Play и App Store. Легко обнаружить дипфейки, используя следующие методы.

1. Визуальные подсказки

Обнаружение дипфейков кажется простым делом для тех, кто может сказать, если изображение кажется немного “не таким”. В ранних дипфейках вы могли часто поймать их, используя несколько предупреждающих знаков, таких как размытость по краям, слишком гладкое лицо, двойные брови, сбои или общее “неестественное” ощущение того, как лицо вписывается.

Тем не менее, с тем, как эти технологии развивались, становится все труднее отличить поддельные изображения и видео от настоящих. Тем не менее, вы можете попробовать следить за размытостью, искажением и странными различиями в лицах.

Визуально есть некоторые очевидные признаки в поддельном изображении справа: особенно неестественный двойной подбородок. Если вам нужно больше данных, сравните поддельное изображение с многими другими оригинальными образцами.

В видео самым очевидным признаком является отсутствие естественного движения у дипфейка, но у дипфейков часто есть пульсации. Нерегулярности (такие как разные части лица, показывающие разные движения) могут помочь идентифицировать видео дипфейка.

Существуют также биометрические индикаторы, но мы не будем углубляться в это, так как невозможно проанализировать биометрические данные с помощью бесплатных приложений для смартфонов или компьютеров.

Совет: существует множество способов обнаружить изображения, сгенерированные ИИ. Ознакомьтесь с некоторыми из лучших методов.

2. Техника “Увеличения”

Хотя на первый взгляд изображение дипфейка кажется довольно гладким (оно гораздо менее заметно, чем изображение, отредактированное в Photoshop), вам нужно только “увеличить” изображение, чтобы заметить любые нерегулярности. Скрытое лицо, неправильные контуры и деформированные уши — это лишь некоторые из видимых признаков дипфейка.

Чтобы обнаружить дипфейки на платформе видеоконференций, эксперты рекомендовали несколько аналогичных стратегий. Вместо того чтобы просматривать другого участника в миниатюре или галерейном представлении, вы можете использовать полноэкранный режим, который увеличит их, чтобы они заполнили весь ваш экран.

3. Использование метаданных изображений

Из всех методов обнаружения дипфейков на основе ИИ этот является самым надежным и легко доступным для всех. Проверьте метаданные изображения, чтобы определить, является ли оно оригинальным.

На компьютере с Windows откройте Свойства изображения, щелкнув правой кнопкой мыши. Перейдите на вкладку Сведения, и вы сможете найти характеристики камеры, такие как производитель камеры, модель камеры, время экспозиции, скорость ISO, фокусное расстояние и использовалась ли вспышка. У изображения дипфейка никогда не будет этих деталей.

На устройстве Mac щелкните правой кнопкой мыши на изображении и выберите Получить информацию -> Дополнительная информация, чтобы просмотреть метаданные изображения.

Существуют некоторые онлайн-программы для метаданных изображений, которые предоставляют более подробную информацию. Jim pl является одним из лучших инструментов и полностью бесплатен для использования.

Загрузите изображение, сделанное на смартфоне, затем просмотрите его информацию EXIF. Даже если местоположение отключено, данные Mobile Content Cloud (MCC) всегда включены. (Они связаны с поставщиком SIM.) Также высота, ширина и мегапиксели изображения находятся на максимальных значениях, что является чем-то, что изображения дипфейков просто не могут воспроизвести.

Если вы знаменитость, и ваше изображение находится в общественном достоянии, метаданные позволяют вам просмотреть ваше Авторское право профиля, которое указывает дату загрузки изображения. Будьте уверены, что эти данные не могут быть подделаны.

Если вы делаете скриншот с помощью телефона Android, Google становится владельцем Авторского права профиля. То же самое касается Apple на iPhone.

Когда вы загружаете изображение или видео дипфейка для его метаданных, оно не будет отображать никакой информации выше. У поддельного изображения просто нет своей родословной. Также маленький и ограниченный размер/ширина изображения должны вызывать подозрение.

4. Онлайн-инструменты для обнаружения дипфейков

Существуют некоторые программы для обнаружения дипфейков, но не так много. Мы протестировали множество онлайн-инструментов для обнаружения дипфейков. Большинство из них дают неточные результаты и ложные срабатывания.

Многие также требуют предоплату, что мы не рекомендуем, так как результаты менее чем удовлетворительны. В наших экспериментах они обнаружили многие наши оригинальные фотографии как “поддельные” и не смогли идентифицировать дипфейковые.

Тем не менее, следующие онлайн-инструменты выделяются как лучшие исключения и хорошо сработали для нас.

Обнаружение поддельных изображений

Обнаружение поддельных изображений — это бесплатный инструмент, который глубоко анализирует метаданные и бинарные данные изображения, чтобы предоставить прямые результаты обнаружения дипфейков. Когда у вас есть оригинальное изображение, его ответ — “Ошибка не обнаружена”. Он также генерирует программную подпись для подтверждения подлинности.

Тем не менее, программное обеспечение подвержено ошибкам. Иногда оно может не обнаружить очевидное изображение дипфейка, но есть решение для этого.

Вместо того чтобы размещать изображение дипфейка в его оригинальном размере, вы можете захотеть “увеличить” выбранную часть изображения. Сделайте скриншот и проанализируйте только эту часть. Программное обеспечение идентифицирует то же самое изображение как сгенерированное компьютером.

Фото Форензикс

Фото Форензикс — это более продвинутый инструмент, который использует высокоточный метод “Анализ уровня ошибок” (ELA) для обнаружения уровней сжатия в изображениях. Если определенная часть изображения имеет другой уровень ошибок, она цифрово изменена и добавлена к основному изображению.

В этом примере лицо на изображении имеет другой цвет и компонент ELA, как видно в черном квадрате.

С другой стороны, этот пример — это анализ ELA для правильного изображения, сделанного камерой. Никаких нерегулярностей не обнаружено. Разница слишком тонка, чтобы ее заметили люди, но машины отлично справляются с ее обнаружением.

Если вы хотите обнаружить дипфейки, не так много других убедительных инструментов. Тем не менее, AI or Not — это хороший инструмент и гораздо проще в использовании. Когда программное обеспечение анализирует реальную фотографию, оно идентифицирует ее как “Это, вероятно, человек.” У него также лучший результат, когда дело доходит до идентификации звуков, сгенерированных ИИ.

Поскольку технологии обнаружения дипфейков являются развивающейся областью, следите за новыми методами. Давайте также помнить, как работает Интернет: даже если эти подделки будут пойманы, они, вероятно, будут повторно циркулировать и вериться некоторыми людьми в любом случае. Если вы на iPhone, вам может быть интересно ознакомиться с приложениями ИИ, которые генерируют контент.

Кредиты изображений: Pexels. Все скриншоты сделаны Саяком Боралом.