딥페이크 탐지 방법: 가짜 미디어 식별 가이드

딥페이크 탐지 방법을 설명하는 대표 이미지 (출처: Pexels).

우리는 종종 잠재적인 위험을 고려하지 않고 웹사이트와 소셜 미디어에 사진과 비디오를 공유합니다. 음성, 비디오 또는 이미지 등을 통해 딥페이크는 점점 더 탐지하기 어려워지고 있으며, 이를 생성하는 기술은 놀라운 정확성에 도달했습니다. 하지만 당신은 또 다른 무고한 피해자가 될 필요는 없습니다. 이 가이드는 딥페이크 이미지, 비디오 또는 사운드를 신뢰할 수 있고 정확하게 탐지하는 방법을 보여줍니다.

어떤 종류의 딥페이크에 주의해야 할까요?

딥페이크의 출현은 매우 최근의 현상으로, 많은 사람들을 놀라게 했습니다. 그 뿌리는 “안정적 확산” 및 생성적 적대 신경망(GAN)과 같은 최신 AI 기술에 있습니다.

딥페이크의 세 가지 인기 유형은 다음과 같습니다:

얼굴 교환 기술: 한 사람의 얼굴을 다른 사람의 얼굴로 대체하여 알아볼 수 없는 교환을 만듭니다. 이러한 얼굴 교환 소프트웨어 중 하나가 내 선글라스 아래를 “엿보아” 나의 새로운 버전을 만들어내는 방식에 완전히 놀랐습니다. 포토샵과 비슷하지만 훨씬 더 강력합니다!

얼굴 교환은 어떻게 생성되나요? 소스 얼굴을 목표에 겹쳐서. 출처 ArtGuru

AI 음성 생성기: 자신의 목소리가 마음에 들지 않나요? 이제 많은 온라인 AI 음성 생성 기술을 사용하여 실제와 유사한 합성 음성을 얻을 수 있습니다. 물론, 나쁜 행위자는 온라인에서 원본 비디오를 다운로드하여 딥페이크 음성을 만들기만 하면 됩니다.
비디오 합성 소프트웨어: 선택한 비디오에 목표 이미지를 업로드하여 딥페이크 비디오를 생성할 수 있는 많은 앱이 있습니다. 최근에는 범죄 집단이 홍콩에 본사를 둔 회사에서 2,500만 달러를 사기치기 위해 알려지지 않은 비디오 합성기를 사용했습니다.

안드로이드 스마트폰에서 딥페이크 비디오를 생성하기 위해 FaceHub 앱 사용

딥페이크를 생성하는 데 사용되는 많은 앱은 웹, Google Play 및 App Store에서 합법적으로 찾을 수 있습니다. 다음 방법을 사용하여 딥페이크를 쉽게 탐지할 수 있습니다.

1. 시각적 단서

딥페이크 탐지는 이미지가 “이상하게” 느껴지는 경우 간단한 일처럼 보일 수 있습니다. 초기 딥페이크에서는 가장자리가 흐릿하거나, 얼굴이 지나치게 매끄럽거나, 이중 눈썹, 결함 또는 얼굴이 맞지 않는 일반적인 “비자연스러운” 느낌과 같은 몇 가지 경고 신호를 사용하여 종종 탐지할 수 있었습니다.

하지만 이러한 기술이 발전함에 따라 진짜 이미지와 비디오를 구별하기가 점점 더 어려워지고 있습니다. 그럼에도 불구하고 흐림, 왜곡 및 기괴한 얼굴 차이를 주의 깊게 살펴볼 수 있습니다.

시각적으로, 오른쪽의 가짜 이미지에서 몇 가지 명백한 단서가 있습니다: 특히 비자연스러운 이중 턱입니다. 더 많은 데이터를 원하신다면 가짜 이미지를 여러 원본 샘플과 비교해 보세요.

딥페이크 탐지 시각적 단서 원본 가짜 비교

비디오의 경우, 가장 명백한 단서는 딥페이크가 자연스러운 움직임이 없을 때입니다. 하지만 딥페이크는 종종 맥박이 있습니다. 얼굴의 다른 부분이 서로 다른 움직임을 보이는 불규칙성은 딥페이크 비디오를 식별하는 데 도움이 될 수 있습니다.

생체 인식 지표도 있지만, 무료 스마트폰이나 컴퓨터 앱을 사용하여 생체 인식 데이터를 분석하는 것은 불가능하므로 다루지 않겠습니다.

팁: AI 생성 이미지를 탐지하는 방법은 여러 가지가 있습니다. 최고의 방법 중 일부를 살펴보세요.

2. “확대“ 기술

표면적으로 딥페이크 이미지는 상당히 매끄럽게 보이지만(포토샵 이미지보다 탐지하기 훨씬 덜합니다), 이미지를 “확대“하여 불규칙성을 찾아낼 수 있습니다. 숨겨진 얼굴, 불규칙한 윤곽선 및 변형된 귀는 딥페이크의 가시적인 징후 중 일부에 불과합니다.

비정상적인 이중 턱, 배경의 얼굴 및 기타 두드러진 가짜 징후와 같은 시각적 결함을 확대하여 식별

비디오 회의 플랫폼에서 딥페이크를 식별하기 위해 전문가들은 몇 가지 유사한 전략을 추천했습니다. 다른 참가자를 썸네일 또는 갤러리 보기로 보는 대신 전체 화면 보기를 사용하면 전체 화면을 채우도록 확대됩니다.

3. 이미지 메타데이터 사용

모든 AI 딥페이크 탐지 방법 중에서 이것이 가장 확실한 방법이며 모든 사람이 쉽게 접근할 수 있습니다. 이미지의 메타데이터를 확인하여 원본 이미지인지 확인하세요.

Windows 컴퓨터에서 이미지를 마우스 오른쪽 버튼으로 클릭하여 속성을 엽니다. 세부정보 탭으로 이동하면 카메라 제조사, 카메라 모델, 노출 시간, ISO 속도, 초점 거리 및 플래시 사용 여부와 같은 카메라 사양을 찾을 수 있습니다. 딥페이크 이미지는 이러한 세부정보를 가질 수 없습니다.

Mac 장치에서는 이미지를 마우스 오른쪽 버튼으로 클릭하고 정보 가져오기 -> 더 많은 정보를 선택하여 이미지 메타데이터를 확인하세요.

Windows에서 사진의 메타데이터 속성 확인

온라인에는 더 고급 세부정보를 제공하는 이미지 메타데이터 소프트웨어가 있습니다. Jim pl은 최고의 도구 중 하나이며 완전히 무료로 사용할 수 있습니다.

스마트폰으로 촬영한 이미지를 업로드한 후 EXIF 정보를 확인하세요. 위치가 꺼져 있어도 모바일 콘텐츠 클라우드(MCC) 데이터는 항상 켜져 있습니다. (SIM 제공업체와 연결되어 있습니다.) 또한 이미지의 높이, 너비 및 메가픽셀은 최대 값에 도달하며, 이는 딥페이크 이미지가 복제할 수 없는 것입니다.

Jimpl을 통해 이미지에서 고급 메타데이터 탐지

당신이 유명인이라면, 당신의 이미지가 공공 도메인에 있다면 메타데이터를 통해 프로필 저작권을 확인할 수 있으며, 이는 이미지가 업로드된 날짜를 제공합니다. 이 데이터는 조작할 수 없으니 안심하세요.

안드로이드 폰으로 스크린샷을 찍으면 Google이 프로필 저작권 소유자가 됩니다. 아이폰에서도 마찬가지입니다.

Jimpl은 프로필 저작권 및 이미지의 날짜/시간을 탐지하는 데 도움을 줍니다.

딥페이크 이미지나 비디오를 메타데이터로 업로드하면 위의 정보가 표시되지 않습니다. 가짜 이미지는 자신의 혈통이 없습니다. 또한 작은 제한된 이미지 크기/너비는 의심의 원인이 되어야 합니다.

Jimpl에서 전체 메타데이터가 누락되고 이미지 너비와 높이가 의심스러운 값입니다.

4. 딥페이크 탐지 온라인 도구

딥페이크 탐지 소프트웨어는 몇 가지 있지만 많지 않습니다. 우리는 딥페이크를 탐지하기 위해 많은 온라인 도구를 테스트했습니다. 대부분은 부정확한 결과와 잘못된 긍정 반응을 제공합니다.

많은 도구가 선불 결제를 요구하는데, 이는 추천하지 않습니다. 결과가 만족스럽지 않기 때문입니다. 우리의 실험에서 그들은 우리의 원본 사진 중 많은 것을 “가짜”로 탐지하고 딥페이크 이미지를 식별하지 못했습니다.

그러나 다음 온라인 도구는 최고의 예외로 두드러지며 우리에게 꽤 잘 작동했습니다.

가짜 이미지 탐지기

가짜 이미지 탐지기는 이미지의 메타데이터와 이진 파일을 깊이 분석하여 딥페이크 탐지의 직접적인 결과를 제공하는 무료 도구입니다. 원본 이미지가 있을 경우, 그 응답은 “오류 수준이 감지되지 않았습니다.” 또한 진위를 증명하기 위해 소프트웨어 서명을 생성합니다.

가짜 이미지 탐지기 분석 결과. 오류 없음.

하지만 이 소프트웨어는 오류가 발생할 수 있습니다. 때때로 명백한 딥페이크 이미지를 탐지하지 못할 수 있지만, 이에 대한 해결책이 있습니다.

온라인 딥페이크 탐지 소프트웨어가 가짜 합성 이미지를 탐지하지 못함.

딥페이크 이미지를 원본 크기로 게시하는 대신, 이미지의 선택된 부분을 “확대“할 수 있습니다. 스크린샷을 찍고 그 부분만 분석하세요. 소프트웨어는 동일한 이미지를 컴퓨터 생성으로 식별할 것입니다.

가짜 이미지 탐지기 컴퓨터 생성 이미지: 가짜 탐지기.

포토 포렌식

포토 포렌식은 이미지의 압축 수준을 탐지하기 위해 매우 정확한 방법인 “오류 수준 분석”(ELA)을 사용하는 더 고급 도구입니다. 이미지의 특정 부분이 다른 오류 수준을 가지면 디지털로 수정되어 주 이미지에 추가된 것입니다.

이 예에서 이미지의 얼굴은 검은 사각형에서 보이는 것처럼 다른 ELA 색상과 구성 요소를 가지고 있습니다.

포토 포렌식의 오류 수준 분석(ELA) 도구를 사용하여 가짜 이미지를 탐지.

반면, 이 예는 적절한 카메라 기반 이미지에 대한 ELA 분석입니다. 불규칙성이 없습니다. 차이는 인간이 감지하기에는 너무 미세하지만, 기계는 이를 잘 감지합니다.

포토 포렌식 앱에서 ELA를 사용하여 오류가 감지되지 않음.

딥페이크를 탐지하고 싶다면, 그다지 설득력 있는 도구는 많지 않습니다. 그러나 AI or Not는 좋은 도구이며 사용하기도 훨씬 쉽습니다. 소프트웨어가 실제 사진을 분석할 때 “이것은 인간일 가능성이 높습니다.”라고 식별합니다. 또한 AI 생성 사운드를 식별하는 데 가장 좋은 성능을 보입니다.

딥페이크 탐지 기술은 진화하는 분야이므로 새로운 방법에 주목하세요. 또한 인터넷이 어떻게 작동하는지 기억합시다: 이러한 가짜가 잡히더라도, 여전히 일부 사람들에게 회자되고 믿어질 가능성이 높습니다. 아이폰을 사용 중이라면 콘텐츠를 생성하는 AI 앱을 확인해 보세요.

이미지 크레딧: Pexels. 모든 스크린샷은 Sayak Boral에 의해 촬영되었습니다.