딥페이크란 인공지능(AI) 기술을 활용해 기존 인물의 얼굴 등을 합성한 편집물을 말한다. 영화 제작이나 교육자료 개발 등에 활용되어 왔지만, 최근에는 이 기술을 이용한 피싱 사례가 늘고 있다.

사용자가 눈치채지 못할 정도로 정교한 가짜 금융앱을 제작하거나 앱 실행 시마다 변형되는 악성 소프트웨어를 통해 보안 솔루션을 회피하는 데 사용되고 있다.

또 AI 기반 이미지 합성 기술로 피해자를 시각적으로 속이는 딥페이크, 목소리 합성 기술로 청각을 속이는 딥보이스 피싱 공격 등 악용 수법이 점점 고도화되고 있다.

일례로, SNS에 올린 영상을 기반으로 특정 인물의 딥페이크 영상을 만들고, 그 인물의 음성을 딥보이스 기술로 합성해 하나의 영상물로 제작한다. 이후 해당 인물이 직접 보낸 것처럼 위조한 메시지를 친구나 가족에게 전달해 금전을 요구하는 사례가 발생하고 있다.

그렇다면 AI 딥페이크 피싱을 어떻게 예방할 수 있을까.

첫째, 의심스러운 요청은 반드시 사실 여부를 직접 확인해야 한다. “돈을 보내달라”는 전화나 메시지를 받았다면 실제 본인과 직접 통화해보는 것이 좋다. 가족 간 암구호를 정해두는 것도 좋은 방법이다. 의심스러운 연락이 왔을 때, 이를 통해 진짜 가족인지 확인할 수 있다.

둘째, 영상이나 음성을 확인할 때 부자연스러운 점이 있는지 살펴보고 반드시 신뢰할 수 있는 경로로 재확인해야 한다.

셋째, 개인 소셜미디어에 개인 정보 공유를 최소화해야 한다. 최근에는 일반인의 SNS를 악용한 딥페이크 범죄가 많아지고 있다.

프로필 사진, 영상, 음성 등은 딥페이크·딥보이스 제작에 사용될 수 있는 소스가 되므로, 공개 계정에서는 영상 공유를 자제하는 것이 바람직하다.

기술 발전과 함께 주의해야 할 범죄도 늘어나는 현실 속에서 딥페이크·딥보이스 피싱에 대응하려면 사전 예방과 철저한 확인이 무엇보다 중요하다. <김수연·장흥경찰서>