딥페이크(deepfake) 영상으로 자녀 목소리를 흉내낸다 — 실제 사례와 대처법
며칠 전, 지인에게서 전화가 왔다.
전화로, 개털렸다고 말했다. 이 말은, 학생들이 사용하는 언어로서, 당했다는 의미이다. 그는 말했다.
"나 어제 아들한테 돈 보냈어. 근데…… 아들이 아니었어."
순간, 나는 황당했다. 이 친구가 얼마나 당황했을지, 그리고 그 이후에 얼마나 창피하고 허탈했을지. 소위, 박사라는 애가, 이런 일을 당했다는 사실이 그를 더 힘들게 한다는 걸 알았기 때문이다.
그런데 솔직히 말하면 — 나도 그 전화를 받았다면, 속았을지 모른다.
딥페이크, 이제는 목소리까지 흉내 낸다
딥페이크라는 말을, 들어본 적이 있을 것이다. 현재 기술로 10여 초 분량의 음성 샘플만 있으면, AI가 그 사람의 목소리를 거의 완벽하게 복제해낼 수 있다.
자녀가 SNS에 올린 영상, 유튜브에 올린 영상, 카톡 음성 메시지 — 이런 것들이 재료가 된다. 악의를 가진 누군가가 그것을 수집해 AI 도구에 넣으면, 우리 자녀의 목소리를 흉내 낸 가짜 음성이 아주 쉽게 만들어진다.
그 목소리로, 전화가 온다.
"아빠, 나야. 지금 너무 급한데 잠깐만……"
실제로 이런 일이 일어나고 있다
2023년 미국 애리조나에서, 한 어머니가 딸의 목소리를 흉내 낸 전화를 받았다. 전화기 너머로 딸이 울면서 "엄마, 납치됐어. 제발 도와줘"라고 말했다. 어머니는 그것이 진짜 딸의 목소리라고 믿었다. 이후, 경찰이 수사했고 딸은 멀쩡히 집에 있었다. 이것은 AI가 합성한 목소리였다.
국내에서도, 비슷한 수법의 보이스피싱 변형 사례들이 보고되고 있다. 자녀 목소리를 흉내 낸 음성으로, "교통사고가 났다", "친구한테 돈을 빌렸는데 갚아야 한다", "핸드폰을 잃어버렸다"는 식의 이야기로 부모를 압박한다.
공통점이 있다.
하나, 갑작스럽고 급하다. 생각할 틈을 주지 않는다.
둘, 감정을 자극한다. 울거나 떨거나 당황한 것처럼 들린다.
셋, 확인을 막는다. "지금 전화하면 안 돼", "문자는 나중에"라는 말로 직접 연락을 차단하려 한다.
이렇게 대처하는게 최선이다
목소리를 변조하는 것이 쉬우니, 반드시 전화로 확인하실 것을 권유한다.
"급하게 돈 얘기가 나오면, 반드시 끊고 직접 전화한다."
이게 중요하다. 아무리 목소리가 똑같아도, 아무리 급하다고 해도 — 일단 끊고 내가 직접 저장된 번호로 전화한다. 진짜 아이라면 전화를 받겠고, 가짜라면 전화를 받지 않을 것이다.
이 전화도 사실 변조할 수 있다. 그래서, 여기에 하나를 더하면 안전하다.
가족끼리의 암구호를, 정해두는 것이다. 이러면, 급박한 상황에서 확인이 가능하다. AI는, 이 단어를 알 수 없다.
부끄러운 일이 아니다
그 지인은 당한 후에, 한동안 아무에게도 말을 못 했다고 한다. 자기가 한심하다고 생각했기 때문이다.
그런데, 이건 한심한 문제가 아니다.
자녀의 목소리가 들린다고 생각하는 순간, 이성보다 감정이 먼저 움직이는 것이 인간이기 때문이다. 그것은 어리석음이 아니라, 오히려 부모라는 증거다.
다만, 우리는 이제 그 감정을 노리는 기술이 있다는 것을 알게 됐다. 알고 나서는, 대비할 수 있다.
속았다고 해서, 자신을 탓하지 않았으면 한다. 그들이 워낙 전문가이기 때문이다. '급한 마음', 이것이 문제이다.
정리하며
딥페이크 음성 사기는, 기술이 발전할수록 더 정교해질 것이다. 목소리만이 아니라 영상통화 얼굴까지, 실시간으로 합성하는 기술도 이미 존재한다.
우리 세대가, 이 모든 것을 완벽하게 이해할 필요는 없다. 하지만 한 가지만은 기억해두자.
급하다고 말하는 목소리일수록, 천천히 끊고 직접 확인한다.
사랑하는 사람의 목소리가, 무기가 되는 시대다. 그래서 더더욱, 서두르지 않는 것이 우리를 지킨다.
이 글이 도움이 되셨다면, 주변의 비슷한 연배 분들께 공유해 주세요. 한 명이라도 더 알게 되는 것이 가장 좋은 예방입니다.
Midjourney로 만든 도널드 트럼프 체포 이미지 (출처: wikipedia)
댓글
댓글 쓰기