딥페이크란?
본래 2017년 'deepfakes'라는 닉네임의 레딧 사용자에 의해 만들어진 기술입니다.
한 사람의 얼굴을 학습한 뒤 다른 영상에서 얼굴을 바꿔치기 하는 기술을 의미하는 용어에서 유래되었으나현재는 인공지능을 이용해 실제처럼 보이도록 만든 모든 비디오, 사진 또는 오디오를 모두 총칭하는 의미로 확장되었습니다.
주로 실존 인물의 사진이나 음성을 사용하여 AI로 생성, 조작된 자료를 의미합니다.
딥페이크 기술이 최근 3년 동안 크게 진전되면서 기술 악용과 함께 범죄가 증가하고 있습니다. 사람의 얼굴과 목소리를 모방해 가족들을 대상으로 피싱 범죄를 저지르는가 하면 여론을 조작하기 위해 가짜뉴스를 생성하거나 프로필 사진을 무단 도용해 성인물을 제작하는 등 범죄 사례가 다양화되고 있습니다.
딥페이크가 가장 문제가 되는 것은 불법 음란물입니다. 사이버보안 업체인 '딥트레이스'의 보고서에 따르면 딥페이크 영상의 96%는 불법 음란물입니다. 피해자 가운데는 미국 여배우가 41%로 가장 많고, 한국 여성 연예인도 무려 25%나 되었습니다.
최근에는 피해 대상이 일반인으로 확대되고 있습니다. 작년 디지털 성범죄 피해자 지원센터의 자료에 따르면, 피해자의 약 20%는 일반 학생과 직장인들이었습니다. 또한, 딥페이크는 보이스피싱과 결합될 경우 심각한 피해가 예상됩니다. 전화상으로 들려 오는 목소리가 내 가족이 분명하다면 보이스피싱이라 의심하기 어렵기 때문입니다.
출처 : 테크월드뉴스(https://www.epnc.co.kr)
나아가 딥페이크는 가짜뉴스를 통해 정치적으로 악용될 수도 있습니다.
지난 2일 미국 공화당의 유력 대선 후보인 론 디샌티스 플로리다 주지사가 '대선 경선을 포기하겠다'고 선언하는 영상이 한 유튜브 계정에 올라와 논란이 되었습니다. 하지만 이 영상은 AI를 이용해 만든 딥페이크 영상으로 확인되었습니다.
AI를 이용한 가짜뉴스가 실제 선거의 판도를 바꾸는 경우도 나오고 있습니다. 튀르키예 대선에서는 에르도안 대통령과 야당 후보인 케말 클르츠다로을루가 접전을 벌였습니다. 그런데 테러 단체가 야당 후보를 지지한다는 가짜 영상이 퍼지면서 결국 대선에서 에르도안 대통령이 5%P 차이로 이겼습니다. 이 영상은 AI 딥페이크를 이용해 교묘하게 만든 영상이었습니다.
이처럼 '딥페이크발 가짜뉴스'의 피해는 유권자에게 돌아갈 것이라고 전문가들은 우려합니다. "AI로 만든 가짜뉴스가 유튜브 등을 통해 더 빠른 속도로 확산하면서 민주주의를 실시간으로 위협하고 있다"고 경고합니다.
출처 : 테크월드뉴스(https://www.epnc.co.kr)
2023년 온라인에 공개된 딥페이크 영상의 총 수는 95,820개로 2019년 대비 550% 증가했습니다.
2022년부터 2023년까지 제작된 딥페이크 불법 음란물의 양은 1년만에 2022년 약 3,725개에서 2023년 약 21,019개로 464% 증가했다.
그중 국가별 딥페이크 불법 음란물 피해는 한국 53%, 미국 20%, 일본 10%, 영국 6%, 중국 3%, 인도&대만 2% 순으로 한국이 압도적인 1위를 차지했습니다.
