(출처=클립아트코리아)

[위즈경제] 이정원 기자 =지난 10일 국회 문화체육관광위원회의 문화체육관광부 국정감사장에서 유인촌 문화체육관광부 장관의 목소리로 부른 가수 김광석의 ‘서른 즈음에’가 울려퍼지는 흥미로운 광경이 연출됐습니다.

해당 영상은 문화체육관광위원장인 이상헌 더불어민주당 의원이 인공지능(AI)에 유 장관의 목소리를 학습시켜 제작한 ‘딥페이크 영상’으로 최근 고도화된 AI 기술로 인한 가짜뉴스, 보이스피싱 등 범죄에 이용될 가능성이 많다는 점을 지적하기 위해 시연됐습니다.

딥페이크는 특정 인물의 얼굴, 목소리, 동작 등을 합성해 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 기술을 말합니다. 앞서 올해 3월 트럼프 미국 전 대통령은 ‘성추행 입막음’ 등 혐의로 기소된 후 그가 경찰에 체포되는 허위 사진이 퍼지면서 곤욕을 치뤄야 했고, 5월에는 미 국방부 청사(펜타곤) 폭발 사진이 확산되면서 주가가 휘청이는 사건도 벌어졌습니다.

딥페이크 관련 범죄는 해외뿐 아니라 국내에서도 기승을 부리고 있습니다. 지난 5일 딥페이크 기술을 이용해 여학생들의 신체 노출 합성 사진을 만들어 배포했다는 혐의로 10대 남학생이 경찰에 불구속 입건됐으며, 지난해 2월에는 딥페이크로 제작된 유명 연예인 허위 음란물을 유포한 10대와 20대가 경찰에 붙잡혔습니다.

이처럼 국내에서 딥페이크 기술을 활용해 성적 허위영상을 만들어 배포하는 범죄는 해마다 늘고 있는 것으로 나타났습니다.

지난 9일 국회 과학기술정보방송통신위원인 김병욱 국민의힘 의원이 방송통신심의위원회(방심위)에서 받은 자료에 따르면 최근 3년간 방심위가 딥페이크 기술로 제작된 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달하는 것으로 나타났습니다.

연도별로는 2020년 6월부터 연말까지 473건, 2021년 1913건, 2022년 3547건으로 집계됐으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있습니다.

이에 점차 고도화되는 딥페이크 범죄를 방지하기 위한 딥페이크 탐지 기술 개발도 활발하게 진행되고 있습니다.

국내 생성형 인공지능 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화하고 있습니다. 딥브레인AI는 가상 인간의 얼굴을 제작하는 페이스 제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지합니다.

딥브레인AI 장세영 대표는 “인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황”이라며 “딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것”이라고 했습니다.