김광석이 아닌 유인촌의 ‘서른즈음에’?…국감서 딥페이크 영상이 시연된 이유
▷10일 문체부 국정감사장에서 유인촌 장관 목소리 학습한 딥페이크 영상 시연
▷국내 딥페이크 활용한 성적 허위영상 시정 요구 연마다 증가 양상

[위즈경제] 이정원 기자 =지난 10일 국회 문화체육관광위원회의 문화체육관광부 국정감사장에서 유인촌 문화체육관광부 장관의 목소리로 부른 가수 김광석의 ‘서른 즈음에’가 울려퍼지는 흥미로운 광경이 연출됐습니다.
해당 영상은 문화체육관광위원장인 이상헌 더불어민주당 의원이 인공지능(AI)에
유 장관의 목소리를 학습시켜 제작한 ‘딥페이크 영상’으로
최근 고도화된 AI 기술로 인한 가짜뉴스, 보이스피싱 등
범죄에 이용될 가능성이 많다는 점을 지적하기 위해 시연됐습니다.
딥페이크는 특정 인물의 얼굴, 목소리, 동작 등을 합성해 진짜와 구분하기 어려운 가짜 영상, 음성 등을
만들어내는 기술을 말합니다. 앞서 올해 3월 트럼프 미국
전 대통령은 ‘성추행 입막음’ 등 혐의로 기소된 후 그가
경찰에 체포되는 허위 사진이 퍼지면서 곤욕을 치뤄야 했고, 5월에는 미 국방부 청사(펜타곤) 폭발 사진이 확산되면서 주가가 휘청이는 사건도 벌어졌습니다.
딥페이크 관련 범죄는 해외뿐 아니라 국내에서도 기승을 부리고 있습니다. 지난
5일 딥페이크 기술을 이용해 여학생들의 신체 노출 합성 사진을 만들어 배포했다는 혐의로 10대 남학생이 경찰에 불구속 입건됐으며, 지난해 2월에는 딥페이크로 제작된 유명 연예인 허위 음란물을 유포한 10대와
20대가 경찰에 붙잡혔습니다.
이처럼 국내에서 딥페이크 기술을 활용해 성적 허위영상을 만들어 배포하는 범죄는 해마다 늘고 있는 것으로 나타났습니다.
지난 9일 국회 과학기술정보방송통신위원인 김병욱 국민의힘 의원이 방송통신심의위원회(방심위)에서 받은 자료에 따르면 최근 3년간 방심위가 딥페이크 기술로 제작된 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달하는 것으로 나타났습니다.
연도별로는 2020년 6월부터
연말까지 473건, 2021년 1913건, 2022년 3547건으로
집계됐으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있습니다.
이에 점차 고도화되는 딥페이크 범죄를 방지하기 위한 딥페이크 탐지 기술 개발도 활발하게 진행되고 있습니다.
국내 생성형 인공지능 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화하고
있습니다. 딥브레인AI는 가상 인간의 얼굴을 제작하는 페이스
제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지합니다.
딥브레인AI 장세영 대표는 “인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황”이라며 “딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤
지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것”이라고
했습니다.
댓글 0개
Best 댓글
지나가는 부산사람 잡고 물어보면 열이면 열 모두 해수부 이전 찬성할겁니다. 해수부 부산이전 가로막는 국짐당은 반드시 부산시민들의 심판을 받을겁니다.
2AI가 너무 빠르게 발전하네요. 나중에는 정말 구분하기 힘들듯 하네요.
3좋은 기사 감사합니다
4해수부가 부산으로가면 단순 해수부만 부산으로 가는게 아니라 해수부의 산하기관들 전부 부산으로 내려가게되서 다른 지역들 입장에서는 배아픈건데 이걸 못받아먹네.. 더군다나 해수부 부산 내려가면 전세계 탑 10에 드는 해양기업인 HMM이 부산으로 이전될 가능성이 높은 상황에서 이걸 반대하는 멍청이 집단이 있다
5좋은 기사 감사합니다
6좋은 기사 감사합니다
7좋은 기사 감사합니다