김광석이 아닌 유인촌의 ‘서른즈음에’?…국감서 딥페이크 영상이 시연된 이유
▷10일 문체부 국정감사장에서 유인촌 장관 목소리 학습한 딥페이크 영상 시연
▷국내 딥페이크 활용한 성적 허위영상 시정 요구 연마다 증가 양상

[위즈경제] 이정원 기자 =지난 10일 국회 문화체육관광위원회의 문화체육관광부 국정감사장에서 유인촌 문화체육관광부 장관의 목소리로 부른 가수 김광석의 ‘서른 즈음에’가 울려퍼지는 흥미로운 광경이 연출됐습니다.
해당 영상은 문화체육관광위원장인 이상헌 더불어민주당 의원이 인공지능(AI)에
유 장관의 목소리를 학습시켜 제작한 ‘딥페이크 영상’으로
최근 고도화된 AI 기술로 인한 가짜뉴스, 보이스피싱 등
범죄에 이용될 가능성이 많다는 점을 지적하기 위해 시연됐습니다.
딥페이크는 특정 인물의 얼굴, 목소리, 동작 등을 합성해 진짜와 구분하기 어려운 가짜 영상, 음성 등을
만들어내는 기술을 말합니다. 앞서 올해 3월 트럼프 미국
전 대통령은 ‘성추행 입막음’ 등 혐의로 기소된 후 그가
경찰에 체포되는 허위 사진이 퍼지면서 곤욕을 치뤄야 했고, 5월에는 미 국방부 청사(펜타곤) 폭발 사진이 확산되면서 주가가 휘청이는 사건도 벌어졌습니다.
딥페이크 관련 범죄는 해외뿐 아니라 국내에서도 기승을 부리고 있습니다. 지난
5일 딥페이크 기술을 이용해 여학생들의 신체 노출 합성 사진을 만들어 배포했다는 혐의로 10대 남학생이 경찰에 불구속 입건됐으며, 지난해 2월에는 딥페이크로 제작된 유명 연예인 허위 음란물을 유포한 10대와
20대가 경찰에 붙잡혔습니다.
이처럼 국내에서 딥페이크 기술을 활용해 성적 허위영상을 만들어 배포하는 범죄는 해마다 늘고 있는 것으로 나타났습니다.
지난 9일 국회 과학기술정보방송통신위원인 김병욱 국민의힘 의원이 방송통신심의위원회(방심위)에서 받은 자료에 따르면 최근 3년간 방심위가 딥페이크 기술로 제작된 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달하는 것으로 나타났습니다.
연도별로는 2020년 6월부터
연말까지 473건, 2021년 1913건, 2022년 3547건으로
집계됐으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있습니다.
이에 점차 고도화되는 딥페이크 범죄를 방지하기 위한 딥페이크 탐지 기술 개발도 활발하게 진행되고 있습니다.
국내 생성형 인공지능 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화하고
있습니다. 딥브레인AI는 가상 인간의 얼굴을 제작하는 페이스
제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지합니다.
딥브레인AI 장세영 대표는 “인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황”이라며 “딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤
지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것”이라고
했습니다.
댓글 0개
Best 댓글
이번에 상폐냐, 회생이냐의 기로에 서 있는 이화그룹내 이 아이디 주주입니다. 김영준 회장의 횡령 배임으로 인해 불거진 장중 재개후 재정지 사태로 개인의 생명줄 같던 자금이 동결돼 버리고 하루 하루 칼날위에 서서 칼춤 추듯 힘겨운 하루 하루를 보내고 있는 사람입니다. 제발, 상법개정으로 혹시 하나 회사가 상폐되더라도 소액주주도 상폐원인을 알수 있게 공개해줘서 이유라도 알수 있으면 좋겠습니다. 요즘 사회의 이슈중에 민주주의란 말이 많이 나오죠? 민주주의를 외치는 나라에서 국민의 생명줄 같은 돈을 강도질 당하는데 이유도 모른채 강탈 당한다면, 국민의 대표로 의정활동을 하시고 있는 여러 의원님들은 과연 민주주의를 성실히 실천하고 있다고 할수 있을까요? 의원님께서 제발 힘써 주셔서 제가 죽을때 억울함은 없도록 부탁 드립니다. 감사합니다.
2개인주주의 자산 피해를 더이상 외면하지 말아주세요 배임 횡령으로 역울한 자산 피해를 막아주세요 이화그룹 주주연대는 상법개정을 간절히 지지합니다
3상법개정시 너무나 많은 긍정효과들이 있는 만큼 신속히 개정돼야 합니다. 반대하는자들이야알로 기득권을 내놓지 않으려는자, 부정.부도덕한 자들이 아니고서야.. 이화그룹주주연대는 상법개정이되는그날까지 가열차게 나아갈 것입니다
4이화그룹주주연대에서 이정원기자님 응원합니다 상법개정은 꼭 이루어져야 하고 특히 상폐제도는 개선되어야 한다고 생각합니다 배임횡령액분리나 상폐사유공개의무화등입니다
5이정원기자님 감사합니다. 이화그룹주주들의 소망하는 상법개정 꼭 이루어져야 하겠습니다~
6상법개정의 찬성합니다.
7이화그룹주주연대 소액주주들을 위한 상법개정이 시급합니다 소액주주들은 다죽어갑니다