북마크 Link 인쇄 글자크기

글자크기 설정

글자크기 설정 시 다른 기사의 본문도 동일하게 적용됩니다.

 

김광석이 아닌 유인촌의 ‘서른즈음에’?…국감서 딥페이크 영상이 시연된 이유

▷10일 문체부 국정감사장에서 유인촌 장관 목소리 학습한 딥페이크 영상 시연
▷국내 딥페이크 활용한 성적 허위영상 시정 요구 연마다 증가 양상

입력 : 2023.10.12 16:22 수정 : 2023.10.12 16:27
김광석이 아닌 유인촌의 ‘서른즈음에’?…국감서 딥페이크 영상이 시연된 이유 (출처=클립아트코리아)
 

[위즈경제] 이정원 기자 =지난 10일 국회 문화체육관광위원회의 문화체육관광부 국정감사장에서 유인촌 문화체육관광부 장관의 목소리로 부른 가수 김광석의 서른 즈음에가 울려퍼지는 흥미로운 광경이 연출됐습니다.

 

해당 영상은 문화체육관광위원장인 이상헌 더불어민주당 의원이 인공지능(AI)에 유 장관의 목소리를 학습시켜 제작한 딥페이크 영상으로 최근 고도화된 AI 기술로 인한 가짜뉴스, 보이스피싱 등 범죄에 이용될 가능성이 많다는 점을 지적하기 위해 시연됐습니다.

 

딥페이크는 특정 인물의 얼굴, 목소리, 동작 등을 합성해 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 기술을 말합니다. 앞서 올해 3월 트럼프 미국 전 대통령은 성추행 입막음등 혐의로 기소된 후 그가 경찰에 체포되는 허위 사진이 퍼지면서 곤욕을 치뤄야 했고, 5월에는 미 국방부 청사(펜타곤) 폭발 사진이 확산되면서 주가가 휘청이는 사건도 벌어졌습니다.

 

딥페이크 관련 범죄는 해외뿐 아니라 국내에서도 기승을 부리고 있습니다. 지난 5일 딥페이크 기술을 이용해 여학생들의 신체 노출 합성 사진을 만들어 배포했다는 혐의로 10대 남학생이 경찰에 불구속 입건됐으며, 지난해 2월에는 딥페이크로 제작된 유명 연예인 허위 음란물을 유포한 10대와 20대가 경찰에 붙잡혔습니다.

 

이처럼 국내에서 딥페이크 기술을 활용해 성적 허위영상을 만들어 배포하는 범죄는 해마다 늘고 있는 것으로 나타났습니다.

 

지난 9일 국회 과학기술정보방송통신위원인 김병욱 국민의힘 의원이 방송통신심의위원회(방심위)에서 받은 자료에 따르면 최근 3년간 방심위가 딥페이크 기술로 제작된 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달하는 것으로 나타났습니다.

 

연도별로는 20206월부터 연말까지 473, 20211913, 20223547건으로 집계됐으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있습니다.

 

이에 점차 고도화되는 딥페이크 범죄를 방지하기 위한 딥페이크 탐지 기술 개발도 활발하게 진행되고 있습니다.

 

국내 생성형 인공지능 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화하고 있습니다. 딥브레인AI는 가상 인간의 얼굴을 제작하는 페이스 제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지합니다.

 

딥브레인AI 장세영 대표는 인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황이라며 딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것이라고 했습니다.

 
이정원 사진
이정원 기자  nukcha45@wisdot.co.kr
 

댓글 0

Best 댓글

1

엄마아빠 말은 안들어도 시설의 교사말은 듣고 식사하기ᆢ산책ᆢ수영 옷쇼핑 모두 참여합니다 ㆍ 우리 부모들이 상복을 입는 이유 의미는 시설없어지면 다 죽는단 뜻이지 과장이 아닙니다 20년을 특수교육시켜서 돌봄은 가능한상태지만 자립까지 가능하다면 발달장애인이 아니죠 시설 대기자 부모님들의 참혹한 원망의 한숨소리 ᆢ자살한 그분들의 슬픈 한이 안보이시나요 ㅜ

2

거주시설의 종사자 분들을 뵐때면 정말 고개가 절로 숙여집니다. 활동지원사 와는 비교도 안되는 최중증장애인을 대하는 태도와 마인드 그리고 사명감! 우리 최중증발달장애인과 그 가족들은 이웃과 또 사랑하는 가족들과 함께 살아보려고 무던히도 애써왔지만 이웃이..사회가..거부했고 따가운 시선으로 어떠한 문제가 발생하면 모든것을 우리 최중증발달장애인에게 덮어 씌우고 탓을하고 ..혀를 차며 벌레보듯 했고.. 결국 이웃이 사회가 나라가 더불어 살수 없게 해 놓고선.. 인간답게 더불어 살아야 한다며 자립을 하라고요? 지나가는 개가 웃습니다! 너무 잘나고 귀하신 국회의원님들.시의원님들 한번 우리와 똑 같이 살아보시죠! 시설을 더 확충해도 모자랄 판에 패쇄요? 같은말 반복하려니 정말이지 힘이 듭니다ㅠㅠ 거주시설은 가장 안전하고 진정한 삶을 누리며 사람답게 살수 있는 두번째 보금자리 입니다!!!

3

다양성의 가치가 존중되는 2024년에 구시대적인 교육청 인사들의 인식이 아쉬울 뿐입니다. 저런 인식을 가진 사람들이 교육정책을 추진하며, 자의적 해석으로 유아교육, 유아특수교육을 퇴보시키고 있습니다

4

중증 발달장애인 탈시설 및 지역사회 자립은 탁상행정입니다. 실상을 모르니까 탈시설이라는 말을 쉽게 하는 겁니다. 최소한의 신변 처리도 어려운 중증 장애인들에게 거주시설은 가장 안전하고 합리적인 삶의 자리입니다.

5

일반 성인에 비해 평균수명이 현저히 낮고, 사고발생율이 50% 더 높은 발달장애인의 경우 재난에는 특히 더 취약하여 자립지원주택에서는 생존의 위협을 받을 수 있다”며, “특히, 건강관리가 제대로 이루어지지 않아 질병에 노출된 이들을 의료 인력이 충분한 중증장애인 요양시설에서 편안히 거주하게 해야 한다”

6

자립불가능한 장애인을 탈시설로 시설폐쇄를 하려는 의도가 무엇일까요??? 그들이 부르짖는 인권은 이권의 다른 이름입니다 누가 2살의 말도 못하고 죽음도분별하지못해 도로로 뛰어드는 중증장애인을 자립하라고 합니까??? 전장연과 부모연대는 당사자가 아닙니다 무조건 탈시설은 중증장애인에게는 죽음입니다

7

전장연은 지체장애인으로 이루어진 단체. 지체장애인들은 인지가 비장애인과 같습니다. 자립의 대상은 지체장애인이며, 전국의 너느 거주시설에도 지체장애인은 없습니다. 즉 지체장애인단체인 전장연은 당사자가 아닙니다. 무조건 탈시설은 중증장애인에게는 죽음입니다.