김광석이 아닌 유인촌의 ‘서른즈음에’?…국감서 딥페이크 영상이 시연된 이유
▷10일 문체부 국정감사장에서 유인촌 장관 목소리 학습한 딥페이크 영상 시연
▷국내 딥페이크 활용한 성적 허위영상 시정 요구 연마다 증가 양상
(출처=클립아트코리아)
[위즈경제] 이정원 기자 =지난 10일 국회 문화체육관광위원회의 문화체육관광부 국정감사장에서 유인촌 문화체육관광부 장관의 목소리로 부른 가수 김광석의 ‘서른 즈음에’가 울려퍼지는 흥미로운 광경이 연출됐습니다.
해당 영상은 문화체육관광위원장인 이상헌 더불어민주당 의원이 인공지능(AI)에
유 장관의 목소리를 학습시켜 제작한 ‘딥페이크 영상’으로
최근 고도화된 AI 기술로 인한 가짜뉴스, 보이스피싱 등
범죄에 이용될 가능성이 많다는 점을 지적하기 위해 시연됐습니다.
딥페이크는 특정 인물의 얼굴, 목소리, 동작 등을 합성해 진짜와 구분하기 어려운 가짜 영상, 음성 등을
만들어내는 기술을 말합니다. 앞서 올해 3월 트럼프 미국
전 대통령은 ‘성추행 입막음’ 등 혐의로 기소된 후 그가
경찰에 체포되는 허위 사진이 퍼지면서 곤욕을 치뤄야 했고, 5월에는 미 국방부 청사(펜타곤) 폭발 사진이 확산되면서 주가가 휘청이는 사건도 벌어졌습니다.
딥페이크 관련 범죄는 해외뿐 아니라 국내에서도 기승을 부리고 있습니다. 지난
5일 딥페이크 기술을 이용해 여학생들의 신체 노출 합성 사진을 만들어 배포했다는 혐의로 10대 남학생이 경찰에 불구속 입건됐으며, 지난해 2월에는 딥페이크로 제작된 유명 연예인 허위 음란물을 유포한 10대와
20대가 경찰에 붙잡혔습니다.
이처럼 국내에서 딥페이크 기술을 활용해 성적 허위영상을 만들어 배포하는 범죄는 해마다 늘고 있는 것으로 나타났습니다.
지난 9일 국회 과학기술정보방송통신위원인 김병욱 국민의힘 의원이 방송통신심의위원회(방심위)에서 받은 자료에 따르면 최근 3년간 방심위가 딥페이크 기술로 제작된 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달하는 것으로 나타났습니다.
연도별로는 2020년 6월부터
연말까지 473건, 2021년 1913건, 2022년 3547건으로
집계됐으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있습니다.
이에 점차 고도화되는 딥페이크 범죄를 방지하기 위한 딥페이크 탐지 기술 개발도 활발하게 진행되고 있습니다.
국내 생성형 인공지능 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화하고
있습니다. 딥브레인AI는 가상 인간의 얼굴을 제작하는 페이스
제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지합니다.
딥브레인AI 장세영 대표는 “인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황”이라며 “딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤
지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것”이라고
했습니다.
댓글 0개
Best 댓글
어디에 사느냐가 아니라 어떻게 사는냐가 토론의 장이되야한다는 말씀 공감하며 중증발달장애인의 또다른 자립주택의 허상을 깨닫고 안전한 거주시설에서 자립적인 생활을 추구하여 인간다운 존엄을 유지할수있도록 거주시설어 선진화에 힘을 쏟을때라 생각합니다 충분한 돌봄이 가능하도록 돌봄인력충원과 시설선진화에 국가에서는 충분한 제도적 뒷받침을 해야합니다
2시설이 자립생활을 위한 기반이 되야합니다. 이를위해 전문인력이 배치되고, 장애인의 특성과 욕구를 반영한 프로그램이 운영되며, 지역사회와 연계된 지원체계가 마련되어야 합니다. 장애인이 보호받으면서 행복한 삶을 살아가는 공간으로 거주시설을 개선하고 지원 되이야 가족도 지역사회에서도 안심할 수 있게 정책개발 및 지원 해야 한다는 김미애의원의 말씀에 감동받고 꼭 그렇게 되길 간절히 바래 봅니다.
3중증발달장애인의 주거선택권을 보장하고 그들에게 필요한 지원을 바랍니다. 탈시설을 주장하시는 의원님들 시설이란 인권을 빼앗는 곳이라는 선입관과 잘못된 이해를 부추기지 마세요. 중중발달장애인을 위해 노화된 시설을 개선해 주세요. 또, 그들의 삶의 보금자리를 폐쇄한다는 등 위협을 하지 마시기를 간곡히 부탁드립니다.
4지역이 멀리 있어서 유트브로 시청했는데 시설장애인 부모로 장애인들이 시설이든 지역이든 가정이든 온전히 사회인으로 살수 있게 해줬으면 좋겠단 생각이 들었습니다
5탈시설 개념에 대해 페터 슈미트 카리타스 빈 총괄본부장은 유엔장애인권리협약에 게재된 탈시설화는 무조건적인 시설 폐쇄를 의미하지 않으며 장애인 인권 향상을 위한 주거 선택의 다양성을 강조하는 것이라고 설명하고 있으며, 미국의 경우 발달장애인의 거주 서비스는 의료적 도움이 필요한 경우, 도전적 행동이 있는 경우, 자립 지원이 필요한 경우 등 여러 거주 서비스 필요성에 의해 장기요양형 거주 시설부터 지역사회 내 자립홈까지 운영하고 있다. 이번 토론회를 통해 거주시설에서의 자립생활 목소리가 정책으로 연결되길 기대합니다.
6장애인도 자기 삶을 결정하고 선택 할 귄리가 있습니다. 누가 그들의 삶을 대신 결정합니까? 시설에서 사느냐 지역사회에서 사느냐가 중요 한게 아니고 살고 싶은데서 필요한 지원을 받으며 살아야합니다. 개인의 선택과 의사가 존중되어야 합니다.
7최중증 발달장애인의 거주시설에서의 생활은 원가정을 떠나 공동체로의 자립을 한 것입니다. 거주시설은 지역사회에서 벗어나 있지 않습니다. 시설안과 밖에서 너무도 다양하게 활동합니다. 원가정이나 관리감독이 어려운 좁은 임대주택에서의 삶과 다른 모두가 함께 만들어가는 공동체야 말로 장애인의 삶의 질을 높이고 사회성이 향상되는 곳입니다. 그리고 가장 안전한 곳 입니다. 최중증발달장애인들이 아파트나 빌라에서 살아가기란 주변의 민원과 벌래 보듯한 따가운 시선 그리고 돌발행동으로 위험한 상황이 많이 일어나고 그때마다 늙고 힘없는 부모나 활동지원사는 대처할수 있는 여건이 안되고 심지어 경찰에 부탁을 해 봐도 뾰족한 수가 없는 것이 현실 입니다. 그러나 거주시설은 가장 전문성이 있는 종사자들의 사명과 사랑이 최중증발달장애인들을 웃게 만들고 비장애인들의 눈치를 안봐도 되고 외부활동도 단체가 움직이니 그만큼 보호 받을수 있습니다 . 예로 활동지원사가 최중증발달장애인을 하루 돌보고는 줄행랑을 쳤습
