기술발전과 함께 심화되는 ‘딥페이크 범죄’…해결책은?
▷딥페이크 등을 활용한 허위영상물 제작 사례 매년 증가세…청소년 사이에서도 성행
▷한국 딜로이트 그룹, ‘딥페이크 시대의 리스크 유형과 대응방안’ 보고서 발간
(출처=클립아트코리아)
[위즈경제] 이정원 기자 =최근 AI 기술이 빠르게 발달하면서 딥페이크(Deep Fake) 문제가 사회적인 파장을 낳고 있다.
경찰청에 따르면 딥페이크 등을 활용해 허위영상물을 제작하는 사례는 매년 증가하고 있는 것으로 나타났다.
연도별 허위영상물 등 범죄 관련 발생 건수는 2021년 156건, 2022년 160건, 2023년 180건, 2024(1~7월) 297건으로 집계됐다.
특히, 딥페이크 제작이 쉬워지면서 청소년들 사이에서 딥페이크 등 디지털
성범죄가 성행하고 있다.
실제로 2021년 10대
디지털 성범죄 피의자는 51명에서 매년 증가세를 보였으며, 올해 1월부터 7월까지 피의자 수는
131명으로 크게 늘었다.
이처럼AI 기술이 고도화됨에 따라 목소리나 텍스트의 형태로 생성 또는
합성한 뉴스를 지칭하는 이른바 ‘합성 미디어(Synthetic Media)’를
활용한 범죄 악용에 대한 우려가 커지고 있다.
이런 가운데 한국 딜로이트 그룹은 ‘딥페이크 시대의 리스크 유형과
대응방안’ 보고서를 발간하고 합성 미디어로 인해 ‘피싱(Phising)’, ‘딥페이크(Deepfake)’, ‘프롬프트 인젝션(Prompt Injection)’,’거짓정보(Misinformation)’ 등의
범죄가 발생할 수 있다고 밝혔다.
합성 미디어는 AI가 목소리나 텍스트의 형태로 생성 또는 합성한 뉴스
등을 말한다.
보고서는 기존의 피싱 공격 대부분은 피싱 메일 수신자가 문법과 철자의 부정확성 등으로 피싱 시도를 알아차릴 수
있었지만, 합성 미디어 기술이 적용될 경우, 설득력 있고
오류 없는 메시지를 빠르고 쉽게 작성할 수 있게 될 것이라고 내다봤다.
이는 합성 미디어 콘텐츠를 결합한 피싱 공격의 정교함으로 수신자들이 피싱 메일을 쉽게 걸러낼 수 없어 개인과
조직에 피해를 줄 수 있다는 것이다.
또 다른 범죄 유형으로는 딥페이크 기술을 활용한 사기 범죄를 꼽았다.
최근 딥페이크 기술이 고도화됨에 따라 영상 및 음성 조작이 용이해지면서 타인을 사칭하는 사례가 발생하고 있으며, 이는 향후 딥페이크 기술이 발전할수록 누구와 소통하고 거래하고 있는지 확신하는 것이 더욱 어려워질 것으로 보인다.
보고서는 시장조사 업체 가트너의 자료를 인용해 2026년까지 기업의
약 3분의 1이 AI로
생성된 딥페이크로 인해 신원 확인 및 인증 솔루션을 신뢰할 수 없게 될 것이라고 예상했다고 밝혔다.
아울러 보고서는 ‘프롬프트 인젝션’
공격에 대한 우려도 제기했다.
프롬프트 인젝션은 대형언어 모델(LLM)에 대한 사이버 공격의 한
유형으로 범죄자가 생성형AI 툴에 악의적인 명령을 합법적인 프롬프트로 위장해 민감한 데이터를 유출하도록
유도하는 방식을 말한다.
이를 통해 범죄자는 생성형AI 툴을 조작하거나 잘못된 정보를 유포할
수 있으며, 조작된 프롬프트를 활용해 연락처, 은행 정보, 건강 데이터 등 각종 정보가 유출될 위험이 있다.
이밖에도 합성 미디어 콘텐츠가 거짓정보 유포에 활용될 수 있다는 지적도 나왔다.
보고서는 “과거에는 공격자들이 직접 메시지를 작성해야 했지만, 거짓 콘텐츠 생성을 위한 AI 도구들은 이제 대규모로 잘못된 정보를
만들어 대중과 메시지를 시험하고 테스트할 수 있게 됐다”라며 “기존
거짓 정보 유포를 위해 막대한 비용과 전문인력이 소요됐지만, 이제는 큰 비용이나 전문적 기술 없이도
누구나 기업의 자금과 데이터를 빼앗기 위해 설득력 있는 콘텐츠를 만들 수 있게 됐다”고 설명했다.
이에 따라 보고서는 합성 미디어를 활용한 범죄에 대처하기 위해서 사이버 보안 생태계 파트너들과의 협력이 중요하다고
강조했다.
보고서는 “기업이 자체적으로만 사이버 보안 역량을 증대시켜 잠재적
위협에 대응하는 것은 한계가 있다”라며 “기업들은 사이버
보안 측면에 있어, 파트너십과 생태계를 견고히 구축해 날로 다양해지고 규모가 커지는 위협에 대비해야
한다”고 밝혔다.
이어 “기업들은 장기적 관점에서 양자컴퓨팅과 같은 첨단 기술에도 적극
투자해 잠재적 범죄를 미리 예방하는 방안도 고려해야 한다”고 덧붙였다.
한편, 국회에서는 지난 26일 AI 기술을 활용한 사람의 얼굴·신체·음성을 가공한 딥페이크 등 허위영상물 근절을 위한 ‘딥페이크 성범죄 방지법(성폭력범죄의 처벌 등에 관한 특례법 개정안)이 통과됐다.
해당은 법안은 딥페이크 등 허위영상물을 소지·구입·저장·시청한 자에게 3년
이하의 징역 또는 3천만원 이하의 벌금형에 처할 수 있도록 규정하고 있다.
댓글 0개
관련 기사
Best 댓글
장애인도 비장애인도 인간의 존엄성에 기반한 자립은 당연한 것이기에 어떤 거주 시설에 있던 자립지원은 필수적이다. 시설안에서도 시설밖에서도 자립지원은 필수적인 것이므로 장애인거주시설에 충분한 인력지원을 해주고 시설환경도 개선하여 선진화 시켜야 합니다.
2실익이라는 맹점에 가려져 위, 날조 및 사기, 선동이라는 범죄가 숨겨저서는 안되며, 이를 눈감아 주는 판관의 사심은 그들이 지켜야 하는 사회 정의를 무너뜨릴 뿐임을 알아야 한다.
3인권침해가 일어나길 감시하며 걸리면 바로 아웃 시켜버리리라~ 작정한 것 아닌가 합니다.그냥 탈시설에만 꽂혀있는겁니다.무슨 문제가 있는지... 어떻게하면 모두에게 형평성 있는 법을 펼칠지... 진정으로 고민해주길 바랍니다. 거주시설을 없애려고만 하지말고 거주시설에 인력 지원도 더 해주고 재가 장애인이나 자립주거에만 편중된 지원을 하지말고 공평하게지원해 주시면서 좀 관심을 가져주셔야합니다.
4정말 너무 안타깝습니다. 중증장애인의 생활을 알면 전장연이 이렇게 무조건적이고 강압적인 탈시설을 주 장할수없는데 같은 장애인인데 본인들의 이권을 위해 중증장애인들을 사지로 내몰면서 자유를 주장한다는 게 화가 납니다. 중증장애인에게 자유는 날개 다친 새 를 낭떠러지로 밀어버리는것과 다름없습니다. 시설에 도움받아야하는 중증장애인은 시설에서 생활하고 도 움받고 자립하고싶은 경증장애인은 자립하면 되는문 제인데 무조건 모아님도를 주장하니 중증장애인 부모 님들이 어버이날에 이렇게 나선거 아니겠습니까
5장애인 당사자와 보호자의 다양한 목소리가 정책에 반영되는 것은 매우 중요합니다. 부모회의 주장은 거주시설 이용 장애인의 권리와 삶의 질을 지키기 위한 진정성 있는 외침입니다. 지역사회 자립 지원과 더불어 거주시설의 선진화와 인권 보호도 함께 균형 있게 추진해서 모두가 존중받는 복지정책을 만들어주십시오.
6장애인자립법안은 자립을 돕는 법안이라 하지만 탈시설이 목적입니다. 자립하고자 하는 장애인 반대 하지 않습니다 시설 또한 중증장애인들에겐 꼭 필요한 곳이기에 생활환경개선과 인력지원 통해 시설의 선진화을 만들어야 합니다.
7장애인거주시설은 부모가 사후에 홀로 남겨질 아이가 걱정이 되어 선택을 하는 곳입니다.시설이 감옥이라면 그 어느부모가 시설에 입소를 시키겠습까..전장연은 당사자가 아니며 장애인을 대표하는 단체도 아닙니다.당사자의 목소리에 귀를 기울이시고 한쪽으로 기우는 정책 보다는 균형있는 정책으로 해주세요!!!
