(출처=트위터 Eliot Higgins) 

[위즈경제] 이정원 기자 =최근 도널드 트럼프 전 미국 대통령이 수많은 경찰들에 둘러쌓여 연행되는 모습을 담은 ‘가짜 사진’이 온란인 상에 빠르게 확산되고 있습니다. 해당 이미지는 생성 AI(인공지능)을 활용해 만든 이미지인 것으로 알려졌습니다.

지난 22일(이하 현지시각) AP 통신 등은 트럼프 전 대통령이 뉴욕 경찰에 체포되는 사진이 트위터 등 각종 SNS(사회관계망)을 중심으로 확산되고 있다고 보도했습니다.

사진에는 트럼프 전 대통령이 경찰을 피해 달아나거나 주색 죄수복을 입은 채 교도소 생활을 하는 등의 다양한 모습이 담겼습니다. 하지만 해당 사진이 온라인 상에 무분별하게 퍼지면서 다수의 사람들이 실제 트럼프 전 대통령이 체포된 것으로 받아들이고 있는 것으로 알려졌습니다.

이에 AP 통신은 “해당 이미지들은 모두 조작된 가짜로 트럼프는 체포되지 않았다”고 보도했고, 뉴욕 경찰 또한 “트럼프 전 대통령이 경찰에 의해 구금된 바 없다”고 밝혔습니다.

이 가짜 이미지는 영국의 온라인 매체 벨링캣의 창립자이자 저널리스트인 엘리엇 히긴이 만든 것으로 전해졌습니다. 히긴은 “이미지 생성 AI 서비스 미드저니(Midjourney)를 통해 제작한 일종의 패러디였다”며 “조작된 이미지가 얼마나 실제 같은지 알 수 있다”고 설명했습니다.

하지만 가짜 이미지를 배포해 사람들의 혼란을 야기시켰다는 비판을 피해갈 순 없었습니다. 딥페이크(심층 합성 기술) 사진 전문가인 헨리 아이더는 뉴스위크와의 인터뷰에서 “AI 기술에 대해 알고 있는 사람은 이미지가 가짜라는 것을 알 수 있지만, 이를 모르는 사람들은 다르게 받아들일 수 있다”고 지했습니다.

실제로 최근 미국에서는 AI기술을 활용한 가짜 뉴스 문제가 사회적인 파장을 일으키고 있습니다.

지난달 27일 트위터에서 바이든 대통령이 우크라이나 전쟁을 지원하기 위해 미국 국민 징병제를 선언하는 영상이 공개됐습니다. 이 영상은 빠르게 퍼져 800만 조회수를 기록할 정도로 엄청난 관심을 받았습니다. 하지만 해당 영상은 미국 우익 단체 ‘휴먼 이벤트 데일리’가 제작한 가짜뉴스였습니다. 이들은 AI를 활용해 인간의 이미지를 합성하는 딥페이크와 AI보이스 프로그램을 사용한 것으로 알려졌습니다.

지난 8일에는 SNS의 음란 광고에 엠마 왓슨 등 유명 여배우들이 등장하는 일이 있었습니다.

미국 NBC 뉴스에 따르면 딥페이크를 이용해 유명 배우들의 얼굴을 합성한 음란 동영상이 각종 SNS를 통해 퍼져나가고 있다고 보도했습니다.

보도에 따르면 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨의 얼굴을 사용했고, 다른 74개는 할리우드 여배우 스칼릿 조핸슨의 얼굴을 활용한 것으로 나타났습니다.

현재 대다수의 SNS 플랫폼은 딥페이크 기술을 활용해 제작된 콘텐츠 노출을 금지하고 있지만, 규제의 사각지대를 악용한 수백 개의 광고 영상이 SNS를 통해 퍼지고 있는 것으로 전해졌습니다.

이렇듯 AI 기술의 발달로 전문가가 아닌 일반인도 스마트폰 앱을 통해 딥페이크 영상을 만들 수 있게 되면서 가짜 뉴스, 가짜 광고 영상 문제가 불거지고 있는 것으로 보입니다.

한편, 한국에서도 디지털 성범죄 등 AI 기술을 악용한 사례가 늘어나고 있습니다. 

지난해 5월 같은 학원에 다니는 여학생의 합성 나체사진을 SNS에 유포한 중학생이 실형을 선고받았고, 같은 해 11월에는 텔레그램을 통해 허위영상물(딥페이크) 수천 개를 제작한 30대가 검찰에 넘겨졌습니다.

방송통신심의위원회에 따르면, 방심위가 시정을 요구한 딥페이크 영상물은 2021년 1913건에서 지난해 3574건으로 50% 이상 증가하고 있어 AI 기술 악용을 막기 위한 정부 차원의 대책이 시급해 보입니다.