트럼프 전 대통령 체포설 확산시킨 AI 기술의 부작용
▷SNS 상에 도널드 트럼프 전 미국 대통령 체포되는 가짜 사진 확산
▷발전된 AI 기술로 인한 가짜뉴스 등으로 혼란 야기
(출처=트위터 Eliot Higgins)
[위즈경제] 이정원 기자 =최근 도널드 트럼프 전 미국 대통령이 수많은 경찰들에 둘러쌓여 연행되는 모습을 담은 ‘가짜 사진’이 온란인 상에 빠르게 확산되고 있습니다. 해당 이미지는 생성 AI(인공지능)을 활용해 만든 이미지인 것으로 알려졌습니다.
지난 22일(이하 현지시각) AP 통신 등은 트럼프 전 대통령이 뉴욕 경찰에 체포되는 사진이 트위터 등 각종 SNS(사회관계망)을 중심으로 확산되고 있다고 보도했습니다.
사진에는 트럼프 전 대통령이 경찰을 피해 달아나거나 주색 죄수복을 입은 채 교도소 생활을 하는 등의 다양한
모습이 담겼습니다. 하지만 해당 사진이 온라인 상에 무분별하게 퍼지면서 다수의 사람들이 실제 트럼프
전 대통령이 체포된 것으로 받아들이고 있는 것으로 알려졌습니다.
이에 AP 통신은 “해당
이미지들은 모두 조작된 가짜로 트럼프는 체포되지 않았다”고 보도했고,
뉴욕 경찰 또한 “트럼프 전 대통령이 경찰에 의해 구금된 바 없다”고 밝혔습니다.
이 가짜 이미지는 영국의 온라인 매체 벨링캣의 창립자이자 저널리스트인 엘리엇 히긴이 만든 것으로 전해졌습니다. 히긴은 “이미지 생성 AI 서비스
미드저니(Midjourney)를 통해 제작한 일종의 패러디였다”며
“조작된 이미지가 얼마나 실제 같은지 알 수 있다”고 설명했습니다.
하지만 가짜 이미지를 배포해 사람들의 혼란을 야기시켰다는 비판을 피해갈 순 없었습니다. 딥페이크(심층 합성 기술) 사진
전문가인 헨리 아이더는 뉴스위크와의 인터뷰에서 “AI 기술에 대해 알고 있는 사람은 이미지가 가짜라는
것을 알 수 있지만, 이를 모르는 사람들은 다르게 받아들일 수 있다”고 지했습니다.
실제로 최근 미국에서는 AI기술을 활용한 가짜 뉴스 문제가 사회적인
파장을 일으키고 있습니다.
지난달 27일 트위터에서 바이든 대통령이 우크라이나 전쟁을 지원하기
위해 미국 국민 징병제를 선언하는 영상이 공개됐습니다. 이 영상은 빠르게 퍼져 800만 조회수를 기록할 정도로 엄청난 관심을 받았습니다. 하지만 해당
영상은 미국 우익 단체 ‘휴먼 이벤트 데일리’가 제작한 가짜뉴스였습니다. 이들은 AI를 활용해 인간의 이미지를 합성하는 딥페이크와 AI보이스 프로그램을 사용한 것으로 알려졌습니다.
지난 8일에는 SNS의
음란 광고에 엠마 왓슨 등 유명 여배우들이 등장하는 일이 있었습니다.
미국 NBC 뉴스에 따르면 딥페이크를 이용해 유명 배우들의 얼굴을
합성한 음란 동영상이 각종 SNS를 통해 퍼져나가고 있다고 보도했습니다.
보도에 따르면 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨의 얼굴을 사용했고, 다른 74개는 할리우드 여배우 스칼릿 조핸슨의 얼굴을 활용한 것으로 나타났습니다.
현재 대다수의 SNS 플랫폼은 딥페이크 기술을 활용해 제작된 콘텐츠
노출을 금지하고 있지만, 규제의 사각지대를 악용한 수백 개의 광고 영상이 SNS를 통해 퍼지고 있는 것으로 전해졌습니다.
이렇듯 AI 기술의 발달로 전문가가 아닌 일반인도 스마트폰 앱을 통해
딥페이크 영상을 만들 수 있게 되면서 가짜 뉴스, 가짜 광고 영상 문제가 불거지고 있는 것으로 보입니다.
한편, 한국에서도 디지털 성범죄 등 AI 기술을 악용한 사례가 늘어나고 있습니다.
지난해 5월 같은 학원에 다니는 여학생의 합성 나체사진을 SNS에 유포한 중학생이 실형을 선고받았고, 같은 해 11월에는 텔레그램을 통해 허위영상물(딥페이크) 수천 개를 제작한 30대가 검찰에 넘겨졌습니다.
방송통신심의위원회에 따르면, 방심위가 시정을 요구한 딥페이크 영상물은 2021년 1913건에서 지난해 3574건으로 50% 이상 증가하고 있어 AI 기술 악용을 막기 위한 정부 차원의 대책이 시급해 보입니다.
댓글 0개
Best 댓글
지나가는 부산사람 잡고 물어보면 열이면 열 모두 해수부 이전 찬성할겁니다. 해수부 부산이전 가로막는 국짐당은 반드시 부산시민들의 심판을 받을겁니다.
2AI가 너무 빠르게 발전하네요. 나중에는 정말 구분하기 힘들듯 하네요.
3좋은 기사 감사합니다
4해수부가 부산으로가면 단순 해수부만 부산으로 가는게 아니라 해수부의 산하기관들 전부 부산으로 내려가게되서 다른 지역들 입장에서는 배아픈건데 이걸 못받아먹네.. 더군다나 해수부 부산 내려가면 전세계 탑 10에 드는 해양기업인 HMM이 부산으로 이전될 가능성이 높은 상황에서 이걸 반대하는 멍청이 집단이 있다
5좋은 기사 감사합니다
6좋은 기사 감사합니다
7좋은 기사 감사합니다