트럼프 전 대통령 체포설 확산시킨 AI 기술의 부작용
▷SNS 상에 도널드 트럼프 전 미국 대통령 체포되는 가짜 사진 확산
▷발전된 AI 기술로 인한 가짜뉴스 등으로 혼란 야기
(출처=트위터 Eliot Higgins)
[위즈경제] 이정원 기자 =최근 도널드 트럼프 전 미국 대통령이 수많은 경찰들에 둘러쌓여 연행되는 모습을 담은 ‘가짜 사진’이 온란인 상에 빠르게 확산되고 있습니다. 해당 이미지는 생성 AI(인공지능)을 활용해 만든 이미지인 것으로 알려졌습니다.
지난 22일(이하 현지시각) AP 통신 등은 트럼프 전 대통령이 뉴욕 경찰에 체포되는 사진이 트위터 등 각종 SNS(사회관계망)을 중심으로 확산되고 있다고 보도했습니다.
사진에는 트럼프 전 대통령이 경찰을 피해 달아나거나 주색 죄수복을 입은 채 교도소 생활을 하는 등의 다양한
모습이 담겼습니다. 하지만 해당 사진이 온라인 상에 무분별하게 퍼지면서 다수의 사람들이 실제 트럼프
전 대통령이 체포된 것으로 받아들이고 있는 것으로 알려졌습니다.
이에 AP 통신은 “해당
이미지들은 모두 조작된 가짜로 트럼프는 체포되지 않았다”고 보도했고,
뉴욕 경찰 또한 “트럼프 전 대통령이 경찰에 의해 구금된 바 없다”고 밝혔습니다.
이 가짜 이미지는 영국의 온라인 매체 벨링캣의 창립자이자 저널리스트인 엘리엇 히긴이 만든 것으로 전해졌습니다. 히긴은 “이미지 생성 AI 서비스
미드저니(Midjourney)를 통해 제작한 일종의 패러디였다”며
“조작된 이미지가 얼마나 실제 같은지 알 수 있다”고 설명했습니다.
하지만 가짜 이미지를 배포해 사람들의 혼란을 야기시켰다는 비판을 피해갈 순 없었습니다. 딥페이크(심층 합성 기술) 사진
전문가인 헨리 아이더는 뉴스위크와의 인터뷰에서 “AI 기술에 대해 알고 있는 사람은 이미지가 가짜라는
것을 알 수 있지만, 이를 모르는 사람들은 다르게 받아들일 수 있다”고 지했습니다.
실제로 최근 미국에서는 AI기술을 활용한 가짜 뉴스 문제가 사회적인
파장을 일으키고 있습니다.
지난달 27일 트위터에서 바이든 대통령이 우크라이나 전쟁을 지원하기
위해 미국 국민 징병제를 선언하는 영상이 공개됐습니다. 이 영상은 빠르게 퍼져 800만 조회수를 기록할 정도로 엄청난 관심을 받았습니다. 하지만 해당
영상은 미국 우익 단체 ‘휴먼 이벤트 데일리’가 제작한 가짜뉴스였습니다. 이들은 AI를 활용해 인간의 이미지를 합성하는 딥페이크와 AI보이스 프로그램을 사용한 것으로 알려졌습니다.
지난 8일에는 SNS의
음란 광고에 엠마 왓슨 등 유명 여배우들이 등장하는 일이 있었습니다.
미국 NBC 뉴스에 따르면 딥페이크를 이용해 유명 배우들의 얼굴을
합성한 음란 동영상이 각종 SNS를 통해 퍼져나가고 있다고 보도했습니다.
보도에 따르면 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨의 얼굴을 사용했고, 다른 74개는 할리우드 여배우 스칼릿 조핸슨의 얼굴을 활용한 것으로 나타났습니다.
현재 대다수의 SNS 플랫폼은 딥페이크 기술을 활용해 제작된 콘텐츠
노출을 금지하고 있지만, 규제의 사각지대를 악용한 수백 개의 광고 영상이 SNS를 통해 퍼지고 있는 것으로 전해졌습니다.
이렇듯 AI 기술의 발달로 전문가가 아닌 일반인도 스마트폰 앱을 통해
딥페이크 영상을 만들 수 있게 되면서 가짜 뉴스, 가짜 광고 영상 문제가 불거지고 있는 것으로 보입니다.
한편, 한국에서도 디지털 성범죄 등 AI 기술을 악용한 사례가 늘어나고 있습니다.
지난해 5월 같은 학원에 다니는 여학생의 합성 나체사진을 SNS에 유포한 중학생이 실형을 선고받았고, 같은 해 11월에는 텔레그램을 통해 허위영상물(딥페이크) 수천 개를 제작한 30대가 검찰에 넘겨졌습니다.
방송통신심의위원회에 따르면, 방심위가 시정을 요구한 딥페이크 영상물은 2021년 1913건에서 지난해 3574건으로 50% 이상 증가하고 있어 AI 기술 악용을 막기 위한 정부 차원의 대책이 시급해 보입니다.
댓글 0개
Best 댓글
어떤 한 부분때문에 생활동반자법을 만드는것에 반대합니다! 결혼이라는 가정의 경계를 무너뜨리고 오히려 자녀들의 대한 무책임이 더 커질 수 있으며 동성애합법화라는 프레임으로 이용하려는 세력들의 도구로 사용될 가능성이 농후합니다!
2헌법에 위배되며,동성애조장과 동성결혼을 합법화하려는 악한법이다
3기본배급당 앗, 기본소득당 용씨에게 되묻습니다! 네 딸?아들?이 동성성행위 하는 게 자연스럽다 싶고, 아름답게 느껴져서 국민들에게도 100% 진심으로 권유하고 싶은 거 맞으세요?? 본인 자녀가 생활동반자법으로 당하게 될 가능성이 매우 다분한 악벚의 폐해에 대해서 조금이라도 고민하거나 팩트에 기반한 임상적 학문적 연구나 조사를 정말 해본 거 맞나요??
4이 법안 찬성하는 분들은 현실감각부터 되찾으시길 바랍니다. 정상적인 삶을 살아본 적 있나요? 저는 이 법안에 강력히 반대합니다.
5이 법을 만들고 싶어하는 용혜인 의원의 말을 보면, 마치 지금 법적인 생활동반자가 '어쩔 수 없이' 되지 못한 사람들이 수두룩한 것처럼 보인다. 함께 살 집을 구하고, 아이를 낳고 기르고, 응급상황에서 동반자의 수술동의서에 서명하고, 노후 준비와 장례까지 함께하는 등의 애틋하고 좋은 행위를 단지 법적인 생활동반자가 아니라는 이유 때문에 '못'하고 있는 사람들이 줄을 서있다고 하는 것 같다. 과연 그럴까? 나는 이에 대해서 대한민국 건국 이래로 수많은 국민들이 법적 생활동반자(쉽게 말해 전통적 가족이다)로 보호를 받았다는 것을 말하고 싶다. 자기들을 생활동반자로 받아달라고 떼쓰는 무리들의 수에 가히 비교가 안 된다. 그리고 그들이 받는 보호로 인해, 살면서 발생하는 수많은 위기가 극복되었고, 평화로운 생활을 유지했으며, 아름답게 죽을 때까지 함께 한 가정들이 수도 없이 많고, 지금 사회 각계각층에 속한 사람들 중 절대다수가 그런 보호를 매우 잘 받고 성장했다는 것을 말하고 싶다. 그럼 지금 법적 생활동반자가 되고 싶어하는 사람들은 누구인가? 기본적으로 자기들을 '가족'과 동일선상에 놓고 취급해달라는 사람들이다. 돈 없는 청년들이 모여서 살 집이 없어 그런 취급을 요구하는 걸까? 그런 불쌍한 사람들이 대부분일까? 아니다. 이런 권리를 요구하는 사람들 중에는 비정상적 동거를 하고 싶은 사람들, 비정상적 출산을 하고 싶은 사람들이 대부분이다. 그런 사람들의 혜택을 위해서, '생활동반자'의 범위를 확대,개편하는 것은 매우 위험하다. 오히려 '가족' 개념을 지금처럼 엄히 정의하여 경계를 명확히 하는 것이 정상적 혼인과 출산을 자연스럽게 지향하며, 피로 맺은 약속에 대한 합당한 취급과 권리를 더욱 안전히 보장 받게 한다. 그러므로 생활동반자법을 폐기함으로써 역사적으로, 경험적으로 검증된 안전한 가족의 범위(혼인과 혈연)를 보호해야 한다. 또한 지금도 보호 받고 있는 혼인,혈연 관계들이 계속하여 고유한 보호를 받아야 한다.
6미국도 pc주의때문에 반발이 심한데 대한민국이 악용될 법을 왜 만드는가 몇명이 주장하면 통과되는건가? 자기돌이 옳다하면 옳게 되는건가? 난 절대반대다!
7사회에 혼란을 주고 악용될 가능성이 많은 법이라 반대합니다.
