지난 22일 미국 펜타곤에서 대형 폭발이 일어났다는 주장과 함께 유포된 사진. 이 사진은 인공지능(AI)으로 제작된 것으로 밝혀졌다(출처=트위터 캡쳐) 

[위즈경제] 이정원 기자 =지난 22일(현지시각) 트위터, 페이스북 등 SNS 상에 미국 펜타곤(국방부) 근처에서 대형 폭발이 발생했다고 주장하는 사진이 빠르게 확산되면서 미국 증시가 하락하는 등의 혼란이 발생했습니다. 이후 해당 사진은 생성형 인공지능(AI)으로 제작된 가짜 사진이라는 것이 드러났지만, 이번 사건으로 인해 생성 AI에 대한 우려가 커지고 있는 모양새입니다.

생성 AI로 인한 허위정보 확산 논란은 이번이 처음이 아닙니다. 지난 3월에는 도널드 트럼프 전 미국 대통령이 경찰들에게 쫓기고 체포되는 모습이 담긴 사진이 큰 화제를 모았고, 프란치스코 교황이 하얀색 명품 패딩을 입고 있는 모습 등 생성 AI로 제작된 가짜 사진이 온라인 상에 확산돼 전 세계적인 혼란이 일었습니다.

#'AI 대부'도 경고한 AI 위험성

지난 1일 뉴욕타임즈(NYT)에 따르면 AI 업계의 대부로 불리는 제프리 힌튼(76) 박사가 지난달 구글에 사표를 냈습니다. 힌튼 박사는 캐나다 토론토대 컴퓨터과학 교수 재직 당시 창업한 AI 업체인 ‘DNN리서치’가 2013년 구글에 인수된 후 구글 소속 연구원으로 활동해왔습니다.

그는 10년 이상 몸 담았던 구글에서 나온 이유에 대해 AI의 위험성을 자유롭게 경고하기 위해서라고 밝혔습니다. 힌튼 박사는 “이전에는 대부분의 사람들이 로봇이 사람보다 더 똑똑해질 수 없다고 생각했다. 나도 그렇게 믿었고, 30년에서 50년은 더 걸릴 것이라고 생각했다. 하지만 이제 더 이상 그렇게 생각하지 않는다”라고 설명했습니다.

BBC와의 인터뷰에서 AI 챗봇의 위험성에 대한 질문에 힌튼 박사는 “AI는 인간보다 더 똑똑해질 것이며, 이를 악용하는 이들이 생겨날 것이다”면서 “AI 챗봇은 많은 텍스트를 자동으로 생성할 수 있어 효율적인 스팸봇 제작에 사용될 수 있다. 이는 지도자들이 유권자들을 조종할 수 있게 해주는 식의 문제를 일으킬 수 있다”고 경고했습니다.

역사학자이자 세계적 베스트셀러 작가인 유발 하라리도 “AI의 언어 습득은 AI가 문명의 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻한다”며 위험성을 지적하고 AI 사용을 늦추면서 통제 방법을 찾아야 한다고 주장했습니다.

앞서 비영리 단체 삶의 미래 연구소(Future of Life Institute)는 지난 3월 차세대 AI 모델 개발을 6개월 유예하자는 내용의 공개서한을 발표하기도 했습니다. 해당 서한에는 테슬라 최고경영자 일론 머스크와 애플 공동창업자 스티브 워즈니악 등 1000명이 넘는 유명인사가 서명한 것으로 알려졌습니다.

#AI는 전 세계 사람들의 삶을 개선하는 데 도움이 된다

반면 AI 기술의 필요성을 강조하는 목소리도 있습니다.

마이크로소프트 창업자인 빌게이츠는 지난 3월 ‘AI의 시대가 열렸다’는 제목의 글을 통해, “AI의 발전은 마이크로프로세서, 개인용 컴퓨터(PC), 인터넷, 휴대폰의 탄생만큼이나 근본적인 것”이라며 AI 기술에 대한 높은 기대감을 피력했습니다.

그는 이어 “이 새로운 기술은 전 세계 사람들의 삶을 개선하는 데 도움이 될 수 있다. 동시에 전 세계는 AI의단점이 장점보다 훨씬 더 크도록, 그리고 거주 지역이나 재산의 많고 적음에 관계없이 모든 사람이 이러한 혜택을 누릴 수 있도록 규칙을 정립해야 한다. AI의 시대는 기회와 책임으로 가득 차 있다”고 설명했습니다.

세계 인공지능 ‘4대 석학’으로 알려져 있는 앤드류 응 스탠퍼드대 교수와 얀 르쿤 뉴욕대 교수는 AI의 위험성을 인정하는 한편, “AI 개발을 중단하는 것이야 말로 오히려 컨트롤 가능하고 안전한 AI를 개발하는 시간을 빼앗기는 계기가 될 것”이라고 경고했습니다.

이들은 일시 중단하고 안전망을 만들기보다는 지속 개발을 추구하면서 이에 맞는 규제책을 찾는 것이 중요하다고 강조했습니다.

#탄력받는 AI 규제 관련 논의 

최근 오픈AI가 제작한 챗GPT를 시작으로 전 세계적으로 AI 개발이 빠르게 진행되고 있는 만큼 AI의 잠재적 위험과 부작용을 막기 위한 논의도 탄력을 받고 있습니다.

챗GPT 창업자 겸 최고경영자(CEO)인 샘 올트먼과 그레그 브로크먼 회장 겸 공동창업자, 일리야 수츠케버 수석 과학자는 지난 22일(현지시간) 자사 블로그에 ‘초기능 거버넌스’라는 제목의 글에서 “우리는 더 번영하는 미래를 가질 수 있지만, 거기에 도달하려면 위험을 관리해야 한다”고 했습니다.

이들은 “초지능(Superintelligence)은 잠재적인 장단점 모든 측면에서 인류가 그간 맞서온 다른 기술보다 강력할 것이다”면서 “실존적 위험 가능성을 고려하면 우리는 단순히 대응하는 차원에 머무를 수 없다”고 설명했습니다.

그러면서 “AI의 잠재적 위험을 통제하고 부작용을 막기 위해 (핵물질을 감시하는) 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 강조했습니다.

정부차원에서 AI 규제를 위한 노력 또한 이어지고 있습니다.

유럽연합은 AI 규제에 가장 적극적으로 행보를 보이며, 글로벌 규제를 선도하고자 하는 움직임을 보이고 있습니다. 유럽의회 산하 소비자보호위원회는 지난 11일 EU 전역에서 챗GPT∙미드저니 등 AI 체계를 규제하기 위한 법안을 추진하기로 했습니다.

해당 법안에는 챗GPT∙미드저니 등 생성 AI를 별도 카테고리로 분류해 사용자에게 사람이 아닌 기계에 의해 작성된 것이라고 명확히 알리는 등 투명성 강화 조처가 포함될 것으로 알려졌습니다. 

미국에서도 조 바이든 대통령이 구글과 마이크로소프트(MS) 등 AI 분야 빅테크 최고경영자를 백악관으로 초정해 민관 협의회를 개최하는 등 AI 규제를 위한 준비 작업에 착수했습니다. 

카멀라 해리스 부통령은 회의 후 성명을 통해 "바이든 정부가 AI에 대한 새로운 규제를 추진하고, 법률적으로 지원할 것"이라고 밝혔습니다.