구태언 KBIPA 부회장 겸 법무법인 린 파트너 변호사가 11일 국회의원회관 제8간담회의실에서 진행된 '인공지능(AI) 시대, 디지털 신뢰 인프라 구축과 블록체인 산업 진흥을 위한 국회 토론회'에서 기조강연을 진행하고 있다. 사진=위즈경제

[위즈경제] 장석찬 기자 =인공지능(AI)이 콘텐츠와 데이터를 생성하는 것을 넘어 계약과 결제까지 수행하는 시대가 열리고 있지만, 이를 뒷받침할 법·제도는 기술의 변화를 따라가지 못하고 있다는 지적이 나왔다. AI 생성물의 출처와 변조 여부를 확인하는 ‘검증’, 자산 이용과 거래에 따른 대가를 주고받는 ‘정산’, 거래 과정에서 발생한 권리와 책임의 주체를 정하는 ‘귀속’ 체계를 함께 마련해야 한다는 것이다.

구태언 KBIPA 부회장 겸 법무법인 린 파트너 변호사는 11일 국회 의원회관에서 열린 ‘인공지능(AI) 시대, 디지털 신뢰 인프라 구축과 블록체인 산업 진흥을 위한 국회 토론회’에서 ‘AI 주권의 레일-모델이 아니라 레일이다’를 주제로 기조강연을 하고 이같이 밝혔다.

구 변호사는 AI 시대에 문서와 이미지, 영상 등 막대한 양의 디지털 자산이 생성되고 있지만, 정부 정책은 GPU와 데이터, 독자 AI 모델 등 자산을 만들어내는 기반을 확보하는 데 집중돼 있다고 진단했다. 이제는 AI가 만든 자산의 출처를 검증하고 이를 실제로 거래해 권리자에게 대가가 돌아가도록 하는 제도적 기반까지 마련해야 한다는 주장이다.

◇AI 생성물 표시 의무화됐지만…출처·변조 검증 기준은 미비

현행 인공지능기본법은 생성형 AI를 이용한 제품이나 서비스의 결과물에 AI가 생성했다는 사실을 표시하도록 규정하고 있다. 시행령은 사람이 알아볼 수 있는 방식뿐 아니라 소프트웨어 등이 인식할 수 있는 ‘기계 판독’ 방식으로도 이를 표시할 수 있도록 했다.

그러나 구 변호사는 표시 의무만 마련됐을 뿐 생성 이후 콘텐츠나 표시가 변조됐는지를 확인할 구체적인 기술 규격과 검증 절차는 부족하다고 지적했다. 단순히 ‘AI가 만든 결과물’이라고 표시하는 데 그치지 않고 해당 표시가 제거되거나 변조되지 않았는지, 누가 언제 생성했는지까지 확인할 수 있어야 한다는 것이다.

대표적인 사례로는 딥페이크를 들었다. 구 변호사는 “딥페이크를 AI로 쉽게 만들 수 있다는 것은 무결성과 귀속 주체, 누가 만들었는지 등에 대한 검증체계가 부재하다는 점을 보여주는 반증”이라고 말했다.

국내에 구체적인 표시·검증 규격이 마련되지 않으면 해외 규격에 의존할 가능성도 있다고 봤다. 이에 생성 시점과 생성 주체 등의 정보를 위·변조가 어렵게 기록하고, 제3자가 독립적으로 확인할 수 있는 블록체인 기반 검증체계를 대안으로 제시했다.

◇가상자산 관리체계 마련에도…지급·수령 제도와는 ‘단절’

디지털 자산의 출처를 검증하더라도 이를 실제 거래에 활용하려면 대가를 주고받을 수 있는 정산체계가 필요하다.

구 변호사는 정산체계의 제도적 공백을 보여주는 사례로 외국환거래법을 들었다. 외국환거래법은 해외와 자금을 주고받거나 외화를 거래하는 절차를 규율하며 무역대금의 지급·수령 방식과도 밀접하게 연결돼 있다.

그는 “외국환거래법을 개정해 가상자산을 보고체계에는 포함했지만 지급·수령 체계에는 넣지 않고 있다”고 지적했다. 오는 12월 3일 시행되는 개정 외국환거래법은 가상자산을 이용한 국경 간 거래를 관리하기 위해 가상자산이전업 등록과 거래자료의 중계·집중·교환 체계 등을 도입했다. 하지만 가상자산을 실질적인 지급·수령 수단으로 활용할 수 있는 제도와는 연결되지 않았다는 설명이다.

제도와 현실의 간극을 보여주는 사례로는 스테이블코인을 활용한 무역대금 거래를 제시했다. 대구본부세관은 지난해 10월까지 스테이블코인 등 가상자산을 이용해 무역대금을 주고받은 업체들을 적발했으며, 관련 거래 규모는 9200억원에 달했다.

구 변호사는 이를 지급·결제에 대한 시장의 실질적인 수요가 이미 발생했지만 제도가 이를 따라가지 못하고 있음을 보여주는 사례로 평가했다. 가상자산을 법적으로 정의하고 거래를 관리하는 데 머무르지 않고 실제 지급과 수령이 가능한 제도적 통로까지 마련해야 한다는 것이다.

◇계약하고 결제하는 AI 에이전트…신원·책임 기준은 부족

검증과 정산에 이어 AI와 디지털 자산을 이용한 거래에서 발생한 권리와 책임을 누구에게 돌릴 것인지 정하는 ‘귀속’ 문제도 남아 있다.

구 변호사는 사람의 지시에 따라 필요한 업무를 자율적으로 수행하는 ‘AI 에이전트’가 계약과 결제까지 맡는 단계에 접어들었지만, 에이전트의 신원을 확인하거나 거래에 필요한 계좌를 부여하는 제도적 체계는 부족하다고 지적했다. AI 에이전트의 행위로 손해가 발생했을 때 이용자와 개발자, 운영자 가운데 누가 책임을 져야 하는지에 대한 기준도 불분명하다.

보완책으로는 AI 에이전트마다 신원을 확인할 수 있는 식별자를 부여하고, 사람이 AI에 어떤 권한을 부여하거나 회수했는지를 기록하는 방안을 제안했다. 누가 AI에 어떤 권한을 줬고 AI가 이를 바탕으로 어떤 행위를 했는지 확인할 수 있어야 책임 소재를 판단할 수 있다는 설명이다.

디지털 자산 거래에서도 비슷한 문제가 발생한다. 스테이블코인을 지급받았을 때 어느 시점에 지급의 효력이 발생하는지, 발행업체가 파산하면 손실은 누가 부담하는지 등이 대표적이다. 이는 소유권과 거래 효력, 손해배상 등 민법상 쟁점과 연결되는 만큼 디지털 환경에 맞는 법체계가 필요하다고 강조했다.

◇소관 부처 제각각…“검증·정산·귀속 입법 동시에 추진해야”

문제는 검증과 정산, 귀속이 하나의 법률이나 정부 부처의 소관으로 묶이지 않는다는 점이다. 검증은 AI·블록체인 등 과학기술 영역과 연결되고, 정산은 지급결제·금융·외국환 제도, 귀속은 소유권·계약·책임 등 민법 영역까지 걸쳐 있다.

구 변호사는 “과기부와 문체부, 재정경제부, 금융위, 한국은행, 법무부, 개인정보보호위원회 등 다양한 기관이 협력해 풀어야 할 문제”라고 말했다.

이어 각 기관이 전문성에 따라 역할을 나눠 제도를 정비하되, 관련 입법을 동시에 추진하는 ‘세 트랙’ 방식을 제안했다. AI 생성물 검증과 지급·정산, 권리·책임 귀속을 각각 나눠 다루면서도 어느 하나가 끝난 뒤 다음 단계로 넘어가는 순차적 방식이 아니라 세 영역의 입법을 병행해야 한다는 것이다.

구 변호사는 “검증·정산·귀속을 AI 자산과 AI 주권이 움직이는 궤도라고 부르고 싶다”며 “AI가 만든 자산이 안전하게 이동하고 거래될 수 있도록 하는 레일을 만들어야 할 시점”이라고 말했다.