AI 에이전트 신원 확인 메커니즘- 등록에서 검증까지(출처=KB경영연구소)

[위즈경제] 조중환 기자 = 생성형 AI가 검색과 추천을 넘어 예약, 구매, 결제, 자산관리까지 대신 수행하는 ‘AI 에이전트 경제’가 다가오고 있다. KB금융지주 경영연구소가 2026년 8월 발간한 보고서 ‘블록체인의 다음 진화: AI 에이전트 경제 인프라로의 도약’은 AI가 경제활동의 주체로 부상하면서 금융 인프라의 경쟁축이 단순 결제에서 신원 확인, 권한 관리, 거래 검증, 컴플라이언스로 옮겨가고 있다고 분석했다. 위즈경제는 보고서를 토대로 블록체인의 역할 변화와 카드·블록체인 진영의 경쟁, 국내 금융권의 과제를 5회에 걸쳐 짚어본다. [편집자주] 

AI가 사용자를 대신해 결제하는 시대가 오면 가장 먼저 부딪히는 질문은 편의성이 아니다. 누가 허락했는지, 어디까지 허락했는지, 문제가 생겼을 때 누가 책임지는지다. AI에게 지갑을 맡긴다는 것은 단순 자동결제 기능을 켜는 일이 아니라, 새로운 신뢰 체계를 요구하는 일이다.

보고서는 AI 에이전트 경제가 확산되려면 인간과 동일한 수준의 신뢰 인프라가 필요하다고 분석했다. 핵심은 신원 확인, 권한 관리, 결제, 컴플라이언스다. 지금까지 금융사는 사람을 대상으로 고객확인제도, 즉 KYC를 수행했다. 그러나 AI가 거래를 실행하는 환경에서는 AI 에이전트가 누구를 대신하는지, 적법한 권한을 받았는지, 거래 결과에 대한 책임 주체가 누구인지까지 확인해야 한다.

이른바 KYA, 즉 ‘Know Your Agent’가 중요해지는 이유다. AI가 고객의 비서처럼 상품을 검색하는 수준이라면 문제는 비교적 단순하다. 하지만 AI가 결제 한도 안에서 상품을 사고, 금융상품에 가입하고, 다른 AI와 조건을 협상한다면 상황은 달라진다. 금융사는 AI가 단순 추천자인지, 결제 권한을 가진 대리인인지, 독립적인 디지털 지갑을 가진 주체인지 구분해야 한다.

권한 관리도 핵심이다. 사용자는 AI에게 모든 권한을 줄 수 없다. 금액 한도, 사용처, 거래 목적, 시간, 상대방 범위 등을 세밀하게 설정해야 한다. 예를 들어 출장 예약 AI에는 항공권과 숙박 결제 권한만 주고, 투자 AI에는 특정 위험등급 이하의 상품 추천 권한만 주는 식이다. 권한 범위를 벗어난 거래는 자동 차단되거나 상급 승인을 거쳐야 한다.

문제는 AI의 거래가 빠르고 빈번해질수록 사후 대응만으로는 부족하다는 점이다. AI 에이전트는 인간보다 훨씬 많은 거래와 의사결정을 짧은 시간에 수행할 수 있다. 잘못된 권한 설정, 판단 오류, 환각, 악성 프롬프트, 권한 탈취가 발생하면 피해 확산 속도도 빨라진다. 단순히 결제가 끝난 뒤 이상거래를 잡는 방식으로는 한계가 생긴다.

생성형 AI(쳇GPT)의 도움을 받아 시각화하고 기자가 최종 검토 및 확인해 제작한 그래픽입니다
 

보고서는 싱가포르통화청이 제안한 SAFR 프레임워크도 소개했다. 이 구조는 AI 에이전트의 행위가 실행되기 직전에 이를 검증하는 방식이다. 에이전트 신원, 통제 규정 저장소, 판단 엔진, 감사 기록의 네 가지 요소를 거쳐 차단, 상급 승인, 자동 실행, 관찰 중 하나로 판정한다. 특히 다단계 업무 흐름에서 이전 단계의 승인이 다음 단계로 자동 이월되지 않도록 매 단계 별도 인가를 거치게 설계한 점이 눈에 띈다.

이런 통제 체계는 금융사의 역할 변화를 의미한다. 지금까지 금융사는 고객이 요청한 거래를 빠르고 안전하게 처리하는 데 집중했다. 그러나 AI 에이전트 시대에는 거래가 실행되기 전 AI의 신원과 권한, 거래 목적, 위험 여부를 실시간으로 검증해야 한다. 결제 처리자가 아니라 에이전트 행위의 검증자 역할까지 요구받게 되는 것이다.

AI 결제 논의에서 가장 위험한 접근은 “사용자가 허락했으니 문제없다”는 식의 단순화다. 실제 금융 현장에서는 사용자의 최초 동의와 AI의 개별 실행 사이에 수많은 판단이 끼어든다. AI가 추천한 상품이 사용자의 의도와 달랐는지, 위임 범위를 오해했는지, 외부 공격으로 조작됐는지, 시장 상황 변화에 따라 위험이 커졌는지를 따져야 한다.

따라서 AI에게 지갑을 맡기는 시대의 핵심은 자동화가 아니라 통제 가능성이다. AI가 더 많은 일을 하게 될수록 사람은 더 적게 개입하는 것이 아니라, 더 정교한 기준을 미리 설계해야 한다. 금융사는 AI의 자율성을 허용하되 언제 멈춰 세울지, 어떤 거래를 사람에게 되돌릴지, 사고 후 책임을 어떻게 추적할지 준비해야 한다. AI 금융의 신뢰는 빠른 결제에서 나오지 않는다. 멈출 수 있고, 설명할 수 있고, 책임을 물을 수 있는 구조에서 나온다.