생성형 AI(챗GPT)의 도움을 받아 시각화하고 기자가 최종 검토 및 확인해 제작한 그래픽입니다. 그래픽에 포함된 데이터와 내용은 기자가 직접 취재한 결과물입니다.

[위즈경제] 류으뜸 기자 =인공지능(AI)이 잘못된 정보를 생성하거나 편향된 판단을 내려 기업에 손해배상 책임이 발생하더라도 기존 보험으로는 이를 제대로 보장받기 어려운 것으로 나타났다. 해외 보험사들은 AI 전용 특약과 독립형 배상책임보험을 내놓으며 보장 공백을 메우고 있지만, 국내를 포함한 보험업계 전반에서는 관련 통계 부족과 불분명한 책임 범위가 상품 개발의 걸림돌로 꼽힌다.

14일 보험연구원에 따르면 김혜란 연구원은 ‘AI 리스크, 전통적 보험 보장 공백과 글로벌 보험산업의 대응’ 보고서를 통해 AI가 공격 수단으로 활용되는 경우에는 기존 사이버보험 등이 일부 작동하지만, AI 자체가 손해배상 책임의 원인이 되는 경우에는 상당한 보장 공백이 발생한다고 분석했다.

AI 리스크는 개발이나 배포 과정에서 피해가 발생할 가능성과 피해의 심각성을 아우르는 개념이다. 일반적인 시스템 장애나 물리적 사고가 없더라도 AI가 정상적으로 작동하는 과정에서 환각, 잘못된 판단, 차별적 결과 또는 개인정보·저작물 유출을 일으킬 수 있다는 점에서 기존 위험과 차이가 있다.

◇AI 공격은 보장해도 ‘AI의 잘못’은 보장 못 해

보고서가 글로벌 재보험중개사 갤러거 리의 분석을 토대로 사이버보험과 기술전문직배상책임보험(Tech E&O), 제조물배상책임보험, 종합배상책임보험(CGL)의 보장 범위를 비교한 결과, 기존 상품만으로 AI 리스크를 온전히 담보하기는 어려운 것으로 나타났다.

사이버보험은 AI 기반 피싱이나 데이터 유출, 사업 중단 등 AI가 공격 도구로 사용된 사고를 주로 보장한다. 반면 AI가 생성한 허위 정보나 명예훼손, 알고리즘 차별·편향 등 AI 자체가 배상책임의 원천이 된 사고에는 적용되기 어렵다.

Tech E&O는 AI 도구를 개발하거나 판매하는 기술기업의 제3자 배상책임을 주로 보장하기 때문에 AI를 업무에 활용하는 일반 기업에는 한계가 있다. 제조물배상책임보험 역시 해당 국가의 법체계가 AI나 소프트웨어를 ‘제품’으로 인정해야 적용될 수 있으며, 재무적 손실이나 알고리즘 차별은 보장 대상에서 벗어난다.

CGL은 원칙적으로 AI로 인해 제3자가 입은 신체·재산 피해 등을 보장할 수 있지만, 올해 1월 시행된 미국 보험서비스사무소(ISO)의 생성형 AI 면책 특약을 적용할 경우 관련 사고가 보장에서 제외될 수 있다.

실제 2022년 에어캐나다에서는 챗봇이 고객에게 잘못된 할인 정보를 안내하면서 분쟁이 발생했다. 에어캐나다는 챗봇의 오류에 책임이 없다고 주장했지만, 2024년 2월 캐나다 법원은 이를 받아들이지 않고 보상을 명령했다.

2023년에는 미국 쉐보레 대리점의 챗봇이 이용자의 악의적인 지시를 받아들여 약 5만8000달러 상당의 차량을 1달러에 판매하는 데 동의하는 답변을 내놓기도 했다. 실제 거래로 이어지지는 않았지만, 기업이 AI 출력물로 인해 예상하지 못한 책임을 부담할 수 있다는 점을 보여준 사례로 평가된다.

◇해외 보험사, AI 보장 공백 선점 경쟁

해외 보험사들은 기존 상품의 빈틈을 메우기 위해 AI 전용 특약과 독립형 배상책임보험을 잇달아 선보이고 있다.

갤러거 리가 보험사를 대상으로 조사한 결과 AI 전용 신규 상품과 AI 특약을 도입할 의향이 있다는 응답은 각각 40%로 나타났다. AI 관련 사고를 기존 보험에서 제외하는 면책조항 도입 의향은 35%, 계약자에게 AI 거버넌스 구축을 요구하겠다는 응답은 31%였다.

Armilla는 지난해 4월 영국 로이즈 시장 최초로 독립형 AI 배상책임보험을 출시했다. AI의 환각이나 모델 성능 저하, 약속한 정확도를 유지하지 못해 발생한 손실을 주요 보장 대상으로 삼았으며 올해 1월에는 조직당 보장 한도를 2500만달러까지 확대했다.

영국 Hiscox UK는 지난해 5월 Tech E&O 약관을 개정해 알고리즘 및 데이터 입력 오류, AI 기반 자문 서비스의 과실 등을 보장하는 담보를 도입했다. 뮌헨리 자회사인 HSB도 올해 3월 중소기업을 대상으로 AI 사용에 따른 신체상해와 재산손해, 인격권 및 광고 관련 침해를 보장하는 AI 배상책임보험을 출시했다.

◇사고 데이터 부족…보험료 산출부터 난관

AI 보험시장의 성장 가능성은 크지만 상품 개발에는 적지 않은 시간이 필요할 전망이다. AI 관련 사고 데이터와 손해 통계가 충분히 축적되지 않아 사고 발생 가능성과 예상 손실을 평가하기 어렵기 때문이다.

보험업계 관계자는 “AI 사고는 같은 오류라도 서비스를 개발한 회사와 이를 업무에 활용한 기업의 책임이 다르게 판단될 수 있어 보험사가 보장 범위를 정하기 쉽지 않다”며 “사고 사례와 손해율이 충분히 쌓이지 않은 상황에서 상품을 먼저 출시하면 보험료를 과도하게 책정하거나 예상하지 못한 대규모 손실이 발생할 수 있다”고 말했다.

그는 이어 “당장 독립형 보험을 내놓기보다는 기존 사이버보험이나 전문직배상책임보험에 AI 관련 특약을 붙이는 형태로 시장성을 확인할 가능성이 크다”며 “AI 이용 과정과 위험관리 체계를 평가할 수 있는 기준부터 마련돼야 한다”고 설명했다.

어디까지를 AI의 책임으로 볼 것인지도 불명확하다. AI 개발기업과 서비스를 제공한 기업, 이를 업무에 활용한 기업 가운데 누가 책임을 부담할 것인지에 따라 보험 적용 여부가 달라질 수 있다. 사이버보험이나 Tech E&O 등 기존 보험과 AI 전용보험 사이의 담보 중복을 정리하고 적정 보장한도를 설정하는 작업도 필요하다.

김혜란 연구원은 “AI가 공격 수단으로 활용되는 경우에는 기존 보험이 대체로 작동하지만, 환각·편향·지식재산권 침해처럼 AI 자체가 배상책임의 원천이 되는 경우 보장 공백이 발생한다”며 “관련 통계 부족과 보장 범위 설정의 한계가 AI 보험 개발의 주요 제약요인이 되고 있다”고 밝혔다.