생성형 AI(쳇GPT)의 도움을 받아 시각화하고 기자가 최종 검토 및 확인해 제작한 그래픽입니다. 그래픽에 포함된 데이터와 내용은 기자가 직접 취재한 결과물입니다.

[위즈경제] 류으뜸 기자 =공무원의 법령 검토를 돕는 ‘AI 법령 비서’가 정부 업무에 본격 투입된다. 법령과 판례를 찾는 시간을 줄여 행정 처리 속도를 높이겠다는 취지지만, AI가 제공한 답변이 실제 행정처분에 영향을 미쳤을 때 오류 책임을 누구에게 물을 것인지는 여전히 풀어야 할 과제로 남았다.

법제처와 행정안전부, 과학기술정보통신부는 오는 14일부터 중앙·지방정부의 모든 공무원을 대상으로 AI 법령 비서 시범서비스를 시작한다고 밝혔다.

AI 법령 비서는 법령과 행정규칙, 자치법규, 판례를 토대로 정책 기획과 입안, 집행 과정에서 발생하는 법적 질문에 답하는 서비스다. 대법원 판례 6만 건과 법령·행정규칙 24만 건, 서울·인천·대전·세종·경기 등 5개 시도의 자치법규 약 5만 건이 탑재됐다.

◇한 달 만에 개발한 AI…정부 “법령 검토시간 단축”

정부는 이번 서비스를 범정부 AI 공통기반에 구축된 법령정보 검색증강생성, 이른바 RAG 기술을 활용해 개발했다. RAG는 AI가 미리 탑재된 자료를 검색해 답변을 생성하도록 하는 방식으로, 사실과 다른 내용을 만들어내는 환각 현상을 줄이는 데 활용된다.

서비스는 국내 독자 AI 파운데이션 모델 등을 이용해 답변을 생성한다. 중앙·지방정부 공무원은 행정내부망의 AI 대화서비스인 ‘온AI 실험실’을 통해 업무에 활용할 수 있다.

전문 개발 인력이 아닌 공무원들이 직접 서비스 구축에 참여해 약 한 달 만에 개발을 마쳤다는 점도 정부가 내세우는 성과다. 반복적인 법령 검색과 검토에 투입되는 시간을 줄이고, 그만큼 민원과 정책 업무에 집중할 수 있다는 설명이다.

◇“중간 검토 자료로만 활용”…최종 책임은 공무원에게

문제는 AI 답변이 실제 행정 판단에 영향을 미친 뒤 오류가 확인됐을 때 책임을 어떻게 나눌 것인지다. AI가 잘못된 법령이나 판례를 제시하거나 필요한 규정을 누락했더라도, 이를 발견하지 못한 책임은 최종 결정을 내린 공무원에게 돌아갈 가능성이 크다. 시스템 자체의 오류와 담당자의 검토 부족을 구분할 구체적인 기준도 아직 제시되지 않았다.

현장 공무원들도 AI 활용 과정에서 책임 문제를 가장 크게 우려하고 있다.

공무원노동조합총연맹이 지난 4월 일선 공무원을 대상으로 실시한 설문조사에 따르면 응답자의 83%가 업무에 AI를 활용하고 있다고 답했다. AI 활용 과정에서 가장 우려되는 점으로는 응답자의 49.8%가 ‘오류 발생 시 책임소재 불분명’을 꼽았다.

응답자의 96.9%는 AI가 만든 결과물에 대해 사람의 검토가 반드시 필요하다고 답했다. AI를 업무 보조수단으로 활용하는 데에는 긍정적이지만, 오류가 발생했을 때 최종 책임이 개인 공무원에게 집중될 수 있다는 부담이 반영된 결과로 풀이된다.

전문가들은 정부의 AI 활용이 확대될수록 책임성과 통제체계도 함께 강화돼야 한다고 강조했다.

정준화 국회입법조사처 과학방송통신팀 입법조사관은 관련 자료를 통해 “AI는 국가 발전과 행정 혁신을 위한 중요한 수단이지만, 기술을 도입하는 것만으로 바람직한 성과가 자동적으로 보장되는 것은 아니다”라고 밝혔다.

이어 “알고리즘 편향과 책임 공백, 통제 실패 등 AI 정부에서 발생할 수 있는 위험을 체계적으로 관리할 법·제도적 장치를 마련해야 한다”고 강조했다.

AI가 단순한 법령 검색과 문서 요약을 넘어 정책 판단과 행정 의사결정에 영향을 미치는 만큼, 오류 발생 시 책임 주체와 검증 절차를 사전에 분명히 해야 한다는 취지다.