5월 14일 국회에서 열린 정무위원회 전체 회의에서 여야 의원들이 개인정보보호법 개정안 등 법안을 처리하고 있다. 사진=연합뉴스

[위즈경제] 장석찬 기자 =기업이나 기관이 다른 목적으로 수집한 개인정보도 일정한 요건을 갖추면 별도 동의 없이 인공지능(AI) 개발에 활용할 수 있는 길이 열렸다. 영상·음성 등을 가명·익명 처리할 때 데이터 품질이 떨어져 AI 성능을 확보하기 어려웠던 문제를 해소하려는 취지다. 다만 학습을 마친 AI 모델이 외부 공격을 받으면 학습에 사용된 개인정보 일부가 빠져나갈 수 있다는 지적이 나온다.

지난달 20일 국회 본회의를 통과한 개인정보 보호법 개정안은 가명·익명정보만으로 AI 개발이 어렵고 공익·사회적 필요성이 인정되는 경우 개인정보보호위원회 심의·의결 등을 거쳐 적법하게 수집한 개인정보를 AI 개발에 활용할 수 있도록 하는 내용을 담고 있다. 기존에는 적법하게 수집된 개인정보라도 수집 목적과 다른 AI 개발에 활용하려면 정보주체의 별도 동의를 받거나 법률상 근거가 필요했다. 그렇지 않을 경우 개인을 알아볼 수 없도록 가명·익명처리해 활용해야 했다. 

그러나 영상이나 음성 등 복합적인 비정형 데이터는 가명·익명처리를 거칠 경우 데이터의 정밀도와 품질이 크게 훼손돼 자율주행이나 보이스피싱 예방 AI 등 고도화된 기술 학습에 한계가 명확했다. 이처럼 AI 개발 현장에서는 원본 데이터 활용 필요성이 커졌지만, 이를 허용할 상시적인 법적 근거는 부족했다. 이번 개정안은 이러한 제도적 공백을 해소하기 위해 마련됐다.

◇학습 끝나도 개인정보 노출 위험…서비스 전 검증해야

문제는 AI 개발 과정에서 개인정보를 안전하게 관리하더라도 학습이 끝난 모델을 통해 정보가 유출될 위험이 남는다는 점이다. 대규모 AI 모델은 학습 데이터 일부를 기억할 수 있어, 외부 공격을 받으면 개인정보가 빠져나가거나 특정인의 정보가 학습에 사용됐는지 드러날 수 있다.

김경진 성신여대 융합보안공학과 교수는 “AI 모델을 역으로 공격해 학습 데이터를 빼내는 ‘학습 데이터 추출 공격’이나 특정인의 정보가 학습에 사용됐는지를 확인하는 ‘멤버십 추론 공격’을 통해 개인정보가 유출될 수 있다”며 “특히 얼굴이나 성문(목소리) 같은 생체인식정보는 비밀번호와 달리 유출된 뒤 바꿀 수 없어 피해가 장기간 이어질 수 있다”고 말했다.

학습 이후의 유출 위험뿐 아니라 특례 적용 기준이 모호해 개인정보 활용 범위가 지나치게 넓어질 수 있다는 우려도 나온다. 시민단체 참여연대 관계자는 “특례 적용 요건과 관련해 AI 개발이 어느 정도로 어려워야 하는지, 무엇을 공익적·사회적 필요성으로 볼 것인지에 대한 구체적인 판단 기준이 제시되지 않았다”며 “이 때문에 기술적으로 가명·익명 처리가 불가능한 경우뿐 아니라 처리에 많은 비용과 시간이 든다는 사정까지 특례 적용 사유로 인정될 수 있다”고 지적했다.

◇“AI 서비스 전 개인정보 노출 검사해야”

전문가들은 AI 학습이 완료된 이후 개인정보 노출 여부를 사전에 검증하는 절차도 반드시 병행되어야 한다고 제안한다. 현재 특례가 원본 개인정보의 활용 여부를 사전에 심의하는 데 초점을 맞춘 만큼, 학습을 마친 AI 모델이 개인정보를 기억하거나 외부에 노출할 가능성까지 확인해야 한다는 취지다.

김 교수는 “특례에서 공백으로 남은 부분은 산출물 단계”라며 “최소한 학습이 완료된 모델을 대상으로 데이터 추출이나 멤버십 추론 테스트를 실시하고 그 결과를 심의기관에 제출하도록 하는 배포 전 검증 절차가 필요할 듯하다”고 말했다.

가명 처리하지 않은 개인정보의 사용량 자체를 최소화하는 방안도 제시됐다. AI 성능을 확보하는 데 반드시 필요한 일부 데이터만 원본 상태로 사용하고, 나머지 데이터는 가명 처리하는 방식이다. 김 교수는 “전량을 원본으로 사용하는 것이 아니라 성능에 실제로 문제가 되는 부분집합만 원본으로 사용하고, 나머지는 가명 처리하는 혼합 설계도 내세울 수 있다”고 설명했다.

개정법은 국무회의 의결과 공포를 거쳐 공포일로부터 6개월 뒤 시행된다. 개인정보위는 법 시행 전까지 전문가와 현장의 의견을 수렴해 특례 운영 방안과 관련 하위법령을 마련할 계획이다. 결국 가명·익명 정보만으로 AI 개발이 어렵다는 점과 공익적·사회적 필요성을 어떤 기준으로 판단할지, 앞서 제시된 배포 전 검증과 원본 개인정보 최소화 방안을 어떻게 반영할지가 제도의 실효성을 좌우할 전망이다.