(출처=클립아트코리아)

[위즈경제] 이정원 기자 =최근 인공지능(AI) 열풍이 거세게 불고 있는 가운데 AI를 활용하지 않았음에도 마케팅을 위해 AI를 사용한 것처럼 광고하는 이른바 ‘AI 워싱(AI Washing)’에 대한 우려가 커지고 있습니다.

KB금융지주경영연구소는 19일 ‘너도나도 AI? 말로만 AI외치는 ‘AI 워싱’ 주의보’ 보고서를 통해 AI 워싱의 주요 사례와 부작용, 대안 등을 짚어봤습니다.

AI 워싱은 기업이나 조직이 자사 제품, 서비스, 운영에 AI를 사용한다고 과장하거나 허위로 홍보하는 행위를 말합니다.

이는 친환경적이지 않은 기업이 친환경적인 것처럼 홍보하는 그린워싱(Greenwashing) 행태와 유사하며, AI에 대한 정의가 광범위하고 느슨하게 사용되고 있다는 점을 악용한 대표적인 AI 오남용 사례 중 하나입니다.

보고서는 AI 워싱이 활용되는 이유에 대해 “기업은 AI 사용을 강조함으로써 투자자에게 매력적인 투자 대상으로 인식되어 더 많은 자본을 유치할 수 있으며, 보다 혁신적이고 기술 선도적인 이미지를 구축하여 비즈니스에서 경쟁사보다 유리한 위치를 점할 수 있다”고 설명했습니다.

이어 “포브스(Forbes)에 따르면 투자 유치 시 AI를 언급한 스타트업이 그렇지 않은 경우보다 적게는 15% 많게는 50% 더 많은 자금을 확보하면서 AI 역량을 광고하는 기업이 늘고 있다”면서 일부 기업에서 자금 조달 및 투자 유치를 위해 AI 역량을 부풀리고 있다고 지적했습니다.

대표적인 사례로는 무인편의점 ‘아마존고’, 채용 스타트업 ‘준코’, ‘코카콜라’ 등이 꼽혔습니다.

우선 아마존고는 고객 퇴점 시 자동으로 결제가 청구되는 ‘저스트 워크 아웃(Just Walk Out)’ 기술을 도입한 것으로 알려졌지만, 실제로는 시스템의 상당 부분이 인도 지사 직원들이 수동으로 검토하는 방식으로 운영되고 있던 것으로 드러났습니다.

이에 대해 아마존고는 인간이 결제 청구 과정에 관여한다는 사실을 부인하지 않았지만, 직원들이 ‘저스트 워크 아웃’ 시스템 개선을 위해 AI가 생성한 실제 데이터에 주석을 달 뿐이며 전체 운영에 관여하는 것은 아니라고 주장했습니다.

이어 준코의 경우, AI를 기반으로 기업에 적합한 지원자를 추전한다는 허위 정보를 유포해 투자 자금을 유치했다는 이유로 미국 증권거래위원회(SEC)와 법무부로부터 기소됐습니다.

앞서 준코는 AI를 사용해 기업이 다양성, 형평성, 포용성이 존중되는 인력 조직을 구축할 수 있도록 다양한 지원자를 선발하는 데 도움을 준다고 주장해 왔습니다.

하지만 증권거래위원회는 AI를 기반으로 지원자를 선발한다고 속이고 고객 정보와 지원자 수, 기업 수익에 관한 허위 및 오해의 소지가 있는 진술로 최소 2천 100만 달러의 투자를 유치한 혐의로 준코의 CEO 이자 창업자인 일릿 라즈를 기소했습니다.

아울러 글로벌 기업인 코카콜라는 AI를 활용해 3000년대를 상상하며 만들었다면서 한정판 ‘콜라 Y3000’를 개발했다고 밝혔지만, AI가 개발 과정에서 어떻게 관여했는지에 대한 설명을 하지 않아 비난을 받기도 했습니다.

보고서는 “AI 워싱은 흔한 마케팅 방법 중 하나로 보일 수 있지만, 투자 자원의 적절한 배분을 저해하고 소비자의 과도한 기대감을 유도해 결국 신뢰 저하로 이어지게 하는 등 부정적인 결과를 초래할 수 있다”고 지적했습니다.

그러면서 정부와 기업은 기업이 실제 사용한 AI 기술과 일치하는 투명한 정보를 제공하고 규제 기관 등의 감사나 외부 의혹에 대비해 기록을 문서화해야 하며, 소비자의 AI 기술에 대한 이해도를 높이고 AI 과대광고에 현혹되지 않도록 소비자 대상 교육 프로그램 운영이 필요하다고 했습니다.

또, 소비자와 투자자에게는 기업의 AI 활용 주장에 대한 비판적 태도를 견지하고, 기업의 AI 작동 방식에 대한 투명한 설명 요구와 기업이 AI 기술의 실제 성능과 한계 등을 포함한 정확한 정보를 제공할 수 있도록 유도할 필요가 있다고 말했습니다.