28일 국회 의원회관에서 진행된 '미·중 기술 패권 경쟁 속 대한민국 성장전략' 강연

[위즈경제] 이정원 기자 ="AI 시대가 오면서 시간이 흐를수록 '기억을 많이 해야 더 똑똑해지는 상황이 생기고 있으며, (기억을) 많이 갖고 있는 모델이나 AI가 그렇지 않은 AI보다 더 똑똑해지고 정답에 가까운 결과를 제시하게 된다"

최태원 대한상공회의소 회장은 AI가 고도화될수록 더 많은 기억을 저장해야 하는 구조가 뚜렷해지면서, AI 패권 경쟁에서 메모리 확보 문제가 핵심 변수로 떠오르고 있다며 이같이 설명했다.

이어 최 회장은 앞으로 AI가 단순히 세상에 있는 일반 지식을 습득하는 데 그치지 않고, 개인화된 지식까지 축적하는 방향으로 발전할 것으로 내다봤다. 

최 회장은 "비서를 만든다고 가정했을 때 처음에는 그렇게 유능하지 않을 수 있다"며 "하지만 10년 된 비서는 다르다. 10년 동안 어떤 일을 어떻게 해왔는지 알고 있기 때문에, 지시 하나만 줘도 알아서 척척 일을 하는 유능한 비서가 된다"고 설명했다. 

다만, 유능한 AI를 만드는 과정에서 '트레이드 오프'가 발생한다고 진단했다. 

불필요한 기억이 지나치게 많이 수집되면 이를 유지하기 위한 비용이 많이 들고 비효율이 발생하지만, 반대로 기억을 제대로 많이 저장할수록 AI가 이후 다양한 사건에 더 잘 대처할 수 있다는 분석이다. 

최 회장은 이러한 AI 발전 과정에서 보틀넥(병목)이 발생할 수 있다고 전망하며, 보틀넥이 어디에서 어떤 시점에 발생할 것인지, 또 이를 어떻게 잘 이용할 것인지가 대한민국 AI 성장 전략의 관건이 될 것이라고 설명했다.

그러면서 주요 보틀넥 요소로 자금, 전기, GPU, 메모리 등 네 가지를 꼽았다.

우선 최 회장은 AI 구현을 위해 핵심 인프라인 AI 데이터센터의 중요성을 강조하면서 이를 위해 막대한 자금이 필요하다고 설명했다.

그는 "AI 데이터센터는 AI 전용으로 만들어진 데이터센터이며, 단순히 데이터를 저장하는 것이 아니라, 데이터를 통해 지능을 만들어내는 것"이라며 "공장에 비유하면 일반 데이터센터가 저장 창고라면 AI 데이터센터는 지능을 얼마나 효과적으로 만들어낼 수 있는가가 관건"이라고 말했다.

이어 "현재 대한민국의 AI 데이터센터가 있냐고 하면 일반 데이터센터를 제외하고, 약 1GW 수준에서 AI 전용은 5%에 불과하다"며 "AI를 하려면 AI 공장이 있어야 한다. 문제는 이 부분에서 한국의 포지션이 그렇게 좋지는 않다는 것"이라고 짚었다.

그러면서 "이를 극복하기 위한 투자가 필요하다"며 "1GW 규모를 만들려면 약 500억 달러 정도가 필요할 것으로 보고 있다"고 설명했다.

최 회장은 전 세계적으로도 AI 데이터센터 투자가 빠르게 확대될 것으로 내다봤다. 

그는 “앞으로 매년 최소 10GW에서 20GW 규모의 AI 데이터센터가 새로 지어질 것으로 보고 있다”며 “대부분은 미국과 중국이 짓고 있는 상황”이라고 설명했다. 

이어 “아시아에서도 말레이시아와 인도 등이 데이터센터 유치를 위해 법과 제도를 정비하고 있으며, 싱가포르의 경우 전력 부족으로 추가 확장이 어려워지자 말레이시아와 인도네시아 등 주변 국가들이 데이터센터 유치에 나서고 있다”고 말했다.

전력 확보 역시 주요 과제로 꼽았다.

최 회장은 "돈이 있어도 전기가 있어야 데이터센터를 만들 수 있다"며 "1GW가 어느 정도냐 하면, 우리나라 원전 한 기가 대략 1.4GW 정도 되기 때문에 원전 하나 정도가 있어야 1GW 수준의 데이터센터를 돌릴 수 있는 것"이라고 설명했다.

이어 "다만, 전기를 준다고 1대 1로 딱 맞게 돌아가는 것이 아니기에 20~30% 정도의 여유분이 있어야 안정적으로 데이터센터를 돌릴 수 있다"며 "다행히 한국은 전력 예비율 측면에서 비교적 괜찮은 편에 든다"고 말했다.

그러면서 "대한민국은 약 30% 이상의 전력 예비율을 갖고 있으며, 전체 발전 용량은 약 150GW 수준이고, 피크 사용량은 약 97GW 수준으로 알고 있다"며 "단순히 보면 약 50GW의 여력이 있는 것이며, 아직 쓸 수 있는 전기는 남아 있다고 볼 수 있다"고 했다.

GPU 확보 문제도 보틀넥의 주요 변수로 제시했다.

최 회장은 "GPU는 현재 엔비디아가 상당히 독점적인 위치를 갖고 있다"며 "하지만 도전도 많이 이뤄지고 있는데, 구글의 TPU를 비롯해 새로운 종류의 XPU, 즉 다양한 프로세서 유닛이 시장에 나오고 있다"고 설명했다.

그는 "현재까지는 엔비디아만큼의 성능이 나오지는 않는다"면서 "하지만 가격이 더 싸거나 특정 용도에서는 유리한 부분이 있다"고 말했다.

이어 "AI 시장은 지금까지 주로 학습 시장이 중심이었지만, 앞으로는 추론 시장으로 바뀌고 있다"며 "추론 시장에서는 어떤 추론을 하느냐가 중요하지만, 하나의 엔비디아 시스템으로 모든 것을 다 처리하는 시대는 조금씩 지나가고 있다"고 분석했다.

또한 "시장이 세분화되기 시작하면, 각 세그먼트마다 물리적 하드웨어와 소프트웨어가 달라져야 한다"며 "그렇게 되면 특정 추론 시장에서는 “내 시스템과 내 하드웨어가 더 우수하다”고 말할 수 있는 상황이 올 수 있다. 그래서 GPU 보틀렉은 분명히 존재하지만, 그 현상이 계속되지는 않을 것"이라고 내다봤다. 

이와 함께 최 회장은 AI 성능을 가르는 또 다른 핵심 요소로 메모리 활용 능력을 짚었다.

최 회장은 "계산을 하고 연산을 해서 질문에 답하기 위해서는 저장된 메모리 중에서 필요한 정보를 얼마나 잘 끌어오느냐가 중요하다"며 "사람도 어떤 문제를 받았을 때 머릿속의 기억과 지식을 어느 수준에서, 어디서 끌어올 것이냐가 관건이 되듯이 이를 제대로 구현하기 위해서는 메모리를 계속 늘릴 수밖에 도리가 없다"고 말했다.

이어 최 회장은 대한민국이 AI 전략을 제대로 세우기 위해서는 무엇보다 AI를 생산할 수 있는 능력을 갖춰야 한다고 강조했다.

그는 “AI를 생산하고, 이를 수출하거나 다른 산업에 적용하는 등 AI를 통한 산업화에 필요한 첫 번째가 인프라 구축”이라며 “AI 데이터센터를 얼마나 많이, 잘 만들 수 있느냐가 산업화의 관건이 될 것”이라고 설명했다.

아울러 최 회장은 과거 초고속 인터넷망 등 인프라에 선제적으로 투자했기 때문에 통신·IT 산업이 성장할 수 있었던 것처럼, AI 시대에도 데이터센터 인프라에 대한 과감한 투자가 필요하다고 강조했다.

다만 최 회장은 인프라 구축만으로는 충분하지 않다며, 공공 수요와 정부가 필요로 하는 과제를 모아 가장 빠른 방식으로 실행해야 한다고 강조했다. 이를 통해 민간 부문에서도 AI 수요와 투자가 생기고, 대한민국이 AI 네이티브 국가로 빠르게 전환할 수 있다는 설명이다.

최 회장은 "AI 전략은 기본적으로 이렇다. 인프라를 만들고, 수요를 모으고, 빠르게 애플리케이션을 만들어 대한민국이 AI 이니셔티브를 가져가는 것"이라며 "아직 많은 국가들이 이 단계까지 오지 못했으며, 우리가 늦은 것 아니냐고 할 수 있지만, 아직은 늦지 않았다고 생각합니다. 빨리 움직이면 우리가 먼저 모델을 만들고, 그 서비스나 시스템을 해외로 수출할 수 있을 것"이라고 말했다.