최근 인공지능 기술이 뜨거운 화두로 떠오르면서 ‘컴퓨트’(compute)라는 용어도 자주 사용되고 있다. 미국 카네기 재단이 설립한 인도 싱크탱크인 카네기 인디아(Carnegie India)의 전문가들은 ‘컴퓨트’(compute)에 대한 명확한 정의를 제시했다. 

2024년 2월에 발간한 보고서에 따르면 기술적 용어로 ‘컴퓨트’란 프로세서의 연산능력을 측정한 값이며, 일반적으로 플롭스(FLOPS: Floatingpoint Operations Per Second, 초당 부동소수점연산)로 표현된다. 참고로 세계에서 가장 강력한 슈퍼컴퓨터는 1.2엑사플롭스(exaflops)의 성능을 자랑하는데, 이는 초당 억만 번 이상의 계산을 수행할 수 있음을 의미한다.

또한 이들은 ‘컴퓨트’를 세 가지 핵심 요소로 설명했다. 그 세 가지 핵심 구성요소는 첫째, CPU(컴퓨터 시스템의 중앙처리장치)를 포함하는 하드웨어이다. 둘째는 데이터 센터 및 서버 최적화 알고리즘을 포함하는 인프라, 셋째는 다양한 개발 프레임워크를 특징으로 하는 소프트웨어이다. 

인프라 구축을 위한 노력  

오늘날 인도는 소프트웨어 및 스타트업 강국으로 불리지만, 컴퓨트의 두 번째핵심 요소인 데이터 센터와 같은 인프라 분야에서 심각한 부족 상태에 직면해 있다. 업계 추정에 따르면, 인도는 전 세계 인공지능 컴퓨트 용량의 2% 미만을 보유하고 있으며, 이는 미국, 중국, 유럽연합에 비해 현저히 낮은 수치다. 이러한 격차는 인공지능 애플리케이션과 시스템이 경제 전반에 걸쳐 가치를 창출하고, 컴퓨트 인프라 수요가 급증하는 상황에서 더욱 우려되는 문제로 부각되고 있다. 

2025년 2월 프랑스에서 열린 ‘AI 액션 서밋’(AI Action Summit)에서 발표된 ‘국제 AI 안전 보고서’(International AI Safety Report 2025)에서는 인공지능 개발의 흐름이 엄청난 수요로 이어질 것이라고 전망했다. 특히 인공지능 기술의 기하급수적인 성장이 가속화될 전망이며, 이에 대한 준비가 필요하다고 강조했다. 그럼에도 불구하고 인도는 아직 갈 길이 멀다. 국가 차원의 AI 프로그램인 ‘인디아 AI 미션’(India AI Mission)은 아직 초기 단계이며, 인공지능 인프라 역시 부족한 상태다.  

인공지능 비즈니스 기업인 유타 데이터 서비스(Yutta Data Services)의 수닐 굽타 공동창업자는 “1년 전 우리가 인도에 GPU가 100만 개 필요하다고 제안했을 때, 대부분의 사람들은 비현실적이라는 반응을 보였다. 그런데 지금은 정부 차원에서 그 수치를 논의하고 있다. 문제는 GPU를 어떻게 확보할 것인가이다. 현재 인도는 여전히 인공지능 개발의 초기 단계에 있기 때문에 증가하는 GPU 수요를 충족할 대책을 세워야 한다”라고 지적했다. 

또한 그는 “예컨대 인도의 UPI(통합결제 인터페이스) 및 다른 디지털 공공인프라 사례처럼, GPU 수요 역시 증가할 것이다. 인도에 특화된 인공지능 모델이 개발되어 전 지역에 걸쳐 활용하기 시작하면, GPU 수요는 기하급수적으로 늘어날 것이다”라고 덧붙였다. 

인도는 5조 달러의 GDP를 달성하는 데 인공지능 기술이 큰 기여를 할 것이라는 기대를 갖고 있다. 

맥킨지(McKinsey)도 인공지능 기술 덕분에 인도 GDP가 4,500억~5천억 달러 증가할 것으로 전망한다. 이는 인도의 목표인 5조 달러 경제의 10%에 해당하는 금액이다. 그러나 이 잠재력은 인공지능 기술의 인프라 부족이라는 문제를 어떻게 해결하느냐에 달려 있다. 

인프라 확장과 투자

유타 데이터 서비스는 인공지능 기술이 점차 확장하는 상황에서 인프라 구축 부문의 선두주자로 자리매김했으며, 인도 내 GPU 대부분을 보유하고 있다. 이외에도 데이터 센터 및 컴퓨트 인프라 분야의 주요 기업인 CtrlS 데이터 센터(CtrlS Data Centers), E2E 클라우드(E2E Cloud), 넥스트젠 클라우드 테크놀로지(NxtGen Cloud Technologies) 등도 이 분야에 대한 투자를 가속화하고 있다. 이들 기업 모두 ‘인디아 AI 미션’을 통한 인프라 구축에 참여하고 있다. 

4월 초, E2E 클라우드는 인도에 최대 규모의 엔비디아 H200 GPU 인프라를 배치했으며, 델리와 첸나이에 전략적으로 2개의 클러스터를 설립했다. 각 클러스터에는 1,024개의 엔비디아 H200 GPU가 구축되어 있다. 또한 넥스트젠 클라우드 테크놀로지는 2025년 5월까지 1만 2천 개의 GPU 추가 배치를 위해 4억 달러를 투자할 계획이라고 밝혔다. 

또한 하이데라바드에 본사를 둔 Ctrls는 400억 루피의 직접 투자와 5천억 루피의 간접 투자를 유치할 계획하에 새로운 데이터 센터를 첸나이에 개설했다. 인공지능 인프라 구축을 위해 설계된 새로운 시설은 500개의 직접 일자리와 9천개의 간접 일자리를 창출할 것으로 기대된다. CtrlS는 새로운 데이터 센터를 비롯해, 인공지능 인프라에 막대한 투자를 해왔다. 

CtrlS의 스리다르 피나푸레디 창업자는 “인공지능 엔진 개발을 위해, 우리는 전문인력 구성에 막대한 투자를 해왔다. 이를 통해 기업, 은행, 기관들이 인공지능 기술의 혜택을 누릴 수 있도록 지원하고자 한다”고 밝혔다. 

인도의 인공지능 인프라는 이미 기하급수적으로 증가하는 수요를 충족시키기 위해 빠르게 확장되고 있다. 신용 등급 기관인 ICRA는 인도의 데이터 센터 운영 능력이 2024년 950MW에서 2027년에는 약 2천~2,100MW로 두 배 이상 증가할 것이라고 예측하고 있다. 

실제로 인도 최대 데이터 센터 운영업체인 NTT 데이터(NTT Data)는 최근 새로운 데이터 센터를 개설했는데, 이 시설은 500MW 규모로 설계됐다. NTT 데이터는 인도에 19개 데이터 센터를 운용하고 있고, 실시간 290MW 로드 용량을 보유하고 있다. 또한 향후 몇 년 동안 추가 투자가 예상되는데, NTT는 자사 데이터 센터 사업에 매년 5억 달러를 투자할 계획이라고 밝혔다. 

NTT 데이터의 덕 애덤스 글로벌 데이터 센터장은 “인도는 고도로 경쟁력 있는 데이터 센터 시장으로 급변하고 있다. 인공지능 기술의 도입 전까지 전 세계 연평균성장률(CAGR)은 약 13.5%였으나, 인공지능 등장 이후에는 평균 26% 증가했다. 인도는 이보다 더 빠르게 성장하고 있다. 

인도의 전문가들은 40% 수준까지 성장할 것이라고 예측했다. 전문가들의 전망대로 우리는 이 시장이 엄청나게 성장할 것이라고 기대하고 있다. 그것이 우리가 이토록 막대한 투자를 하는 이유이다”라고 강조했다. 

주요 인도 기업과 글로벌 기업 역시 인도 내 인공지능 기술의 확산을 위한 데이터 센터 설립과 인프라 분야에 본격 뛰어들 전망이다. 올해 초 인도 최고의 억만장자 무케시 암바니가 세계 최대 규모의 데이터 센터를 건설하겠다고 밝혔다. 암바니 회장이 이끄는 릴라이언스 인터스트리(RIL)는 인도 구자라트주에 데이터 센터를 설립할 예정이다. 아다니 그룹(Adani Group)도 자사 데이터 센터 확장에 나서고 있는데, 이 사업에 수십억 달러를 투자할 전망이다. 

당면한 숙제와 정부의 역할

인공지능 기술 경쟁이 전 세계적으로 치열해지고 있는 가운데, 막대한 컴퓨팅 파워를 활용할 수 있는 역량이 글로벌 영향력의 새로운 척도로 부상하고 있다. 이는 경제적, 과학적, 지정학적 측면전반에 걸쳐 그 영향력을 키우고 있다. 

토니 블레어 글로벌 변화 연구소(Tony Blair Institute for Global Change)의 ‘2024년 컴퓨트 접근 상황’(State of Compute Access 2024) 보고서에 따르면, 인공지능 하드웨어 성능은 2~3년마다 2배로 증가하고 있다. 이와 같은 성능 향상은 기업의 비용 절감으로 이어지기 때문에, 전 세계적으로 인공지능 기술에 더욱 막대한 투자가 이어질 것 임을 시사한다.

더 나아가 인공지능 기술은 더 이상 단순한 과학적 또는 경제적 발전에 머무르지 않는다. 이제는 국가 경쟁력의 핵심 요소로 자리매김하고 있다. 미국, 중국 같은 국가는 이를 일찍이 인지하고 공격적으로 나서고 있다. 미국은 반도체 지원법 CHIPS(Creating Helpful Incentives to Produce Semiconductors, 반도체 생산에 유용한 인센티브 창출)를 통해 반도체 및 컴퓨팅 주권 강화를 위한 예산으로 520억 달러를 배정했다. 

지난 1월 트럼프 대통령은 인공지능 인프라 구축을 위해 5천억 달러 규모의 민간 투자계획을 발표했다. 한편, 중국은 2020년에 발표한 14차 5개년 계획에서 인공지능 및 컴퓨팅 생태계에 1.4조 달러를 배정했다. 

반면 인도는 지금 중요한 변곡점에 서 있다. 강력한 인공지능 인프라 구축은 필수적이지만, 인프라 구축은 워낙 자본집약적인 사업이기 때문에 즉각적인 재정적 부담을 초래한다. 전 세계적으로 데이터 센터 구축 및 유지 비용이 상승하면서, 자본 지출 증가에 직면한 기업들은 IPO(기업공개)를 통해 자금 조달을 모색하고 있다.

게다가 데이터 센터는 안정적이고 일관된 전기 공급을 필요로 하기 때문에, 현재 인도의 전력망은 이를 제공하기 위해 고군분투하고 있는 상황이다. 데이터 센터의 냉각장치는 엄청난 양의 수력 자원을 필요로 한다. 그러나 인도와 같은 물 부족 국가에서는 윤리적, 환경적 문제 때문에 해결이 쉽지 않다. 

무엇보다 인도의 컴퓨팅 인프라 구축 과정에서는 전 세계적 공급망 및 지정학적 현실이 고려되어야 한다. 미국의 수출 통제 법률(US Diffusion Law Limit)에 따라 인도는 2027년까지 5만 개의 GPU만 수입이 가능하다. 정책적 예외가 협상되지 않는다면 인공지능 인프라 확장은 한계에 봉착할 수 있다. 

더욱이 인도의 기존 데이터 센터는 최신 인공지능에 필요한 고밀도 GPU 작업을 처리하기에 적합하지 않다. 기존 시설의 개조는 임시방편에 불과하며, 장래를 대비한 고성능 전력 용량과 고급 냉각 시스템을 갖춘 데이터 센터를 새롭게 설계해야 한다. 

CtrlS의 피나푸레디 최고경영자는 “인도는 머지않아 심각한 병목 현상에 직면할 것이다. 이를 해결하기 위해서 인도 정부는 토지 확보와 에너지 접근성 개선을 위해 적극적으로 나서야만 한다. 민간 기업들은 이미 준비가 되어 있다. 만약 인도가 인프라 및 데이터 센터 관련 규제 문제를 해결한다면, 인도는 인공지능 인프라 측면에서 엄청나게 도약할 수 있을 것이다”라고 전망했다. 

인공지능 강대국으로 발돋움하기 위해서는 인프라 구축이 필수적이다. 인도 정부는 이를 위해 새로운 정책으로 문제를 해결해야 할 것이다. 현재 인도는 인공지능 기술의 역량 강화를 위해 국가 차원의 총력전을 기울이고 있다. 민간기업 역시 데이터 센터 설립과 인공지능 인프라를 만들어가는 일에 전력투구하고 있다. 과연 인도의 도전은 성공할 수 있을까?