엔비디아의 토탈 솔루션 전략과 탈 엔비디아 동향

인공지능(이하 AI) 기술을 활용한 부가가치 창출이 활발해지면서 AI의 성능을 증가시키는 반도체(이하 AI반도체)에 대한 수요와 관심이 증가하고 있다. OMDIA에 따르면 AI반도체 시장은 ’21년 368억 달러에서 ’27년 1,313억 달러로 연평균 23.6% 성장이 예상된다[1]. AI반도체는 수집‧가공된 데이터를 학습하고 서비스로 제공하기 위한 핵심 인프라로 AI 확산에 중추적 역할을 담당하고 있다. 특히, ChatGPT와 같은 생성형 AI의 등장으로 그 중요성이 더욱 부각되었다. AI반도체 시장은 크게 데이터 센터와 엣지 시장으로 구분되며, 초기에는 스마트폰, 가전 등 소비자 디바이스와 데이터센터 서버 분야에서 주도적 성장을 보였다. 향후에는 자동차와 사물인터넷(IoT) 분야로의 확장이 예상된다.

현재 호황을 맞고 있는 여러 반도체 기업 중 GPU(그래픽 처리 장치) 기반 클라우드 인프라 서비스를 제공하는 NVIDIA(이하 엔비디아)는 ’22년 AI반도체 시장의 92%를 점유하였고, 다음해 5월, 애플, 마이크로소프트, 구글, 아마존에 이어 시가총액 1조 달러를 돌파하는 최초의 반도체 기업이 되었다[2]. 이를 가능하게 한 원동력은 엔비디아가 제공하는 ‘토탈 솔루션’이라고 볼 수 있다. 이는 소프트웨어 개발 툴, 하드웨어, 통신 네트워크 인터페이스, 반도체 칩 간 통신 등 모든 인프라 서비스를 통합 제공하는 방식이다[3]. 엔비디아는 이를 통해 시장에서의 경쟁우위를 확보하고, 경쟁자들을 효과적으로 견제하면서 AI반도체 생산을 넘어 전체 컴퓨팅 환경을 구축 및 제공하는 종합 반도체 기업이 되고자 한다.

그러나 높은 시장 점유율을 차지할 수 있게 하는 엔비디아의 토탈 솔루션 전략 이면에는 제품 생산 및 공급의 한계로 인한 문제점도 드러나고 있다[4]. 일부 파트너사에 대한 원활한 공급이 어려워지고, 제품의 품귀현상이 지속되면서 일부 빅테크 기업은 독자적인 AI반도체 개발에 나서기 시작했다. 이는 ‘탈(脫) 엔비디아’로 이어지고 있으며, 장기적으로 엔비디아는 경쟁사들의 제품 개발 경쟁과 시장 경쟁력 감소라는 도전에 직면할 것으로 예상된다[5,6].

이러한 현상은 AI반도체 시장에서 엔비디아의 지배적 위치에 대한 산업계의 대응 양상을 보여주는 것이라 인식되며, 이는 시장 구조의 잠재적 변화 가능성을 시사한다. 따라서 이러한 변화가 우리나라의 반도체 산업과 AI 기술 발전에 미칠 수 있는 영향을 고려할 때, 이에 대한 체계적인 조사와 분석이 필요하다.

이러한 배경에서 본고는 AI반도체 시장에서 엔비디아가 지배적 위치를 차지하게 된 핵심 요인인 토탈 솔루션 전략을 살펴보았다. 또한 엔비디아와 수요 기업들이 직면하고 있는 도전과제들을 살펴보고, 이에 따른 탈 엔비디아 동향을 분석하여 결론과 시사점을 제시하였다.

1. 엔비디아 소개

2. 토탈 솔루션 전략

전 세계 AI반도체 시장의 80% 이상을 점유하고 있는 엔비디아는 토탈 솔루션 전략을 통해 급속한 성장을 이루었다. 그러나 이러한 성공 이면에는 양면적인 도전과제가 존재한다. 엔비디아 입장에서는 특정 부문에 대한 높은 의존도로 인한 리스크가 있으며, 제품 사용 고객 입장에서는 고전력 소비 및 높은 비용 등의 문제에 직면해 있다. 이러한 이중적 문제는 엔비디아의 지속 가능한 성장과 고객사들의 효율적인 AI 인프라 구축 모두에 잠재적인 걸림돌로 작용하고 있다.

1. 공급 부족 문제

2. 고전력 문제

3. 비용 및 최적화 문제

엔비디아의 GPU는 고성능을 기반으로 ’06년 소프트웨어 ‘쿠다’ 출시와 함께 토탈 솔루션을 제공하면서 AI반도체 시장에서 독점에 가까운 영향력을 보이고 있다. 그림 1을 보면, ’23년 3월 오픈AI의 GPT-4가 출시된 이후, 엔비디아 제품에 대한 수요가 급증하여 ’23년 7월 시가총액 1위를 달성한 것을 확인할 수 있다. 그러나 엔비디아 제품은 공급 부족, 고전력 그리고 비용 및 최적화 문제 등의 한계를 안고 있다. 이로 인해 제품을 사용하는 빅테크 기업들은 엔비디아에 대한 과도한 의존도를 줄이고, 다양한 하드웨어 솔루션을 활용한 기술적 유연성 확보를 위해 노력하고 있다. 또한, 자체 AI반도체 개발을 통해 시장 차별화를 추구하고 있다. 구글의 TPU, 아마존의 트레이니엄 등이 대표적 사례라 볼 수 있다. 이처럼 AI반도체 시장에서 엔비디아의 독점에 대응하는 산업계의 다양한 변화가 관찰되고 있다(표 1 참고).

그림 1

AI반도체 생태계 다변화 추이

먼저 연합체 구성이 주목할 만하다. 여기에는 엔비디아 토탈 솔루션의 핵심이라 볼 수 있는 소프트웨어 개발 플랫폼 ‘쿠다’에 대한 대응으로 인텔, 구글, 퀄컴 그리고 삼성이 주축이 된 ‘UXL 재단’이 있다. ’23년 9월에 출범한 이 연합은 회원 기업과 외부 기관으로부터 기술을 기부받기 시작하여, ’24년 3월 엔비디아 제품 외의 다양한 하드웨어와 소프트웨어에서 AI 개발을 가능케 하는 오픈 소스 프로젝트를 진행하고 있다[21].

또한, 엔비디아가 GPU와 CPU 간 데이터 전송을 최적화하는 NV링크 기술로 시장을 주도하는 가운데, 이에 대응하기 위해 ’24년 5월 AMD, 구글, 마이 크로소프트 및 인텔 등 주요 기업들이 ‘울트라 가속기(UA) 링크 프로모터 그룹’을 결성했다. 이 연합체는 AI 가속기 연결을 위해 개방형 표준을 개발함으로써 NV링크에 대한 대안을 제시하고, 시장 경쟁력을 확보하고자 한다.

한편, 주요 기업들 중에서는 구글과 애플이 가장 두드러진 움직임을 보이고 있다. 구글은 ’24년 4월 ‘구글 클라우드 넥스트 2024’를 개최하여 생성형 AI 기반의 혁신적인 AI 생태계 비전을 제시하며, 다양한 신제품과 서비스를 공개하였다. 특히 데이터 센터용 ARM 기반 CPU인 ‘엑시온’과 자체 AI반도체 ‘TPU v5p’가 주목받았다. 또한, ’24년 5월 ‘2024 Google I/O’를 통해 6세대 TPU인 ‘트릴리움(Trillium)’을 공개하며 자체 하드웨어 제품 개발을 통한 탈 엔비디아 전략을 강화하였다. TPU는 구글이 개발한 ASIC로서 TensorFlow를 통해 머신러닝 워크로드를 처리하는 AI반도체이다[22]. 또한, 구글은 자사의 생성형 AI ‘제미나이’ 개발에 사용된 핵심 기술과 연구를 기반으로 제작된 오픈소스 모델 ‘젬마’를 공개하며 AI 개발 생태계에서의 영향력 확대를 꾀하고 있다[23].

애플은 ’24년 5월 반도체 생산 기업 TSMC와 협업하여 엔비디아의 GPU를 대체할 추론용 AI 개발 프로젝트 ‘ACDC’를 추진 중이다. 또한 엔비디아 의존도 감소를 위해 ‘애플 인텔리전스 파운데이션 언어 모델(AFM)’에 구글의 TPU를 적용했다[24]. 그리고 온디바이스 AI를 개발하기 위해 ’24년 3월 ‘다윈 AI’를 인수하고, 같은 해 6월 온디바이스 AI용 오픈소스를 공개하는 등 적극적인 행보를 보이고 있다[25,26].

마이크로소프트는 엔비디아 의존도 감소를 위한 다각적 전략을 펼치고 있다. ’23년 11월 자체 AI반도체 ‘마이아(Maia)100’과 고성능 컴퓨팅 CPU ‘코발트(Cobalt)100’을 공개하였다. ’24년 5월에는 미국 반도체 회사인 AMD의 GPU를 탑재한 ‘애저 클라우드 컴퓨팅 서비스’ 상용화 계획을 발표하였다[27]. 더불어 ’24년 4월 UAE의 AI기업 ‘G42’에 약 15억 달러를 투자하며 중동 시장 진출을 모색하고 있다[28]. 또한, ’23년 6월에는 양자 슈퍼컴퓨터 개발 로드맵을 발표하였는데, 이는 대체 기술 개발에 대한 마이크로소프트의 의지로 볼 수 있다[29].

한편, 네이버는 실용적 접근으로 ‘탈 엔비디아’ 행보를 보이고 있다. ‘네이버 플레이스’ 서비스의 AI 추론용 서버를 엔비디아 제품에서 인텔 CPU로 전환했으며, 인텔과의 협업을 통한 실제 서비스 환경 실험 후, vLLM 버전 1의 오픈소스 공개 계획을 발표하였다[30].

AI반도체를 주력 사업으로 하는 엔비디아의 경쟁 업체들 또한 ‘탈 엔비디아’에 가세하고 있다. 이들은 주로 혁신적인 신제품 개발에 주력하여 빅테크 기업들에게 엔비디아 제품의 대안을 제시하고 있으며, 자사의 경쟁력 강화를 위한 다양한 전략을 추진하여 시장 점유율 확대를 꾀하고 있다.

인텔은 ‘인텔 비전 2024’에서 네이버를 핵심 제휴 파트너로 소개하며 자체 개발한 가우디 소프트웨어 생태계의 확장 전략을 발표하였다[31]. 또한 카이스트와 ‘공동 연구센터’를 설립하여 AI반도체 생태계에서의 경쟁력 강화에 주력하고 있다[32]. 그리고 ’23년 9월, 양자 컴퓨팅 기술 ‘터널 폴스’와 ’24년 4월, 뉴로모픽 시스템 ‘할라 포인트’를 공개하는 등 대체 기술개발에도 박차를 가하고 있다[33,34].

AMD는 기업 인수를 통한 역량 강화에 주력하고 있다. ’23년 10월 오픈소스 소프트웨어 스타트업 ‘노드닷 AI’, ’24년 7월 핀란드 AI 스타트업 ‘사일로 AI’를 인수하였다. 그리고 ’24년 8월 서버 제조업체 ‘ZT 시스템’을 인수하며 기술력과 생산 능력을 확대하고 있다[35]. 또한, ‘MI 시리즈’와 ‘2세대 버설 AI 엣지 시리즈’ 등 자체 AI반도체를 개발‧출시하고 있으며[36], AI 오픈소스 소프트웨어 ‘ROCm’ 운영을 통해 엔비디아의 ‘쿠다’에 대응하는 소프트웨어 생태계 구축에도 힘쓰고 있다[37].

삼성전자는 자체 AI반도체 개발과 오픈소스 전략을 중심으로 대응하고 있다. ’24년 2월 추론에 특화된 AI반도체 ‘마하-1’의 개발을 발표하며 엔비디아 의존도 감소 방안을 제시하였다[38]. 또한, 오픈 소스를 AI 시장 주도권 확보를 위한 핵심 전략으로 인식하고 ‘OSPO’ 전담 조직을 운영하여 ’21년 ISO/IEC 국제 표준 인증을 획득하였다[39]. 더불어 삼성 첨단기술연구소에서는 차세대 AI반도체로 주목받는 뉴로모픽 연구를 진행 중이며, 해당 분야의 권위자인 함돈희 하버드대학교 교수를 연구소 부원장으로 영입하는 등 기술 경쟁력 강화에 박차를 가하고 있다[40].

엔비디아는 소프트웨어 개발 도구, 하드웨어, 통신 네트워크 인터페이스, 반도체 칩 간의 통신 등 모든 인프라 서비스를 통합한 토탈 솔루션 제공을 통해 시장에서의 경쟁우위를 확보하고, AI반도체 생산을 넘어 전체 컴퓨팅 환경을 구축 및 제공하는 종합 반도체 기업으로 도약을 꾀하고 있다.

그러나 엔비디아 제품을 사용하는 기업들은 여러 가지 어려움에 직면하고 있다. GPU의 높은 가격으로 인한 재정적 부담, 제품 공급의 불안정성, 그리고 높은 소비전력 문제가 주요 원인이다. 이러한 문제들이 지속되면서 기업들은 새로운 대안을 모색하기 시작했고, 이는 ‘탈 엔비디아’로 이어지고 있다.

탈 엔비디아를 보이는 기업들의 활동을 분석한 결과, 크게 다섯 가지로 구분된다. ① GPU를 대체하는 기업 맞춤형 NPU 개발, ② AI를 개발하는 사람들의 필수 소프트웨어인 쿠다를 대체할 오픈 소스 소프트웨어(OSS) 개발, ③ 기업 투자와 대체 공급 업체 모색을 통한 협력 구축, ④ 반도체 스타트업 기업 인수, ⑤ 뉴로모픽, 양자컴퓨팅 등 대체기술 연구로 구분할 수 있다. 본고에서는 이러한 분석 결과를 바탕으로 국내 AI반도체 산업과 관련 기업들을 위한 시사점을 제시하였다.

첫째, 엔비디아의 토탈 솔루션 전략에서 핵심은 세 가지로 요약된다. ① 다양한 프로그래밍 언어를 지원하는 소프트웨어 ‘쿠다’를 통한 개발자 친화적 환경 구축, ② 다양한 AI 연산 환경에 적용 가능한 GPU의 범용성 확보, ③ GPU에 최적화된 자체 CPU 개발을 통한 종합적 AI 컴퓨팅 환경 제공이다. 국내 기업들도 이러한 사용자 중심의 제품 생태계를 구축하기 위해 차별화된 연구‧개발 전략이 필요하다.

둘째, 엔비디아는 토탈 솔루션 공급 과정에서 다양한 문제가 발생하고 있다. ① 엔비디아 주요 제품인 GPU 생산을 위한 웨이퍼, 실리콘, 일부 기판 및 부품 등의 공급 부족, ② 빅테크 기업들의 자체 AI 반도체 개발로 인한 시장 경쟁 심화, ③ TSMC에 대한 과도한 의존으로 인한 잠재적 공급 제약이라는 문제점을 가지고 있다. 국내 기업들도 공급사슬상에서 발생할 수 있는 문제점들을 효과적으로 관리하기 위한 방안을 강구할 필요가 있다. 국내 팹리스 기업들의 경우 파운드리를 특정 기업에게 집중하면 엔비디아와 같은 공급망 약점이 발생할 수 있기 때문에 공급망 안정성 확보도 향후 중요한 과제이다. 이를 대비하기 위해서는 공급사슬 전반에 걸친 효율적인 관리와 조율이 필요하며, 다양한 파운드리 기업과의 협력적 관계를 구축할 필요가 있다.

셋째, 글로벌 기업들의 ‘탈 엔비디아’ 전략을 참고하여 국내 AI반도체 기업들도 다양한 반도체 기술과 기업에 투자해 해외 제품의 의존도를 줄일 수 있는 생태계 마련이 필요하다. 특히 국내 기업들의 강점인 메모리 반도체를 바탕으로 PIM 인공지능 반도체(차세대 AI반도체) 경쟁력을 확보하고, 이를 바탕으로 글로벌 AI반도체 시장에서의 경쟁력을 확보하는 것이 중요하다. 또한 GPU, NPU 이후의 신기술 확보를 위해 뉴로모픽 반도체에 대한 체계적이고 지속적인 투자도 함께 진행되어야 할 것으로 보인다.

끝으로 정부는 AI반도체 산업 육성을 위해 관련 기업 지원, 협력 강화 그리고 전문인력 양성을 위한 노력을 기울일 필요가 있다. AI반도체 초격차 기술 선점을 위해 미국의 ‘국가 반도체 기술센터(NSTC)’와 같은 민‧관 합동 연구센터 설립을 고려할 수 있다. 또한, 글로벌 반도체 인력 부족 문제 해결을 위해 고급 인력뿐만 아니라 초급 인력 양성에도 관심을 기울여야 하며, 각국의 경쟁적 지원에 대응하여 반도체 공장(팹) 건설 보조금 및 다양한 금융‧세제 혜택 제공을 검토해야 할 것이다.

AI반도체는 글로벌 디지털 혁신을 주도하는 핵심기술로, 국제 사회에서 그 중요성이 날로 증대되고 있다. 이러한 국제적 흐름에 발 맞추어, 우리나라도 산‧학‧연 협력을 통해 이러한 비전을 실현하기 위한 구체적인 전략과 정책을 수립하고 실행해 나가는 것이 앞으로의 과제일 것이다.

AI반도체 데이터 연산의 성능, 비용, 전력 소모 등을 최적화해 인공지능 용도로 특화한 시스템 반도체

NV Link 엔비디아의 고속 GPU 상호 연결 기술로, 다중 GPU 시스템에서 GPU 간 데이터 전송 속도를 높이는 기술

DXG Cloud 엔비디아의 AI 소프트웨어와 DXG AI 슈퍼컴퓨팅 전용 클러스터를 결합하여 제공하는 플랫폼 서비스