AI 인프라 수요 증가, 비용 효율적인 솔루션으로 산업 변화 가속화

2025.01.30

DRAMeXchange - 【Market View】Rising AI Infrastructure Demand Highlights Industry Shift Toward Cost-Effective Solutions as DeepSeek Gains Traction, Says TrendForce

 

Rising AI Infrastructure Demand Highlights Industry Shift Toward Cost-Effective Solutions as DeepSeek Gains Traction, Says TrendForce

 

AI 인프라 수요 증가, 비용 효율적인 솔루션으로 산업 변화 가속화 – DeepSeek의 영향력 확대, TrendForce 발표

 

TrendForce’s latest investigations have revealed that the recent release of DeepSeek-V3 and DeepSeek-R1 underscores an industry-wide shift toward more cost-effective AI infrastructure. This development is expected to prompt end users to conduct more rigorous evaluations of AI infrastructure investments, focusing on adopting more efficient software computing models to reduce reliance on hardware such as GPUs.

 

TrendForce의 최신 조사에 따르면, DeepSeek-V3 및 DeepSeek-R1의 최근 출시는 업계 전반에서 비용 효율적인 AI 인프라로의 전환이 진행되고 있음을 보여준다. 이러한 발전은 AI 인프라 투자에 대한 최종 사용자의 평가 기준을 더욱 엄격하게 만들 것으로 예상되며, 특히 GPU와 같은 하드웨어(GPU 등)에 대한 의존도를 줄이기 위한 소프트웨어 컴퓨팅 모델의 효율성 개선이 중요해질 전망이다.

 

CSPs are also likely to expand the adoption of in-house ASIC infrastructure to lower deployment costs. Consequently, actual demand for GPU-based AI chips and semiconductors could see notable changes from 2025 onward.

 

또한, 클라우드 서비스 제공업체(CSP)들은 자체 개발한 ASIC(응용 특화 반도체) 인프라의 도입을 확대하여 배포 비용을 절감할 가능성이 크다. 이에 따라 GPU 기반 AI 칩 및 반도체의 실제 수요는 2025년 이후 상당한 변화를 겪을 것이라고 분석됐다.

 

TrendForce notes that the global AI server market has experienced rapid growth since 2023. By 2025, AI servers are projected to account for over 15% of total server shipments; by 2028, they will be nearing 20%. Major CSPs have aggressively expanded their AI infrastructure in response to escalating AI training demands. 

 

TrendForce는 글로벌 AI 서버 시장이 2023년 이후 빠르게 성장하고 있다고 지적했다. 2025년에는 AI 서버가 전체 서버 출하량의 15% 이상을 차지할 것으로 예상되며, 2028년에는 20%에 가까운 비중을 기록할 전망이다. 주요 CSP들은 AI 훈련 수요 증가에 대응하기 위해 AI 인프라를 공격적으로 확장하고 있다.

 

Starting in 2025, the focus will shift toward edge AI inference. Companies will adopt next-generation GPU platforms such as NVIDIA Blackwell and accelerate the development of proprietary ASICs, as seen with AWS. This strategic move aims to enhance cost efficiency and meet the needs of specialized AI applications.

 

2025년부터 엣지 AI 추론이 중심으로 이동 – NVIDIA Blackwell 및 ASIC 개발 가속화

2025년부터 AI 산업의 초점이 엣지 AI 추론(Edge AI Inference) 으로 이동할 전망이다. 기업들은 NVIDIA Blackwell과 같은 차세대 GPU 플랫폼을 도입하고, AWS 사례처럼 자체 ASIC(응용 특화 반도체) 개발을 가속화할 예정이다. 이러한 전략적 움직임은 비용 효율성을 향상시키고 특화된 AI 애플리케이션의 요구를 충족하는 것을 목표로 한다.

 

Meanwhile, Chinese CSPs and AI firms like DeepSeek are prioritizing the development of more efficient AI chips and algorithms to foster diversified AI applications in the face of U.S. chip export restrictions.

 

한편, 중국의 클라우드 서비스 제공업체(CSP) 및 AI 기업(DeepSeek 포함) 들은 미국의 반도체 수출 규제에 대응하기 위해 보다 효율적인 AI 칩과 알고리즘 개발을 우선순위로 삼고 있다.

 

Historically, the AI industry has relied on scaling models, increasing data volume, and enhancing hardware performance for growth. However, escalating costs and efficiency challenges have prompted a shift in strategy.

 

AI 산업은 전통적으로 모델 확장, 데이터 볼륨 증가, 하드웨어 성능 향상을 통해 성장해왔다. 그러나 급등하는 비용과 효율성 문제가 새로운 전략적 전환을 촉진하고 있다.

 

DeepSeek has adopted model distillation techniques to compress large models, improve inference speed, and reduce hardware dependencies. By optimizing the performance of NVIDIA Hopper downscaled chips, DeepSeek maximizes computational resource utilization.

 

DeepSeek은 모델 증류(Model Distillation) 기법을 활용하여 대형 모델을 압축하고, 추론 속도를 향상시키며, 하드웨어 의존도를 줄이는 방식을 채택했다. 또한, NVIDIA Hopper 칩을 다운스케일하여 최적화함으로써 연산 자원의 활용도를 극대화하고 있다.

 

DeepSeek’s competitive advantage stems from its high-performance hardware selection, innovative distillation techniques, and an open API strategy. This approach balances technological innovation and commercial viability while reinforcing the AI industry’s push toward greater efficiency.

 

DeepSeek, 고성능 하드웨어·혁신적 증류 기술·오픈 API 전략으로 경쟁력 확보

DeepSeek의 경쟁력은 고성능 하드웨어 선택, 혁신적인 모델 증류 기술, 오픈 API 전략에서 비롯된다. 이러한 접근 방식은 기술 혁신과 상업적 실현 가능성 사이의 균형을 유지하면서 AI 산업의 효율성 향상을 촉진하는 역할을 하고 있다.

 

TrendForce notes that China's AI market is expected to develop in two key directions in light of ongoing U.S. chip export restrictions. First, AI-related companies will accelerate investments in domestic AI chips and supply chains. Large Chinese CSPS, for instance, will continue procuring available H20 chips while also ramping up the development of proprietary ASICs for deployment in their data centers.

 

TrendForce에 따르면, 미국의 반도체 수출 규제가 지속되는 가운데 중국 AI 시장은 두 가지 주요 방향으로 발전할 것으로 예상된다.

첫째, AI 관련 기업들은 자국 내 AI 칩 및 공급망에 대한 투자를 가속화할 전망이다. 예를 들어, 대형 중국 클라우드 서비스 제공업체(CSP)들은 NVIDIA의 H20 칩을 계속해서 확보하는 동시에, 자체 ASIC 개발을 강화하여 데이터 센터에 배포하는 전략을 추진하고 있다.

 

Second, China will leverage its existing internet infrastructure to compensate for hardware limitations with software-based solutions. DeepSeek exemplifies this approach by breaking from conventional methods and adopting model distillation technology to enhance AI applications.

 

둘째, 중국은 기존 인터넷 인프라를 활용하여 하드웨어 한계를 소프트웨어 기반 솔루션으로 보완할 전망이다. DeepSeek은 이러한 접근 방식의 대표적인 사례로, 기존 방법에서 벗어나 모델 증류(Model Distillation) 기술을 채택하여 AI 애플리케이션의 성능을 향상시키고 있다.

 

Overall, as the U.S. government potentially tightens AI and semiconductor restrictions on China, domestic AI firms will be compelled to accelerate the development of proprietary AI chips and HBM hardware.

 

전반적으로, 미국 정부가 중국을 대상으로 AI 및 반도체 규제를 더욱 강화할 가능성이 있는 가운데, 중국의 AI 기업들은 자체 AI 칩과 HBM(고대역폭 메모리) 하드웨어 개발을 가속화할 수밖에 없는 상황이다.

 

While these solutions may not match the performance of NVIDIA’s GPUs, they are primarily designed to support China’s domestic data center infrastructure, where individual chip performance is no longer the sole priority.

 

이러한 솔루션은 NVIDIA의 GPU만큼 강력한 성능을 제공하지는 못할 수 있지만, 중국의 국내 데이터 센터 인프라를 지원하는 데 초점을 맞추고 있다. 즉, 개별 칩의 성능이 절대적인 요소가 아니라, 시스템 전체의 최적화가 더 중요한 방향으로 변화하고 있다.

 

Additionally, companies like DeepSeek are advancing AI multimodal models, aiming to achieve similar performance in specific application areas at lower training costs to expedite commercialization.

 

또한, DeepSeek과 같은 기업들은 AI 멀티모달 모델 개발을 추진하며, 특정 애플리케이션에서 유사한 성능을 제공하면서도 더 낮은 훈련 비용을 통해 AI의 상업화를 가속화하는 전략을 펼치고 있다.

 

( 멀티모달(Multimodal)은 AI가 여러 유형(모달리티, Modality)의 데이터를 동시에 처리하고 이해하는 능력을 의미한다. 인간이 텍스트, 음성, 이미지, 동영상 등 다양한 방식으로 정보를 받아들이고 종합적으로 이해하는 것처럼, 멀티모달 AI는 다양한 데이터 유형을 결합하여 더욱 정교한 의사 결정을 내릴 수 있도록 설계된다.

 

멀티모달 AI는 텍스트 중심의 AI에서 벗어나, 보다 직관적이고 강력한 인공지능으로 발전하는 핵심 기술이다. 특히, AI와 인간의 인터페이스가 점점 자연어, 이미지, 음성 기반으로 바뀌면서 멀티모달 AI의 역할은 더욱 중요해질 것으로 예상된다.)