마이크로소프트? / 김대우 이사


 

 

예측 10: 2027년까지 조직의 40%는 성능 최적화,


비용 효율성 및 특화된 컴퓨팅 수요 증가에 대응하기 위해


Arm 프로세서나 AI/ML 전용 칩을 포함한 맞춤형 실리콘(Custom Silicon)을 사용할 것


- IDC FutureScape: Worldwide Cloud 2025 Predictions


 




2027년, AI 반도체가 클라우드 혁신을 이끈다


2024년 이후 GenAI 사용량이 급증하면서 클라우드 시장에서는 성능 최적화와 비용 효율성을 추구하는 트렌드가 눈에 띄게 확산되고 있습니다. 대표적으로, “AI 반도체 - 맞춤형 실리콘(Custom Silicon)” 도입입니다.

 

급성장하는 AI 반도체 시장


AI 반도체 시장 규모는 2020년 약 185억 달러에서 2024년 약 439억 달러로 2배 이상 증가할 것으로 전망되며, 시스템 반도체 시장에서 AI 반도체가 차지하는 비중은 2030년 31.3%로 확대될 것으로 예상됩니다. 글로벌 시장 리서치 업체들은 2027년까지 전체 조직의 40%가 ARM 프로세서나 AI/ML 전용 칩 등 AI 반도체를 클라우드 인프라에 적극적으로 도입할 것으로 전망하고 있습니다.

2025 반도체 산업 전망 - 산업리포트

 

특히, IDC는 2025년 반도체 시장이 전년보다 16% 성장한 1,124조 원 규모가 될 것으로 전망했으며, 예상을 뛰어넘는 메모리 반도체에 대한 요구와 고성능 컴퓨팅(HPC), AI 분야가 반도체 산업의 성장과 회복의 중심축을 형성할 것으로 예상했습니다. 데이터센터 응용 시장 규모는 2024년 대비 33.6% 상승한 약 294조 원으로 전망되며, 2028년까지 전체 시장 규모는 약 410조 원에 이를 것으로 예상됩니다.

 

맞춤형 반도체 시장의 확장으로 디자인하우스, 파운드리, EDA 툴과 같은 밸류체인 또한 확장되었습니다. 데이터 센터용 맞춤형 반도체 시장규모는 2028년 말 기준 약 240억 달러에 이를 것으로 예상됩니다.



이미지: AI 시대를 견인하는 반도체 산업 전망, Omdia

 

반도체 강국인 대한민국은 더 선도적입니다.

[이재명 정부] 경제계, AI 등 첨단산업 지원·규제 개선 기대감↑

 



'韓대표 AI반도체' 놓고 스타트업 격돌

 




맞춤형 AI 반도체란 무엇이고, 왜 개발하는가


과거에는 인텔, AMD, 퀄컴 등 소수의 반도체 전문 공급업체가 시장을 주도했지만, 이제는 글로벌 빅테크 기업부터 국내 AI 반도체 스타트업까지, 다양한 기업이 직접 AI 반도체 설계에 나서고 있습니다. 국가 차원의 지원과 막대한 개발자금이 필요한 반도체 사업! 그렇다면 기업들은 맞춤형 AI 반도체 개발에 열을 올리고 있을까요?

 

AI 반도체란 무엇인가?


AI 반도체는 인텔, AMD, 퀄컴처럼 범용 칩을 판매하는 외부 공급자 대신, 기업 내부에서 자사 제품이나 서비스를 위해 특별히 설계한 반도체 칩을 의미합니다. 대표적인 예로, 애플은 오랜 기간 아이폰, 아이패드, 맥북 등 자사 제품에 들어가는 칩을 독자적으로 설계해 왔고, 이제 그 흐름이 구글, 아마존, 마이크로소프트 등 수많은 글로벌 기업과 국내 스타트업까지 확산되고 있습니다.


이미지: 애플 M4칩 일러스트


 

기업이 AI 반도체를 추구하는 주요 배경은 다음과 같습니다.

 

성능 및 효율성의 극대화


AI 반도체는 기업이 필요로 하는 AI 워크로드, 소프트웨어, 서비스 환경에 정확히 맞춰 설계합니다. 범용 칩은 다양한 용도의 호환성과 범용성이 강점인 반면, AI 반도체나 커스텀 칩은 특정한 소프트웨어 알고리즘, 즉 음성 인식, AI 추론, 대규모 언어모델 등에 정확히 맞춘 인스트럭션 명령(Instruction command)을 칩에 직접 반영할 수 있습니다.

이렇게 최적화된 칩은 범용 칩 대비 더 높은 성능, 뛰어난 전력 효율(와트당 성능-전성비), 콤팩트한 크기 등의 이점을 제공합니다. 이는 데이터센터뿐 아니라 모바일 기기, IoT 제품까지 성능과 배터리 수명이 중요한 모든 영역에서 큰 강점이 됩니다.

 

비용 구조 개선


자체 칩을 설계, 생산하기 시작하면, 초기 개발 비용은 크지만 대량 생산 상황에서 단위 칩당 비용을 절감할 수 있습니다. 칩 공급업체의 이익 마진이 제거되기 때문에, 시간이 지남에 따라 전체적인 원가를 줄일 수 있습니다. 대규모 클라우드 서비스, 스마트폰 등 대규모 애플리케이션을 가진 기업일수록, AI 반도체의 이점이 더욱 부각됩니다.


Nvidia는 2025년 1분기까지 360만 개 이상의 GPU를 미국 4대 CSP(AWS, Azure, GCP, Oracle)에게 판매


 

제품 및 서비스 차별화와 경쟁 우위


특정 기능이나 성능에서 탁월한 성과를 보여주는 AI 반도체는, 기업의 제품이나 서비스를 시장에서 더 경쟁력 있게 만듭니다. 예를 들어, 애플 M시리즈 칩이나, 구글 TPU, 마이크로소프트의 Maia, 아마존 Graviton 등이 대표적인 사례입니다. 칩에 특화된 기능과 최적화가 적용되어, 경쟁사들이 따라오기 힘든 제품이나 서비스를 제공할 수 있는 것이죠.

 

공급망 이슈


글로벌 관세 이슈, 지정학적 이슈로 인해 반도체 공급망 위험이 증가하고 있습니다. 자체적으로 설계/제작한 칩을 확보하면 공급망 통제는 물론 어느 정도 수급 예측이 가능해집니다. 외부 칩 판매 업체에 대한 의존도가 낮아지기 때문에, 부품 수급 이슈나 예기치 못한 위험을 줄일 수도 있습니다.


이미지 출처: 연합뉴스


 

AI 반도체, 미래 전략의 중심


AI와 클라우드 시대가 본격화되면서, AI 반도체 개발은 더 이상 일부 기업만 추구하는 전략이 아닙니다. 기업의 고유한 핵심 기술, 제품, 서비스에 최적화된 칩을 직접 설계해야 시장의 변화에 빠르게 대응하고, 궁극적으로 새로운 가치를 만들 수 있습니다.

 




글로벌 기업들의 AI 반도체 투자 사례


빅테크 기업들이 특히 적극적으로 뛰어들고 있습니다. 아마존, 마이크로소프트, 구글 등이 진행하고 있으며, 간략히 살펴봅니다.

 

AWS의 인퍼런시아와 트레이늄


AWS는 추론용 반도체 '인퍼런시아'와 학습용 반도체 '트레이늄'을 개발하여 AI 분야의 클라우드 컴퓨팅 서비스를 제공하고 있습니다. 자체 개발한 AI 반도체를 데이터센터에 적용해 컴퓨팅 서비스 비용을 GPU를 쓸 때보다 최대 70% 줄였으며, 같은 시간 기준 데이터 처리량은 최대 2.3배 늘렸고, 영상인식 서비스 속도는 8배까지 끌어올렸습니다.


"GPU 뛰어넘자"…구글·애플·아마존 'AI 반도체' 직접 만든다 - 한국경제


AWS Inferentia - AWS


AWS Trainium - AWS


 

구글의 TPU


구글은 딥러닝 프레임워크인 텐서플로우에 특화된 TPU(Tensor Processing Unit)를 자체 개발해 클라우드 서비스 분야에 활용하고 있습니다. TPU는 복잡한 머신러닝 연산을 빠르게 처리하도록 설계되었고, AI 워크로드에 최적화된 성능을 제공하고 있습니다.


이미지: 구글 TPU - GCP


 

마이크로소프트의 Maia와 코발트


마이크로소프트는 2023년 11월 Arm 기반 코발트100 칩을 선보이고 자체 서버칩을 활용한 클라우드 서비스에 본격 뛰어들었습니다. Maia 100 AI 칩은 와트당 성능(전성비) 최적화를 목표로 제작되었습니다.


Microsoft의 Maia 100 AI 칩


 

ARM 프로세서의 확산


ARM 기반 서버 칩은 인텔이나 AMD 같은 범용 CPU에 비해 저렴하고 에너지 효율성도 좋은 것으로 평가받고 있습니다. 구글 클라우드에 따르면 악시온(Axion) 에너지 효율성은 x86 칩 기반 VM과 비교해 60% 우수하고 가장 빠른 범용 ARM 기반 VM들 대비 30% 나은 성능을 제공하는 것으로 알려졌으며, 글로벌 CSP 모두 지속적으로 자사의 데이터센터에 적용 중입니다.

 

Oracle은 ARM 기반 컴퓨팅 파워를 활용하여 고객들이 기존 워크로드의 실행 가격을 낮추고, 탁월한 경제성 및 성능을 기반으로 새로운 애플리케이션을 개발할 수 있도록 지원하고 있습니다.

오라클 ARM 프로세서 - 오라클

 




국내 스타트업 기업과 AI 반도체


국내 대표 AI 반도체 기업으로 퓨리오사AI와 리벨리온이 있습니다. 퓨리오사AI는 LLM 구동이 가능한 국산 AI반도체 상용화에 성공했고 기업 투자유치 1조 원을 달성했습니다. 리벨리온은 최근 SK텔레콤이 투자한 사피온과 합병을 추진하면서 기업가치 약 1조 4,000억 원 규모의 AI 유니콘 스타트업이 될 것으로 주목받았습니다.


정부의 AI 반도체 육성 정책


정부는 국산 AI 반도체를 기반으로 AI 데이터센터를 구축하고, 관련 기술 개발을 지원하는 “K-클라우드 프로젝트”를 통해 AI 반도체의 전력 효율 저감 기술 개발을 지원하고 있습니다.

 


이미지: 뉴스원


 

K-클라우드 프로젝트는 초고속·저전력 국산 AI 반도체를 개발하고 이를 데이터센터에 적용하는 사업으로, KT클라우드, NHN클라우드 등 클라우드 업체와 리벨리온, 사피온, 퓨리오사AI 등 AI 반도체 업체들이 참여하고 있으며, 국산 AI반도체 실증을 위해 2025년 국가 AI 컴퓨팅 센터 등 핵심 인프라를 구축할 예정이고, 국산 AI반도체를 선제적으로 적용해 초기 시장 창출을 지원하고 차세대 반도체 원천기술을 확보한다는 방침입니다.

참고링크: 과학기술정책 브리프 - 국내 AI 반도체 기업의 글로벌 경쟁력 확보를 위한 우리의 대응 방안은?


비즈니스 혁신의 길목에 위치한 AI 반도체


AI 반도체 도입은 단순한 기술적 전환을 넘어, 비즈니스 혁신의 동력이 되고 있습니다. 고성능 AI 애플리케이션을 구동하는 데 필요한 연산 능력부터, 클라우드 인프라의 비용/속도/확장성 향상에 이르기까지, 조직은 맞춤형 프로세서를 적극 활용하면서 혁신 주기를 앞당길 수 있을 것입니다.

공급자 입장에서는 AI 반도체를 통해 최적화된 특화 서비스를 제공할 수 있고, 고객은 자사 업무에 최적화된 인프라로 빠르게 전환할 수 있습니다. 기술 지원, 전환 도구, 상세 문서 등이 뒷받침된다면, 더 많은 클라우드 고객이 이러한 혁신의 혜택을 경험하게 될 것입니다.


AI 반도체 = 벤더 종속 가속화?


물론, 새로운 기술에는 문제도 따라옵니다. 각 CSP나 AI 반도체 제작사 요구에 맞춰 설계한 AI 반도체를 우리 기업이 사용하게 되면, 플랫폼 간 이동성이 제한될 수 있으며, 기존 애플리케이션 호환성에 영향이 생길 수 있습니다. 따라서 충분한 마이그레이션 지원, 투자 대비 성과(ROI)에 대한 명확한 증명, 무엇보다도 신속하고 체계적인 기술 지원이 필수적입니다.

AI 반도체는 더 이상 테스트 기술이 아닙니다. AI와 데이터 중심으로 전환하는 비즈니스 시대에 중요한 초석으로 자리 잡고 있습니다. 앞으로 클라우드를 설계하고 운영하는 기업이라면, AI 반도체 도입으로 미래를 먼저 준비하는 것이 중요해질 것입니다.

감사합니다.

 

 


참 고 문 헌




  2. https://www.marketresearch.com/IDC-v2477/IDC-FutureScape-Worldwide-Cloud-Predictions-38665932/
  3. https://www.gartner.com/en/newsroom/press-releases/2025-05-13-gartner-identifies-top-trends-shaping-the-future-of-cloud
  4. https://www.yna.co.kr/view/AKR20250604110600003span style="font-size: 10pt;">https://www.hsbiz.or.kr/webzine/vol03/vol03/sub14.html
  5. https://www.thelec.kr/news/articleView.html?idxno=32433
  6. https://www.hankyung.com/article/2023010914701
  7. https://news.microsoft.com/source/features/ai/in-house-chips-silicon-to-service-to-meet-ai-demand/
  8. https://www.nasdaq.com/articles/shift-custom-silicon-why-companies-are-designing-their-own-chips
  9. https://www.pwcconsulting.co.kr/ko/publications/pwcconsulting_state-of-the-semiconductor-industry.pdf
  10. https://www.ppta.or.kr/webzine/2024_03/a1.html
  11. https://www.hankyung.com/article/2023021215741
  12. https://aws.amazon.com/ko/ai/machine-learning/inferentia/
  13. https://aws.amazon.com/ko/ai/machine-learning/trainium/
  14. https://cloud.google.com/tpu?hl=ko
  15. https://www.digitaltoday.co.kr/news/articleView.html?idxno=513250
  16. https://www.oracle.com/kr/cloud/compute/arm/what-is-arm/
  17. https://www.newsis.com/view/NISX20241115_0002961260
  18. https://www.news1.kr/it-science/general-it/5800529
  19. https://www.stepi.re.kr/site/stepiko/report/View.do?reIdx=46&pageIndex=1&cateCont=A0513&searchYear=&searchCondition=&searchKeyword=&searchSort=



저작권 정책


SaaS 전환지원센터의 저작물인 『2025 클라우드 트렌드 : AI 반도체(맞춤형 반도체) 칩으로 달린다』은 SaaS 전환지원센터에서 마이크로소프트 김대우 이사에게 집필 자문을 받아 발행한 전문정보 브리프로, SaaS 전환지원센터의 저작권정책에 따라 이용할 수 있습니다.
다만 사진, 이미지, 인용자료 등 제3자에게 저작권이 있는 경우 원저작권자가 정한 바에 따릅니다.