LPU 8개 탑재 서버 시스템 전시, 국내 운영 서버와 연동한 실시간 LLM 추론 시연 내부 벤치마크서 NVIDIA RTX PRO 6000 Blackwell 기반 시스템 대비 와트당·달러당 토큰 처리량 3.5배 이상 기록
AI 반도체 스타트업 하이퍼엑셀(대표 김주영)이 오는 11월 17일부터 19일까지(현지시간) 미국 시카고 맥코믹 플레이스(McCormick Place)에서 열리는 글로벌 슈퍼컴퓨팅 행사 ‘SC26(Supercomputing 2026)’에 참가해 LPU 기반 AI 추론 서버 시스템을 선보인다.
하이퍼엑셀은 이번 행사에서 LPU 8개를 탑재한 서버 시스템을 전시하고, 국내에서 실제 운영 중인 서버와 연결해 대규모 언어모델(LLM) 추론을 실시간으로 시연한다. 이를 통해 하이퍼엑셀 LPU의 추론 성능과 전력 효율을 현장에서 보여줄 계획이다.
회사 내부 벤치마크에 따르면, 하이퍼엑셀 LPU 카드를 탑재한 서버는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 기반 시스템 대비 와트당·달러당 토큰 처리량에서 3.5배 이상의 효율을 기록했다. 측정은 Qwen3-32B와 Llama3-70B 모델을 대상으로 진행했으며, Kimi와 GLM 등 더 큰 규모의 LLM도 지원한다. 카드당 소비전력은 하이퍼엑셀 LPU가 250W로, 비교 대상 GPU의 600W보다 낮다. 하이퍼엑셀은 이러한 낮은 소비전력을 바탕으로 대규모 LLM 추론 환경의 전력 소비와 운영 비용 부담을 보완할 수 있을 것으로 기대하고 있다.
하이퍼엑셀 LPU는 LPDDR5X 메모리와 자체 개발한 Streamlined Dataflow 아키텍처를 결합해 메모리 대역폭 활용률을 높인 것이 특징이다. 회사 내부 측정 기준 LPU의 메모리 대역폭 활용률은 약 90%로, 일반적인 GPU 기반 LLM 추론 환경에서 나타나는 약 50~60% 수준보다 높다. 메모리 병목을 줄여 LLM 추론의 데이터 처리 효율을 높이는 데 초점을 맞춘 설계다.
하이퍼엑셀은 이번 SC26에서 글로벌 서버 제조사, 클라우드 서비스 제공업체(CSP), AI 인프라 기업 등을 대상으로 LPU 기반 서버 플랫폼의 기술 검증과 협력 기회를 모색할 예정이다.
김주영 하이퍼엑셀 대표는 “AI 도입이 가속화되면서 업계의 관심은 단순한 프로세서 성능을 넘어 대규모 AI 추론 환경에서의 효율성과 경제성으로 이동하고 있다”며 “이번 SC26에서 하이퍼엑셀의 LPU 아키텍처가 서버 시스템 차원에서 구현하는 토큰 처리 효율과 전력·비용 절감 가능성을 소개하고, 글로벌 인프라 파트너들과 협력 기회를 확대해 나가겠다”고 말했다.
한편 김준연 하이퍼엑셀 CFO는 11월 18일 오후 2시 30분부터 2시 45분까지(현지시간) SC26 행사장 내 래블업(Lablup) 부스(4630번)에서 ‘토큰 효율로 재정의하는 AI 인프라(Redefining AI Infrastructure Through Token Efficiency)’를 주제로 발표할 예정이다.
하이퍼엑셀 부스는 SC26 행사장 내 AI 반도체 한국관(1411번 부스)에 마련된다.
하이퍼엑셀(HyperAccel)은 2023년 KAIST 김주영 교수가 설립한 국내 AI 반도체 팹리스 스타트업으로, 대규모 언어모델(LLM) 추론에 특화된 AI 가속기 LPU(LLM Processing Unit)를 개발하고 있다. 고가의 고대역폭메모리(HBM) 대신 LPDDR5X 메모리를 활용한 추론 전용 아키텍처와 자체 개발한 Streamlined Dataflow 기술을 바탕으로 AI 추론의 전력 효율과 비용 경쟁력을 높이는 데 주력한다. 주요 제품으로는 데이터센터·엔터프라이즈용 AI 가속기 ‘Bertha’와 온디바이스 AI용 ‘Bertha-Edge’가 있으며, 다양한 AI 추론 환경으로 기술 적용 범위를 확대하고 있다.
하이퍼엑셀은 2025년 IEEE Micro 저널 최우수 논문에 선정됐으며, 대만 ICT Grand Challenge AI 코어 기술·칩 부문에서도 수상했다. 2026년에는 정보통신유공 정부포상 포장과 WIS 혁신상 부총리상을 받았으며, 포브스 아시아 ‘100 To Watch 2026’과 포브스코리아 ‘2026 대한민국 AI 50’에 선정되는 등 국내외에서 기술력과 성장 가능성을 인정받고 있다.
현재 시리즈 B 투자 유치를 진행하고 있으며, 누적 투자 유치액은 약 2,100억 원이다. 서울 본사와 미국 실리콘밸리 거점을 기반으로 글로벌 AI 반도체 시장 진출을 확대하고 있다.
<끝> |