[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

국내 AI 반도체 팹리스 스타트업들에 대한 관심이 뜨거워지고 있다. AI 에이전트 등 AI 서비스가 늘어나면서 관련 반도체 시장이 커지고 있고, 최근 글로벌 빅테크 기업까지 인수 의향을 보일 만큼 한국의 팹리스 기술력이 글로벌하게 인정받으면서다.

카이스트 전기및전자공학부 김주영 교수가 창업한 하이퍼엑셀도 AI 연산을 가속하는 AI 반도체를 설계하는 팹리스 스타트업이다. 하이퍼엑셀은 다른 AI 반도체들이 LLM(거대언어모델)과 비전 AI 등 다양한 형태의 AI모델 연산을 모두 커버하는 것과 달리 LLM의 연산에만 특화된 AI 반도체를 설계한다.
LLM 특화된 AI반도체 'LPU'…가격·전성비 극대화

김 대표는 "LPU는 다른 GPU(그래픽처리장치)나 NPU(신경망처리장치)보다 LLM의 추론 연산에서 더 높은 효율성을 보이는 설계 구조"라며 "현재 하이퍼엑셀 외에 미국 스타트업 그로크(Groq) 정도가 LPU를 만들고 있다"고 말했다.

LPU가 NPU와 다른 점은 메모리 사용 방식에 있다. 하이퍼엑셀에 따르면 LLM은 수많은 매개변수 때문에 모델 자체의 용량도 상당하다. 이에 매번 모델을 불러와 연산하는 LLM은 반도체 간 데이터 전송에 병목현상이 발생한다. 이에 GPU, NPU는 HBM(고대역폭메모리) 등 전송량이 큰 메모리 반도체를 써 이 문제를 해결하고 있다.

반면 LPU는 설계 구조 자체를 바꿔 반도체 간 데이터 전송 횟수를 최소화하도록 했다. 김 대표는 "메모리 반도체에서 연산 반도체로 데이터가 한 번만 흘러가도 모든 연산을 커버할 수 있는 구조"라며 "굳이 값비싼 HBM을 쓰지 않고 LPDDR(저전력더블데이터레이트)을 사용할 수 있어 가격은 물론 전력 효율성을 높일 수 있다"고 말했다.
IP·FPGA 활용해 틈새매출 확보…"구조적 한계 극복"

하이퍼엑셀이 개발한 LPU는 하이퍼스케일러(초대형 데이터센터) 등 대형 데이터센터뿐 아니라 중소형 데이터센터들을 타깃으로 한다. 국내에서 경쟁사를 찾자면 리벨리온이나 퓨리오사AI 등이 꼽힌다.

다만 경쟁사들과 달리 하이퍼엑셀은 반도체 IP(설계자산)를 활용해 엣지 디바이스향 시장에도 발을 담그고 있다. 서버향 LPU는 직접 파운드리를 통해 생산해 매출을 올리는 한편 로봇·자동차·가전 등 온디바이스AI용 반도체를 설계하는 다른 팹리스에 IP를 팔아 매출을 발생시키는 것이다. 하이퍼엑셀은 이를 통해 최근 300만달러(40억원) 규모의 IP 계약을 체결하기도 했다.

설계한 반도체를 시제품 격인 FPGA(프로그래밍 가능한 반도체)로 만들어 아예 제품화하는 전략도 사용한다. FPGA는 소프트웨어만으로 간단히 설계를 바꿀 수 있는 형태의 반도체로, 파운드리에서 양산하는 반도체(ASIC)보다는 성능이 떨어져 주로 테스트 용도로 쓰인다.

그러나 김 대표는 "1세대 LPU 설계를 테스트하기 위해 FPGA로 만들었는데 충분히 제품으로서 가치가 있다고 봤다"며 "공공·금융기관의 소규모 서버 시장을 겨냥해 판매하고 있다"고 말했다. 한국전자통신연구원(ETRI), 한국전자기술연구원(KETI) 등이 하이퍼엑셀의 FPGA 형태의 LPU를 탑재한 서버를 도입한 상태다.

하이퍼엑셀은 IP와 FGPA 사업을 통해 다른 팹리스 기업들이 가진 재무적 한계를 극복하고 있다. 통상 팹리스 기업들은 반도체 설계를 끝내도 시제품 생산, 양산, 실제 납품까지 길게는 2년여가 걸린다. 제품 양산까지 막대한 비용이 투입되는 반면 매출은 뒤늦게 발생할 수밖에 없는 구조다. 하이퍼엑셀은 이 공백을 IP나 FPGA 사업으로 메우면서 성장하고 있다.
MS 출신 카이스트 교수의 창업…AMD가 "이건 된다" 제안

하이퍼엑셀에 FPGA 사업 전략을 제안한 곳은 AMD다. 김 대표는 "창업 전인 2022년 여름, 카이스트 교수 신분으로 반도체학회인 핫칩스에서 LPU 관련 논문을 발표했는데 FPGA를 만드는 AMD에서 관심을 보였다"며 "AMD가 당시 'GPT라는 게 화제가 될 것 같은데 LPU를 FPGA로 만들어보라'고 제안했다"고 말했다.

이 제안은 김 대표가 하이퍼엑셀의 창업을 결심하게 만든 배경이기도 했다. 김 대표는 카이스트에서 학·석·박사 학위를 받은 후 2012년 미국으로 건너가 마이크로소프트에서 엔지니어로 활동했다.2019년 카이스트 교수직 제안을 받고 한국으로 돌아왔지만, 산업계에 대한 미련을 완전히 버린 건 아니었다. 그는 하이퍼엑셀 창업으로 다시 산업계에 뛰어들었다.

하이퍼엑셀은 올해부터 해외 진출을 시작한다는 계획이다. 김 대표는 "2세대 LPU '베르다'가 올해 연말에 출시될 예정"이라며 "글로벌 시장에서 이 LPU가 성과를 거둘 수 있도록 준비할 것"이라고 말했다. 그러면서 "미국, 일본 등 해외에 인력을 채용하는 등 성과를 낼 수 있도록 차근차근 제대로 준비하겠다"고 강조했다.



[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]