[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 국내 AI반도체 팹리스 스타트업 디노티시아와 하이퍼엑셀이 공동으로 'RAG(검색증강생성) 최적화 AI 추론 시스템'을 개발한다고 20일 밝혔다.
협력에 따라 양사는 디노티시아가 개발하는 VDPU(벡터 데이터 연산가속기)와 하이퍼엑셀의 LPU(거대언어모델 연산가속기)의 기술을 공유하게 된다.
두 팹리스 스타트업의 협력은 최근 AI서비스 산업에서 빠른 데이터 검색에 대한 수요가 늘어나는 데 따라 진행됐다. 양사에 따르면, AI서비스 업계는 최근 처리하는 데이터의 양이 방대해지고 텍스트·이미지·오디오 등 형식이 다양해지면서 기존 검색과 생성형AI 방식으로는 일정 수준 이상 효율을 높이는 데 한계를 겪고 있다.
이에 디노티시아는 VDPU를 활용해 AI가 대규모 멀티모달 데이터를 실시간으로 검색·활용할 수 있도록 하고, 하이퍼엑셀은 LPU를 통해 AI 모델의 연산 성능을 극대화 하기로 했다. 디노티시아 관계자는 "두 반도체를 결합해 검색과 추론을 동시에 처리하는 RAG 특화 AI시스템을 개발하려는 것"이라고 말했다.
정무경 디노티시아 대표는 "LLM 서비스가 확산되면서 데이터 검색에 대한 요구사항이 급격히 늘어나고 있다"며 "이번 협력을 통해 AI 모델의 추론뿐 아니라 데이터 검색 기능까지 최적화한 새로운 개념의 AI 시스템을 선보이겠다"고 말했다.
이어 "AI에 장기 메모리를 적용해 사용자 데이터를 심층적으로 이해하고, 더욱 정밀한 맞춤형 서비스를 제공할 것"이라며 "이는 할루시네이션 문제를 줄이고, 더욱 전문화되고 개인화된 AI 서비스로 도약하는 중요한 이정표가 될 것"이라고 강조했다.
김주영 하이퍼엑셀 대표도 "AI 연산의 병목 현상을 해결하고, 성능과 효율성을 동시에 확보하는 것이 AI 반도체의 핵심 과제"라며 "이번 협력을 통해 AI 시스템 운영 방식을 혁신하는 중요한 전환점을 만들 것"이라고 말했다.
