[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
'딥시크'(DeepSeek)와 같은 중국 AI(인공지능) 기술의 급성장을 예상한 글로벌 오픈소스 AI 플랫폼 '허깅페이스'와 한국 기업 중에서 최초로 전략적 파트너십을 체결한 스타트업이 있어 주목된다.
허깅페이스는 전세계 700만명 이상의 AI 개발자가 활동하는 오픈소스 AI 플랫폼이자 세계 최대 AI 커뮤니티다. 개발자들은 연일 다양한 AI 모델을 올리며 뜨거운 기술 경쟁을 펼치고 있다. 이곳에 공개된 AI 모델 수는 120만개를 돌파했다.
2일 벤처·스타트업 업계에 따르면 국내 스타트업인 프렌들리AI는 최근 허깅페이스와 전략적 파트너십을 체결했다. 이번 협약으로 허깅페이스의 AI 모델 배포 옵션에 프렌들리AI의 '프렌들리 데디케이트 앤드포인트'(Friendli Dedicated Endpoints)가 새롭게 추가됐다.
이 솔루션은 GPU(그래픽처리장치)에 최적화된 추론 엔진을 기반으로 AI 모델 배포 시 가속화 및 비용 최적화를 지원한다. 사용자에게 엔비디아 A100·H100 등 적절한 GPU를 할당하고, 해당 리소스는 서비스 트래픽에 따라 유동적으로 제어해 비용을 절감하는 것이 특징이다.
특정 작업에 필요한 만큼의 메모리와 연산 자원을 순차적으로 할당해 효율화하는 일반적인 vLLM(Variable-sized Large Language Model)과 비교해 속도가 최대 약 6배 이상 개선되고, 운영 비용은 50~90%까지 절감된다는 설명이다.
━
AI 개발에 수반되는 인프라 관리 부담↓
━
프렌들리 데디케이트 앤드포인트 구동 장면 /사진=프렌들리AI생성형 AI 모델 배포·운영에는 복잡한 인프라 관리와 높은 비용 문제가 수반되지만, 프렌들리AI의 솔루션을 활용하면 개발자들이 인프라 관리에 대한 부담을 덜면서 더욱 손쉽게 생성형 AI 모델을 배포하고 안정적으로 운영할 수 있게 된다.
프렌들리AI는 이 같은 기술력을 바탕으로 허깅페이스와 손을 잡았다. 허깅페이스는 그동안 AWS(아마존웹서비스), 애저(마이크로소프트), GCP(구글), 엔비디아 등 주요 빅테크의 서비스만 배포 옵션으로 제공해 왔기 때문이다. 이번 파트너십은 한국 AI 기술력에 대한 글로벌 차원의 관심을 더욱 높이는 계기가 될 수 있다는 평가다.
전병곤 프렌들리AI 대표는 "프렌들리AI와 허깅페이스는 생성형 AI, 나아가 AI 에이전트를 더 많은 개발자가 쉽게 접근하고 활용할 수 있도록 해 그 영향력을 확대하겠다는 비전을 공유하고 있다"고 말했다.
이어 "허깅페이스의 개발자 커뮤니티가 우리의 추론 솔루션을 활용해 어떤 혁신을 만들어낼지 기대된다"며 "앞으로도 허깅페이스와 협력해 더 유용한 기능과 지원을 제공하도록 지속적으로 모색할 것"이라고 덧붙였다.
허깅페이스 공동창업자인 줄리앙 쇼몽 최고기술책임자(CTO)는 "이번 파트너십을 통해 허깅페이스 사용자와 프렌들리AI 고객들이 최적화된 AI 인프라와 도구를 활용해 최신 오픈소스 모델과 맞춤 생성형 AI 모델을 효율적으로 확장하고 운영할 수 있도록 돕겠다"고 했다.
한편 허깅페이스는 지난해 말 '2025년이 AI 기술의 사회적·경제적 변곡점이 될 것'이라고 전망하면서 중국이 오픈소스 AI 분야를 주도하며 전세계 AI 경쟁에서 선두로 나설 가능성이 높다고 예측한 바 있다. 이에 관한 대표적인 AI 모델의 하나로 딥시크의 'R1'을 꼽았다.
