[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.] 왼쪽부터 업스테이지 김성훈 대표,박은정 CSO, 앤드류 응 교수/사진=업스테이지SLM(경량화 거대언어모델) 개발 스타트업 업스테이지가 글로벌 온라인 교육 플랫폼 '딥러닝AI(DeepLearning.AI)'를 통해 LLM(거대언어모델) 개발 관련 무료 강좌를 공개했다고 18일 밝혔다.
딥러닝AI는 세계 4대 AI(인공지능) 석학으로 불리는 앤드류 응(Andrew Ng) 미국 스탠퍼드대 교수가 만든 교육 플랫폼이다. 응 교수의 특화 과정부터 오픈AI, 구글, 메타, MS 등 빅테크 기업들이 다양한 AI 수업을 운영 중으로, 국내 기업 중에서는 업스테이지가 최초로 참여했다.
업스테이지는 SLM '솔라'를 개발한 노하우를 바탕으로 응 교수와 함께 LLM의 사전학습 강의를 선보인다. 사전학습은 방대한 텍스트 데이터를 기반으로 AI 모델에게 언어적 능력을 학습시키는 과정으로, 문장 생성과 문맥 추론 등 고도의 자연어 처리 능력을 갖춘 LLM개발에 필요한 작업이다.
강연은 업스테이지의 김성훈 대표와 박은정 CSO(최고과학책임자)가 직접 나섰다. 이들은 이론적 기초부터 데이터셋 준비, 모델 훈련 및 벤치마크 테스트 기반의 성능 평가까지 LLM 사전학습의 전 과정을 짚는다. 특히 솔라의 핵심 기술인 'DUS(깊이 확장 스케일)' 방법론을 중심으로 매개변수 경량화 방법과 오픈소스로 공개된 사전학습 모델을 기반으로 추가 데이터를 학습시키는 방법 등을 집중 공유한다.
김 대표는 "앞으로도 'AI로 세상을 이롭게 한다'는 철학을 바탕으로 전 세계 더욱 많은 사람들이 최신 AI 지식을 습득할 수 있도록 앞장서겠다"고 말했다.
