"사실 우리 같은 스타트업에선 AI(인공지능) 개발조직 구성이 힘든 고민거립니다."

서준호 토스랩 CTO(최고기술책임자)는 29일 서울 강남구 팁스타운에서 열린 '아마존웹서비스(AWS) 생성형 AI 로프트 투어' 사전 기자간담회에서 자사 협업도구 '잔디'에 '아마존 베드록'을 채택한 배경을 이같이 밝혔다. 아마존 베드록은 클라우드 기반으로 복수의 AI 파운데이션 모델 사용을 지원하는 플랫폼이다.

소규모 개발조직은 AI 서비스를 구축하는 과정에서 AI 파운데이션 모델을 여러차례 시험하거나 직접 모델을 파인튜닝(최적화)하는 데 부담이 크다는 설명이다. 토스랩이 업무내역 요약·작성·검색 기능을 탑재한 AI 서비스 '스프링클러'를 개발하며 겪은 어려움이다.

처리할 데이터의 유형과 언어에 따라 AI 모델의 성능이 갈린다는 점도 걱정거리다. 비용을 생각하면 모든 작업에 고성능 모델을 투입할 수도 없다. 서 CTO는 "업무용 메신저 대화내역의 경우 'ㅋㅋㅋ'가 압도적으로 많아서 AI 요약을 위해선 (경량 모델을 활용한) 데이터 선처리가 필요하다"며 "베드록이 여러 모델을 지원해 선택의 폭을 넓혔다"고 말했다.

오는 30일부터 다음달 6일까지 팁스타운 글로벌스타트업센터에서 열리는 생성형 AI 로프트 투어에선 워크숍·실습교육·데모(시범)를 통해 잔디랩과 같은 AI 기술 적용사례와 활용방안 등을 확인할 수 있다고 AWS는 설명했다. 이 행사는 AWS가 스타트업·개발자와 AI에 관심 있는 사람들에게 교류 기회를 제공한다는 취지로 마련했다.

AWS는 아마존 베드록과 '아마존 세이지메이커 하이퍼팟' 등 자사 클라우드에 기반한 AI 서비스를 투어 전면에 세울 예정이다. 국내 스타트업 중 AI 음성합성 솔루션 '타입캐스트'를 제작한 네오사피엔스, AI 영상분석 솔루션 '마렝고'를 개발한 트웰브랩스 등이 행사에 참여한다.

서울은 런던·샌프란시스코·파리·상파울로·벵갈루루에 이어 올해 마지막 로프트 투어 개최지로 이름을 올렸다. 김도연 AWS 한국·일본 스타트업 세일즈 총괄은 이날 "생성형 AI 로프트는 AWS가 대표적인 글로벌 AI 허브라고 생각하는 6개 대도시에서만 진행한다"며 "서울은 강력한 기술·인재 풀과 창업환경을 갖춘 역동적 AI 허브"라고 말했다.

AWS는 지난 6월 전 세계 스타트업의 생성형 AI 앱 개발에 2억3000만달러(3186억원)를 지원한다고 선언하는 등 국내외에서 자사 AI 기술·서비스 사용자층 확대를 적극 추진하고 있다. 김 총괄에 따르면 AWS는 올해 한국 스타트업에 450만달러(62억원) 이상을 지원했다.

한국 AI 시장을 직접 겨냥한 상품출시·투자도 이어간다. 지난달 말 발표한 아마존 베드록의 서울 리전 서비스 개시는 그 일부다. AWS는 2018년부터 2022년까지 한국 클라우드 인프라에 2조7300억원을 투자한 데 이어 2027년까지 7조8500억원 규모의 투자를 집행할 예정이다.

김 총괄은 "한국 기업들이 AI 시장에서 선도사례를 만들고 있고, 특히 스타트업의 해외진출 의지가 큰 만큼 AWS와 다양한 기회를 창출할 것으로 기대한다"고 말했다.