국내 연구진이 챗GPT(ChatGPT)처럼 질의응답이 가능한 과학기술 분야 '거대언어모델'(LLM)을 개발했다. 25개 과학기술 정부출연연구기관 중 LLM을 개발한 건 이번이 처음이다. 연구진은 향후 관련 서비스를 공학 박사 수준까지 끌어올린다는 계획이다.

한국과학기술정보연구원(KISTI)은 연구기관·공공기관·중소기업이 활용할 수 있는 LLM '고니'(KONI·KISTI Open Natural Intelligence)를 개발했다고 22일 밝혔다.

LLM은 방대한 데이터 학습 등을 통해 사용자 질의에 답변할 수 있는 AI(인공지능) 기술이다. 챗GPT는 지난해 11월 출시한 이후 '월간 활성 사용자 수'(MAU) 1억명을 최단기간에 달성했다. 국내에서 LLM을 개발한 기관은 NAVER (190,000원 ▲300 +0.16%)·KT (44,500원 ▲500 +1.14%)·LG (76,800원 ▲600 +0.79%) AI 연구원 등 기업 뿐이다.

하지만 보안 등의 문제를 중요시하는 연구기관·공공기관과 비용 문제로 도입을 망설이던 중소기업은 이를 활용하는 데 어려움을 겪었다. 이에 KISTI는 보안은 강화하면서 기존 LLM이 갖는 환각(Hallucination) 현상을 최소화한 과학기술·산업 특화 LLM을 개발했다.

환각 현상은 AI가 주어진 데이터 또는 맥락에 근거하지 않은 잘못된 정보를 생성해 거짓을 진실처럼 답변하는 경우다. KISTI는 환각 현상을 최소화하기 위해 '검색 증강 생성 기술'(RAG)을 적용했다. 또 파인튜닝(미세조정) 과정에서 요구되는 전산 비용을 줄일 수 있는 기술을 도입했다.

KISTI는 앞으로 고니를 LLM 도입을 고려했으나 여러 이유로 도입하지 못한 연구기관·국회·육군·중소기업 등에 LLM을 지원할 예정이다. 모델 성능도 현재 130억개 파라미터(매개변수) 수준에서 이를 더 늘려 기술을 고도화한다는 목표다.

김재수 원장은 "KISTI는 고니를 연구기관·공공기관·중소기업 등에 제공해 과학기술·산업 분야 수요에 대응할 수 있도록 도울 것"이라며 "관련 성능을 지속 고도화해 일반 대중과 과학기술인 모두 활용할 수 있는 '공학 박사' 수준의 AI 정보 서비스 체계를 구축하겠다"고 밝혔다.