[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
AI(인공지능) 학습 데이터 플랫폼 기업 셀렉트스타가 생성형 AI 서비스에 대한 신뢰성 검증 자동화 솔루션 '다투모 이밸'(DATUMO Eval)을 출시했다고 21일 밝혔다.
이 솔루션의 주요 기능은 △기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 △도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 △AI 서비스의 답변 자동 평가 및 결과 분석 △AI 서비스의 취약점을 이끌어내는 레드티밍 등이다.
셀렉트스타 관계자는 "AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전 식별하고 대응할 수 있도록 한다"며 "100만개 이상의 평가용 질문을 자동 생성해 AI 모델이 처리해야 할 사용자 발화 패턴을 포괄적으로 평가할 수 있도록 지원한다"고 했다.
기존 도메인 전문가가 손수 평가용 질문을 설계하며 발생했던 높은 비용과 기간을 크게 절감했다는 설명이다. 아울러 자동 생성된 평가용 질문은 기업의 평가 목적, 요구사항, 난이도, 실제 고객 데이터와의 유사성 등 다양한 요소를 반영해 현실적인 평가가 가능하다.
또한 AI 서비스가 기업이 설정한 기준을 벗어나거나 유해한 정보를 생성하는지를 감지하고 자동 평가하는 기능도 제공한다. 평가가 완료된 후에는 모델이 특정 상황이나 맥락에서 문제를 일으키는 원인을 체계적으로 분석할 수 있다.
김세엽 셀렉트스타 대표는 "AI의 상용화에서 가장 중요한 것은 신뢰성"이라며 "기업들이 AI 서비스를 정확하고 안전하게 운영할 수 있도록 돕겠다. 국내 AI 신뢰성 검증 시장을 선도하는 것을 넘어 글로벌 시장에서도 영향력을 확대해 나갈 것"이라고 했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
이 솔루션의 주요 기능은 △기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 △도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 △AI 서비스의 답변 자동 평가 및 결과 분석 △AI 서비스의 취약점을 이끌어내는 레드티밍 등이다.
셀렉트스타 관계자는 "AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전 식별하고 대응할 수 있도록 한다"며 "100만개 이상의 평가용 질문을 자동 생성해 AI 모델이 처리해야 할 사용자 발화 패턴을 포괄적으로 평가할 수 있도록 지원한다"고 했다.
기존 도메인 전문가가 손수 평가용 질문을 설계하며 발생했던 높은 비용과 기간을 크게 절감했다는 설명이다. 아울러 자동 생성된 평가용 질문은 기업의 평가 목적, 요구사항, 난이도, 실제 고객 데이터와의 유사성 등 다양한 요소를 반영해 현실적인 평가가 가능하다.
또한 AI 서비스가 기업이 설정한 기준을 벗어나거나 유해한 정보를 생성하는지를 감지하고 자동 평가하는 기능도 제공한다. 평가가 완료된 후에는 모델이 특정 상황이나 맥락에서 문제를 일으키는 원인을 체계적으로 분석할 수 있다.
김세엽 셀렉트스타 대표는 "AI의 상용화에서 가장 중요한 것은 신뢰성"이라며 "기업들이 AI 서비스를 정확하고 안전하게 운영할 수 있도록 돕겠다. 국내 AI 신뢰성 검증 시장을 선도하는 것을 넘어 글로벌 시장에서도 영향력을 확대해 나갈 것"이라고 했다.
셀렉트스타
- 사업분야IT∙정보통신
- 활용기술인공지능, 빅데이터
- 업력***
- 투자단계***
- 대표상품***
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
'셀렉트스타' 기업 주요 기사
- 기사 이미지 "국내 AI 발전에 기여"…셀렉트스타, 7년 연속 데이터바우처 선정
- 기사 이미지 초거대 AI로 정신건강 관리한다…셀렉트스타, 국책사업 참여
- 기사 이미지 AI 트렌드와 생존 전략 알려준다…셀렉트스타, 'AI Ignite' 개최
관련기사
- "디자이너 의도까지 파악해 3D 모델링"…리콘랩스, AI 기술 개발
- "블록체인 스타트업 성장 돕는다"…KBSA, '2.0 비전' 추진
- '치과진료 정확성↑' 음성AI 기술 美 진출…덴컴, 현지 법인설립
- "IoT로 물류산업 혁신에 기여"…윌로그, 콜드체인산업대상 수상
- "지역 농식품 스타트업 육성"…농식품벤처協-군산원예농협 맞손
- 기자 사진 최태범 기자 bum_t@mt.co.kr 다른 기사 보기
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>