[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

생성형 AI(인공지능) 스타트업 딥브레인AI가 5일 유튜브나 틱톡, 텔레그램 등 SNS(소셜미디어)에 유통되는 특정 인물의 동영상 중 딥페이크 영상을 찾아내는 '딥페이크 자동 탐지 솔루션'을 공개했다.

딥브레인AI는 이날 서울 코엑스에서 '생성형AI 포럼 2024'를 열고 딥페이크 자동 탐지 솔루션 등 신규 비즈니스 모델을 소개했다. 특정 영상의 딥페이크 여부를 판별하는 데서 나아가 SNS에 실시간으로 딥페이크 영상이 유통되고 있는지를 확인할 수 있는 것이 특징이다.

예컨대 연예인 유재석에 대한 딥페이크 영상을 찾아내기 위해서는 키워드에 '유재석'을 입력한 뒤 사진 1장을 업로드하면 된다. 이후 '텔레그램', '유튜브' 등 채널을 선택하면 솔루션은 텔레그램과 유튜브에 업로드된 관련 인물의 영상을 모두 크롤링한 뒤 인물의 자연스러움, 원본과의 대조, AI솔루션 사용 여부 등을 판단해 딥페이크 여부를 분석한다. 딥페이크 영상의 존재가 발견되면 링크와 함께 사용자에게 알람이 제공된다.

이정수 딥브레인AI 이사는 "SNS나 성인사이트를 포함해 다양한 채널에서 유통되고 있는 영상들의 딥페이크 여부를 한 번에 판별할 수 있다"며 "24시간 자동으로 온라인에 돌아다니는 영상 중 딥페이크 영상을 발견해낼 수 있는 것"이라고 말했다.

판별 정확도는 90% 이상이다. 탐지 시간도 FHD 영상 기준 최대 30초 안에 탐지할 수 있다. 통상 영상 분석 전문가 및 업체가 영상 1개의 딥페이크 여부를 판별하는 데 3일가량이 걸리는 것과 대조적이다. 장세영 딥브레인AI 대표는 "2019년부터 딥페이크 탐지 기술을 개발·고도화해온 만큼 높은 성능을 구현할 수 있게 됐다"고 말했다. 딥브레인AI는 이미 경찰청 등 수사기관에 단건 영상의 딥페이크 판별 솔루션을 공급해오고 있다.

장 대표는 "딥페이크 탐지는 알고리즘만큼 데이터셋을 얼마나 구축하고 있는지도 중요하다"며 "딥브레인AI는 5년 넘게 관련 연구를 해왔고 데이터도 무수히 많이 쌓아온 만큼 높은 정확도를 자랑한다"고 말했다.

그밖에 자동 탐지 솔루션은 크롤링한 영상들의 스크립트와 댓글 등을 분석해 여론의 긍정·부정 여부도 판별해준다. 딥페이크 영상이 얼마나 늘고 있는지 등 탐지에 대한 통계도 제공한다.

해당 솔루션은 연예기획사나 정당 등에서 집중적으로 활용될 것으로 전망된다. 소속 연예인이나 정치인들의 딥페이크 영상이 유통되는지 여부를 실시간으로 파악해야 추가 확산을 막고 수사 등을 의뢰할 수 있기 때문이다. 딥브레인AI는 SaaS(서비스형 소프트웨어) 방식으로 솔루션을 공급한다는 계획이다.

장 대표는 "딥페이크 영상의 유통 여부를 빠르게 탐지하고 소요 비용을 크게 줄일 수 있을 것"이라며 "이를 통해 정치, 교육, 학교, 엔터테인먼트 분야의 딥페이크 범죄를 줄이는 데 기여할 것"이라고 강조했다.



[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]