생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르면서 생성형 AI로 만든 창작물에 구분할 수 있는 워터마크를 표시하도록 의무화하는 규제가 주목받고 있다. 오픈AI 등 글로벌 빅테크도 이런 규제의 필요성에 동의하고 기술 개발에 박차를 가하는 모습이다.

9일 IT(정보기술) 업계에 따르면 미국 캘리포니아주 상원은 이르면 이달 생성형 AI 창작물에 워터마크를 의무적으로 표시하도록 하는 법안을 통과시킬 전망이다. 앞서 이 법안은 만장일치로 주 하원을 통과했다. 현재 미국 내에서도 연말 대통령 선거를 앞두고 딥페이크로 인한 가짜뉴스가 사회적 문제로 대두되고 있다.

캘리포니아주 법안에는 챗GPT를 개발한 오픈AI가 찬성의 뜻을 밝혔다. 오픈AI는 법안에 찬성하면서 생성형 AI 창작물의 경우 출처 표식과 투명성이 중요하다고 생각한다는 뜻을 전달한 것으로 알려졌다. 이 법안에는 오픈AI 외에도 어도비, MS(마이크로소프트) 등 다른 글로벌 빅테크도 찬성했다.

해외에서는 이미 구글이나 MS, 인텔, 어도비 등 100여개 기업이 연합해(C2PA) 생성형 AI 창작물 워터마크 기술을 연구한다. 이들은 이미지나 영상뿐만 아니라 텍스트까지도 생성형 AI로 만들었는지 가려낼 수 있는 기술을 개발 중이다. 일부 플랫폼은 타사 생성형 AI로 만든 창작물까지 식별해 워터마크를 추가하는 기술도 개발하고 있다. 국내에서는 네이버(NAVER (160,100원 ▲100 +0.06%))가 C2PA에 참여한다.

이런 글로벌 움직임과는 달리 국내에서는 생성형 AI 창작물 워터마크 의무화 논의가 좀처럼 진전을 이루지 못하고 있다. 김승수 국민의힘 의원은 지난 6월 생성형 AI로 만든 음향이나 영상, 이미지 등 콘텐츠에 워터마크를 의무화하자는 내용의 정보통신망법 개정안을 대표 발의했지만 여전히 소위 심사 단계에 머물러 있다.

지난 3일 열린 국회 과학기술정보방송통신위원회 법안 소위에서는 이해민 조국혁신당 의원이 이 법안에 추가 논의가 필요하다고 지적했다. 이 의원은 법안의 입법 취지에는 공감하나 생성형 AI 창작물 워터마크 표시의 범위와 워터마크를 표시하는 실질적인 방법까지 규제할 것인지 여부 등 보완이 필요하다고 주장했다.

김 의원 법안에 대한 지난 8월 국회 수석전문위원 검토 보고서를 보면 신중해야 한다는 의견이 많다. 방송통신위원회는 워터마크 표시 의무자를 한정할 필요가 있다고 지적했고 과학기술정보통신부는 개인에게 표시 의무를 부과하는 것은 과도하다는 의견을 냈다. 한국인터넷기업협회는 표시 의무가 AI 산업 성장을 저해할 수 있다는 우려를 표했다.

한 플랫폼 업계 관계자는 "국내에서도 지난 4월 제22대 국회의원 선거를 앞두고 딥페이크 대응을 본격화했으나 선거가 끝나자 조금 약해진 측면이 있다"며 "업계에서도 규제의 필요성은 공감하지만 무턱대고 규제부터 만들었다간 글로벌 빅테크와 국내 기업 간의 형평성 논란이 생길 수 있다는 인식이 있는 것도 사실"이라고 말했다.