유니콘팩토리

[MT리포트-디지털 성폭력]③디지털 성폭력 시대성폭력은 물리적 공간에서만 일어나지 않는다. 가상공간에서 캐릭터를 대상으로 한 언어 성희롱부터 실존 인물의 얼굴을 합성한 딥페이크 음란물까지 다양하게 일어난다. 하지만 어디까지가 범죄일지, 어떤 처벌이 적당할지 아직 사회적 공감대는 형성되지 않았다. 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있는 디지털 성폭력의 현황과 처벌 가능성, 이에 필요한 사회적 논의를 짚어본다.생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. ...

기하급수적 늘어나는 딥페이크봇…텔레그램상에서 '무료 체험'하는 그들"덜 유명하고 님들이 안 써봤을 '딥페이크봇', 좋아요 누르면 더 올려드림."28일 SNS(소셜미디어) 엑스와 미국 온라인 커뮤니티 레딧 등에서 '딥페이크 봇'을 검색한 결과 불과 1분만에 텔레그램 채팅방으로 연결되는 링크가 20여개 나타났다. 텔레그램으로 연결되는 도메인에는 'Braundress'(속옷 벗기기) 'Fakenude'(가짜 나체) 'Unclothy'(헐벗은) 등 표현이 담겼다. 딥페이크봇은 사진 한 장을 넣으면 딥페이크 기술로 음란물을...

'AI'와 음란물 연상 키워드 검색결과는…딥페이크 서비스 노출'딥페이크 툴' 사업자 처벌 어려워…"미성년자 등 접근 막아야"AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다.29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서...

네카오 "전용 신고채널 개설, 기술 개발"…구글·유튜브 "딥페이크 탐지, AI콘텐츠 꼬리표"AI(인공지능)를 악용한 딥페이크 성범죄가 확산하는 가운데 국내외 플랫폼 업계의 대응이 분주하다. 네이버·카카오 등 국내 플랫폼 기업들은 정부의 강경 대응 기조에 부응해 신고 채널을 개설하며 피해 확산 방지에 나섰고, 글로벌 빅테크도 딥페이크 콘텐츠 방지 기술을 개발하는 등 적극 대응하고 있다.29일 IT(정보기술) 업계에 따르면 네이버(NAVER)와 카카오는 딥페이크 영상물이나 이미지 등 콘텐츠를 신고할 수 있는 신고 채널을 개설했다. 네이...

시큐리티히어로 보고서…딥페이크 영상 98%는 '음란물'음란물 악용된 99%는 여성…최다 피해자 상위 10명 중 8명이 '한국 가수'전 세계에서 제작되는 딥페이크 음란물 피해자의 99%는 여성이며, 과반은 한국인이라는 조사 결과가 나왔다. 또 전세계에서 딥페이크 음란물 피해를 가장 많이 입은 상위 10명의 인물 중 8명이 한국 가수였다. 29일 사이버보안업체 '시큐리티히어로(securityhero)' 가 공개한 보고서에 따르면, 지난해 온라인 딥페이크 영상 수는 9만5820건으로 2019년 대비 550% 증가했다. 또 전체 딥페이크...

오세훈 서울시장, 류희림 방심위원장과 29일 업무협약서울시 홈피에 신고배너 개설 '핫라인 시스템' 구축키로카톡에 'SOS 전담 상담창구' 개설 아동·청소년 대응지원서울시가 지자체 중 최초로 방송통신심의위원회와 함께 확산하고 있는 딥페이크 성범죄 피해에 신속 대응하기 위해 불법 영상물이 공개사이트에 유포될 경우 24시간 내에 삭제·차단할 수 있는 '핫라인 시스템'을 구축한다. 오세훈 서울시장과 류희림 방송통신심의위원장은 29일 오후 서울시청에서 긴급 회동하고 딥페이크 영상물을 신속 삭제하는 핫라인 구축 협약을 체결했다. 최근 생성형 ...

현지 주요언론 한국 상황 집중 타전 "100개 이상 학교 피해 노출"…중국서도 "배춧값만 내면 친구·연예인 사진 합성" 범죄자 구속 기소한국의 '딥페이크 사태'를 바라보는 중국의 시선에도 깊은 우려가 읽힌다. 중국 내에서도 딥페이크 관련 범죄가 확산 조짐을 보이고 있어서다. 이미 딥페이크용 AI(인공지능) 기술을 가르치고 완성된 범죄 결과물들을 판매해 수익을 내는 산업체인이 형성돼 있다는 충격적 분석도 나온다. 28일 중국 언론들은 일제히 "딥페이크 범죄가 한국 사회를 패닉에 빠트렸다"고 타전했다. 중국 관영 환구...

최근 생성형 AI(인공지능)를 활용해 음란 영상과 무관한 인물의 얼굴을 합성하는 '딥페이크'가 퍼지면서 피해자가 우후죽순 생기고 있다. 주로 소셜미디어와 모바일 메신저를 통해 이러한 딥페이크가 유포되는데, 각 플랫폼별로 각기 다른 삭제 절차 때문에 피해자들이 어려움을 겪고 있다. 국내외 주요 플랫폼에서 딥페이크 영상을 삭제할 수 있는 구체적인 절차들을 모아봤다.━피해자가 일일이 찾아서 신고해도…처리에 2~3일 걸려━유튜브, 인스타그램 등 해외 서비스마다 권리침해 신고 절차가 있지만, 비교적 까다롭고 게시물 삭제까지 시간이 걸린다. ...