AI(인공지능)를 악용한 딥페이크 가짜뉴스 등을 제작·유포하는 등 오남용 행위에 대해 법적 책임을 물어야 한다는 의견이 나왔다. 딥페이크물의 유통을 감시하고 제때 삭제할 책임이 있는 플랫폼 기업도 제대로 대응하지 않을 때 처벌돼야 한다는 의견도 제시됐다.

크리스토퍼 패딜라(Christopher Padilla) IBM 월드와이드 대정부 및 규제담당 부사장은 20일 서울 여의도 한국IBM 회의실에서 열린 그룹 인터뷰에서 "딥페이크 (가짜) 콘텐츠를 게시하는 사람에 대한 법적 책임을 묻는 게 반드시 필요하다"며 "플랫폼 기업도 (딥페이크물을) 빨리 내리지 않는 등 대응 속도가 느릴 때 제재하거나 페널티를 부과하는 등 조치가 있어야 한다"고 밝혔다.

패딜라 부사장은 "AI를 개발하거나 구축하는 것을 제약하는 방식은 바람직하지 않다"며 "AI를 어떻게 사용하는지에 따라 필요시 규제하는 쪽으로 AI 규제를 운용해야 한다"고 했다. 이를테면 식당 메뉴나 오늘 입을 옷을 추천해주는 AI처럼 리스크가 낮은 AI에 대해서는 규제할 필요가 없지만 의료 진단용 AI나 은행 대출 심사용 AI와 같이 리스크가 상대적으로 큰 쪽에 대해서는 규제가 필요하다는 설명이다.

딥페이크물에 대한 제재가 자칫 표현의 자유를 억압할 수 있다는 우려에 패딜라 부사장은 "의견을 게시하는 것과 기술을 악용해 누군가의 평판을 저해하는 유해 허위정보를 게시하는 것 사이에는 분명한 법적 구분이 가능하다"며 "선거에 영향력을 행사하려는 행위에 대해서도 법적 판단이 가능하다"고 했다.

그는 "허위 사실을 매체를 통해 보도하는 게 불법이듯 AI를 이용해 온라인에 허위물을 게시하는 것도 불법이 돼야 한다"며 "AI는 컴퓨터와 휴대폰과 같은 도구에 불과하다. 새로운 도구가 등장하면 올바르게 활용하도록 하는 새로운 법규가 등장했고 AI도 예외가 아니다"라고 했다.

이날 함께 인터뷰에 참여한 폴 버튼(Paul Burton) IBM 아시아·태평양 총괄 사장은 "각국 정부와 기업들은 인구감소로 숙련기술 보유자가 줄어드는 데 대응하기 위해 AI 기반 자동화야말로 생산성을 높이고 인류의 삶의 질을 높이는 유일한 수단이라는 데 주목하고 있다"며 "전 세계에 걸쳐 약 85% 이상이 이미 AI를 적용했거나 AI 적용을 준비하고 있고 한국에서도 94%의 응답자들이 AI가 필요하다고 답했다"고 밝혔다.

버튼 사장은 "많은 AI 프로젝트들이 실패로 귀결되는 이유는 AI라는 기술을 통해 무엇을 달성하고 싶은지에 대한 목표가 불분명한 데다 달성 여부를 판단하는 기준도 세워져 있지 않은 데서 비롯된다"며 "생산성 향상을 도모할 것인지, 비용을 줄일 것인지, 고객 경험을 향상시킬 것인지 등 우리의 관점에서 AI로 무엇을 얻고자 하는지가 먼저 명확히 정의돼야 한다"고 강조했다. 그런 후에야 생성형 AI나 머신러닝(기계학습) 등 기술을 도입하려는 기업·기관에 가장 최적의 도구를 선별할 수 있다는 것이다.

한편 버튼 사장과 패딜라 부사장은 이튿날(21일) 서울 여의도 콘래드호텔에서 주한미국상공회의소 주최로 열리는 'AI 액셀러레이트 2024 정상회의'(AI Accelerate Summit)에 발표자로 참여한다. 버튼 사장은 '번창하는 사업을 위한 성장 지원'이라는 주제로 기조 발표를 하고 패딜라 부사장은 '글로벌 AI 규제 접근'이라는 주제의 발표를 맡는다. 이번 행사에는 이들 뿐 아니라 과학기술정보통신부, LG CNS, 김앤장법률사무소, 서울투자청, 휴렛팩커드 관계자들이 생성형 AI 활용 사례와 AI 규제환경 등에 대해 논한다.