인공지능(AI) 챗봇 '챗GPT'가 출시 4개월 만에 이탈리아에서 접속 금지 규제를 받게 된 것은 개인정보 불법 활용 논란 때문이다. 더 큰 문제는 이탈리아의 규제가 일종의 신호탄이 될 수 있다는 점이다. 인근 영국과 아일랜드도 관련 규제 준비에 나섰고 미국에서도 비판 목소리가 나온다. 유럽연합(EU)은 AI플랫폼의 데이터보호규정(GDPR) 확대 논의를 이미 시작했다.
/사진=게티이미지뱅크챗GPT는 빅데이터 분석 방식으로 사람들이 원하는 정보를 제공하거나 복잡한 수식, 코딩 등을 해결하면서 전세계 1억명 이상이 사용하는 등 인기를 끌었다. 그런데 이를 위해선 먼저 광대한 정보를 '수집'하고 AI를 통한 '학습'이 필요한데, 여기에 쓰인 정보의 출처부터 내용까지 도마에 올랐다. 또 챗GPT가 취합한 자료를 재가공하면서 개인정보를 동의 없이 노출하거나, 미성년자에게 부적절한 내용을 전달해왔다는 문제도 불거졌다.
◇데이터를 어디에서 끌어와, 어디에 저장하며, 어떻게 내보내나? = 이탈리아 규제당국은 챗GPT가 개인정보를 무단으로 사용한다고 판단, 이를 해명하기 전까지 임시 접속 금지 조치를 결정했다. 이탈리아 당국은 "개발사인 오픈AI가 20일 내 해결책을 내놓지 않으면 전 세계 매출액의 최대 4%에 달하는 벌금을 물게 될 것"이라고 경고했다.
시작점은 지난달 터진 개인정보 유출사건이다. 영국 가디언지에 따르면 지난달 20일, 챗GPT에서 일부 사람들이 다른 사용자의 채팅 기록이나 제목을 볼 수 있는 버그가 발견됐다. 이탈리아 규제당국은 "개인 이메일주소와 신용카드 마지막 4자리 숫자를 포함한 개인정보, 대화가 부분적으로 노출됐다"고 지적했다. 당시 오픈AI는 즉각 사과했다. 회사 측은 "조사 결과 챗GPT 플러스(유료서비스) 사용자 1.2% 정도가 개인정보 유출 문제에 노출된 것으로 파악했다"며 "신뢰를 회복하기 위해 부지런히 노력하겠다"는 입장을 냈다.
하지만 이 사고는 AI의 개인정보 무단 수집 및 유출 우려를 건드렸다. 이탈리아 당국은 한 발 나아가 챗GPT의 알고리즘 학습에 쓰이는 데이터의 출처와 수집 및 저장 방법, 그리고 재가공해 처리하는 걸 정당화할 법적 근거가 없다고 문제를 제기한 뒤 조사에 착수했다.
유럽의 다른 나라들도 규제 움직임에 동참하고 있다. 영국 BBC방송은 영국 데이터 규제당국이 "AI 개발을 지원하지만, 데이터보호법을 준수하지 않는 AI에는 이의를 제기할 준비가 돼 있다"는 입장이라고 보도했다. 아일랜드 데이터보호위원회도 "이탈리아 규제 당국의 조치와 그 근거를 예의주시하고 있다"며 "이와 관련해 EU와 협력할 것"이라고 밝혔다.
샘 알트만 오픈AI 최고경영자의 이탈리아 내 챗GPT 접속 차단 관련 트위터 글. 다만 자신들은 개인정보보호법을 준수하고 있다고도 썼다.◇AI 알고리즘의 모호한 데이터 '편집권'…"누구에게 어떤 정보를 어디까지 주나?"= 챗GPT에 대한 규제 흐름이 만들어진 두 번째 이유는 개인정보의 잘못된 생성 및 전달 위험성이다. 이탈리아 당국은 먼저 "챗GPT가 제공하는 정보가 항상 사실과 일치하지는 않아 부정확한 데이터가 노출될 우려가 있다"고 밝혔다. 개인에 대한 잘못된 정보를 생성하거나 저장할 수도 있기 때문에 개인정보 보호법에 위배될 수 있다는 설명이다.
또 미성년과 성인을 구분할 수 있는 필터가 없어 무차별적으로 정보를 뿌려댈 수 있다는 점도 지적했다. 당국은 "13세 미만의 어린이가 서비스를 사용하는지 여부를 확인하는 필터가 부족하다"며 "미성년자들에게 그들의 발달과 인식 수준에 비해 부적절한 답변을 제공할 수 있다"고 밝혔다.
이탈리아의 개인정보 감시기구 '워치독'의 파스칼레 스탠지오네 회장은 관계자는 국영TV RAI와의 인터뷰에서 "궁극적으로 AI를 개발하는 사람들이 '어떤 목표'를 가졌는지 명확하지 않다"며 "AI가 개개인의 자기결정권을 침해한다면 그 자체로 위험한 것"이라고 지적했다.
오픈AI 측은 규제당국과 적극 협조하겠다는 입장이다. 오픈AI는 먼저 이탈리아의 규제결정에 "우리 또한 AI 규제가 필요한 측면이 있다고 생각하므로 긴밀히 협력하고 시스템 구축 및 사용 방법을 논의하겠다"는 입장을 밝혔다. 특히 샘 알트만 오픈AI 최고경영자(CEO)는 다음 달부터 직접 '월드 투어'에 나서 각국의 정책입안자들과 만나 이용자 보호 조치에 대해서도 논의할 것으로 보인다. 유럽 주요국가를 비롯해 남미, 인도, 아시아 등 6대륙 10여개 국가를 방문할 것으로 전해지는데 서울도 방문지에 포함됐다.
