'100% 인공지능(AI).' 한 학생이 제출한 과제물에 대해 소프트웨어가 내린 결론이었다. 내가 이끄는 학술 프로그램의 교수 한 명이 우연히 이 사실을 발견하고 어찌해야 하냐고 물었다. 다른 교수도 이 학생의 다른 과제물에서 '100% AI'라는 같은 결과를 받아 들고 역시 의문에 빠졌다. 이게 무슨 의미일까. 그때도 몰랐지만 지금도 모르겠다.

이 문제는 더 많은 문제들로 나뉜다. 학생이 AI를 사용했는지를 확실히 판별하는 게 가능한 건지, 과제 작성에 AI를 '사용한다'는 의미는 무엇인지, 그리고 그게 부정행위에 해당하는지 여부 등이다. 학생의 과제물을 판별한 소프트웨어는 다층 구조로 돼 있다. 우리가 쓰는 교육용 프로그램 캔버스(Canvas)는 인기 있는 표절 탐지 서비스 턴잇인(Turnitin)을 운영하는데 최근 새로운 AI 탐지 알고리즘을 추가했다.

대학에서 챗GPT(ChatGPT)의 원년이 저물어가는 지금, 캠퍼스는 혐의와 혼란이 뒤섞인 소용돌이 속에 있다. 지난 몇 주 동안 나는 AI 발 '부정행위' 여파를 처음으로 마주하게 된 교육자와 학생들 수십 명과 이야기를 나눴다. 그들의 이야기를 듣고 혼란스러워졌다. 캠퍼스에서 나온 보고서를 보면, 교육 영역에서 AI의 정당한 사용과 부정한 사용을 구분하는 게 불가능할 수 있으며 부정행위자를 식별하고 이들에게 책임을 묻는 것도 거의 불가능할 것으로 보인다.


옛날 옛적에 학생들은 반 친구들과 시험 내용을 공유하거나 과제물을 전해주곤 했다. 그 이후엔 인터넷의 도움을 받아 숙제를 외주화하는 현상이 나타났다. 에세이샤크(EssayShark)는 이런 과정을 전문화한 온라인 비즈니스다. (이 업체는 "연구 및 참조 목적으로만" 학기 말 과제를 판매한다고 주장한다.) 학생들은 체그(Chegg)와 같은 '튜터링' 서비스에서도 과제 답안을 구매할 수 있게 됐다. 학생들 사이에선 이런 행동을 '체깅'(chegging)이라고 하는 모양이다. 하지만 작년 가을 AI 챗봇이 등장하면서, 이전에 있었던 부정행위 방법은 모두 구식이 된 것 같다. "우리는 이제 (챗GPT가) 신규 고객 성장률에 영향을 미치고 있다고 생각합니다" 체그의 CEO는 이번 달 실적발표에서 이를 인정했다. 그 이후 이 회사의 시가총액에서 약 10억달러(약 1조2945억원)가 날아갔다.

이와 같은 대격동 시대의 수혜를 입는 기업도 있기 마련이다. 턴잇인은 2018년 기준으로 이미 매년 1억달러 이상의 수익을 올리며 교수들이 부정행위를 탐지하는 데 도움이 되는 서비스를 제공했다. 학생들의 과제 제출 시스템에 내장된 턴잇인의 소프트웨어는 과제물을 기존 데이터베이스(이전에 수집한 다른 학생 과제 포함)와 비교해 '붙여넣기' 한 자료가 있는지 식별한다. 전 세계 1만5000개 교육 기관에 서비스를 제공한다는 이 기업은 2019년 17억5000만달러(약 2조2659억)에 인수됐다. 지난달에는 AI 탐지 부속 프로그램을 출시하기도 했다.(교사가 해당 프로그램의 사용을 거부할 권한은 없다.) 이처럼 AI 챗봇과 같은 기술을 사용해 AI 챗봇에 대응하는 방법이 점점 더 주류로 자리 잡고 있다.

AI 챗봇의 등장 후 처음 맞이하는 봄 학기가 마무리되는 가운데, 턴잇인의 새로운 소프트웨어는 부정행위를 식별해 쏟아내고 있다. 이 과제는 "18% AI"고, 저건 "100% AI"라면서 말이다. 하지만 이런 수치가 정말로 무엇을 의미하는지 명확히 말하기란 놀랍게도(그리고 어처구니없게도) 참 어렵다. 내가 들은 '100% AI' 사례에서 학생들은 챗GPT나 다른 AI 도구가 모든 작업을 대신해 주진 않았다고 주장했다.

하지만 턴잇인은 이 경우, 해당 에세이의 100%, 그러니까 모든 게 컴퓨터 생성 문장이라는 것을 시사한다고 했다. 게다가 이건 98% 정확도로 나온 판단 결과라고 한다. 다만 턴잇인 대변인은 문법 검사기나 자동 번역기 등 "다른 컴퓨터 지원 시스템을 사용해 생성된 텍스트"는 위양성(僞陽性) 판정을 내리기도 하며, 일부 '실제로 쓴' 글도 AI 생성 글과 유사할 수 있다는 점을 이메일로 인정했다. "어떤 이들은 단순히 매우 예측 가능한 방식으로 글을 씁니다." 대변인의 말이다. 이 모든 사항을 고려해도 회사가 주장하는 98% 정확도가 나오는 걸까?

교수진은 학생들에게 과제의 장기적인 이점을 이해시키기 위해 고민이 많다. 하지만 그들의 업무는 점점 더 어려워지고 있다. "완전히 의욕을 잃게 됐어요." 플로리다의 한 영문학 강사가 AI 부정행위에 대해 한 말이다. "작년 9월만 해도 내 일을 사랑했는데, 올해 4월에는 완전히 그만둘 결심을 했습니다." (직업 관련 영향을 줄 수 있기에 해당 교사의 이름이나 고용주 정보는 보호차 공개하지 않는다.) 이 강사는 논문 작성, 참고 문헌, 개요 및 에세이 작성과 같은 전형적인 글쓰기 과제를 맡고 있다. 그러나 그는 AI가 교사와 학생 사이에서 무의미한 군비 경쟁을 일으킨다고 느끼고 있다. "챗GPT 같은 도구로 인해 학생들은 이런 글쓰기 능력 개발에 관심을 가질 이유가 없다고 생각합니다." 학생들이 이전 학기에 챗GPT로 과제를 끝마쳤다고 인정한 뒤에는 의문에 빠졌다.(어떤 학생의 경우 과제를 죄다 그렇게 했다.) 학생들이 어쩌면 읽지도 않았을 수도 있는 자동화 도구로 작성된 과제 채점에 시간을 낭비해야하는지 말이다. 무의미하다는 감정이 그의 강의에도 영향을 미쳤다. "무너지기 일보직전이었죠. 전 학생들을 가르치는 걸 사랑했고 교실에서의 시간을 즐겼지만, 챗GPT로 모든 게 의미가 없어지는 느낌이에요."

그가 말하는 손실은 '학문적 정직성'(academic integrity)이 뜻하는 것보다 더 깊고 본질적인 차원에서 벌어진다. 학생과 교사 사이의 특정한(어쩌면 쇠퇴하고 있는) 관계다. "AI 때문에 교실은 이미 제가 알고 있던 그런 교실이 아니에요." 이 관점에서 볼 때 AI는 미래의 전령이 아니라, 재정 지원 붕괴, 총기 폭력, 정부의 과도한 개입, 경제적 쇠퇴, 학력주의 등으로 이미 존속이 어려웠던 교육자라는 직업에 대한 최후의 결정타다. 그 암울한 상황에서 신기술이 도래하자 학업이란 건 쓸모없는 것처럼 느껴지며, 가르침이나 배움을 위한 게 아니라 기계를 돌리는 작업처럼 돼 버린다.

교육계를 떠나면 무얼 할 생각인 걸까, 나는 궁금해서 물어봤다. 답은 자명했다. 다른 선택지가 뭐가 있겠는가. 그는 프로그램 개발자가 되려 한다.

(계속)

PADO 웹사이트(https://www.pado.kr)에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.