AI 안썼는데 억울한 적발사례도 속출
“피할 수 없는 AI, 활용법 교육해야”
미 대학가에서 생성형 인공지능(AI)을 이용해 과제를 해결하는 학생들과 이를 적발하려는 학교 측이 전쟁을 벌이고 있다.
대학은 'AI 탐지기'를 동원해 학생들의 부정행위를 적발하고 있지만, 최근에는 이러한 탐지 기능을 사실상 무력화할 수 있는 '회피용 AI'까지 등장했다.
미 대학가에 등장한 생성형 AI '휴머나이저'(humanizer)는 이름 그대로 인간이 쓴 것처럼 글을 수정해주는 AI다. 휴머나이저가 과제물을 스캔하고 수정방향을 제시하면 사용자가 그에 맞춰 글을 수정하는 방식인데, 이렇게 수정된 과제물은 AI 탐지기에 걸리지 않는다고 NBC는 전했다.
턴틴·GPT제로 등 AI 탐지 전문기업들은 이러한 신종커닝에 대응해 학생들의 브라우저 검색 기록이나 글쓰기 기록을 추적할 수 있는 기능을 제공한다.
하지만 이에 맞서 일부 휴머나이저는 추적을 피하기 위해 수정문구를 타이핑해주기까지 한다.
학생들이 AI를 사용하는 경우 사실상 적발이 어렵고, 반대로 AI를 사용하지 않았는데 잘못 적발당하는 경우도 발생한다는 게 전문가들의 분석이다.
특히 문장 패턴이 반복적이고 정형화된 표현을 사용하는 비영어권 출신 학생들은 억울하게 AI를 썼다고 지목당하는 경우가 많다.
샌디에이고 캘리포니아대에서 AI 탐지 기술을 연구하는 스페인 출신 대학원생 알단 크레오는 "제대로 글을 쓰면 오히려 AI를 썼다는 소리를 듣는다"며 AI 탐지기를 피하기 위해 일부러 철자 실수를 고치지 않거나, 잘못된 문장 구조를 수정하지 않은 채 과제를 제출한다고 NBC에 말했다.
버지니아주 리버티대 온라인 과정 학생이었던 브리트니 카는 AI를 사용했다는 이유로 과제에서 낙제점을 받은 뒤 학교를 그만뒀다고 말했다. 그는 AI를 쓰지 않았다는 증거로 손으로 쓴 노트와 이메일 캡처, 교수와 주고받은 메시지 등을 제출했으나 결국 성적을 복구하지 못했다고 한다.
일각에서는 이처럼 잘못된 'AI 양성 반응'을 방지하기 위해 대학의 AI 탐지기 사용을 금지해야 한다는 주장도 나온다.
지난해 뉴욕 버펄로대에서는 학교 측에 AI 탐지기 사용을 중단할 것을 촉구하는 온라인 청원이 등장해 학생 1,500여명이 서명하기도 했다.
휴머나이저 개발 기업 퀼봇의 에릭 왕 연구 부문 부사장은 "교육자들은 점수를 깎는 데만 급급하기보다 학생들이 어떻게 AI를 활용할지, 어떻게 하면 인간성과 창의성을 잃지 않고 기술을 사용할 수 있을지를 가르쳐야 한다"고 말했다.
