챗GPT와 대학 교육, 카네기멜런 인과관계 연구자가 말하는 AI 사용 기준과 교육 개혁

핵심 메시지

• 미국 한 대학에서 AI로 부정행위를 한 학생들이 교수에게 보낸 사과 메일마저 AI로 작성해 문장이 거의 똑같았다는 사건이 이야기의 출발점이다.
• 영국 리딩대 실험에서 챗GPT-4로 제출한 답안의 94%가 적발되지 않았고 사람보다 높은 점수를 받았으며, 추상적 추론이 필요한 3학년 시험에서만 사람이 앞섰다.
• 카네기멜런대 쿤 장 교수는 AI 사용을 금지할 것이 아니라 '자신을 성장시키는 목적'으로 쓰는지를 기준으로 삼아야 한다고 말하며, 자기 수업에서는 구술 시험으로 확인한다.
• AI를 잘못 쓰면 개인과 사회가 갈라진다는 경고도 나온다. 어떤 사람은 더 똑똑해지고 어떤 사람은 도구에 종속돼 스스로 판단할 힘을 잃는다는 것이다.
• 장 교수의 연구 주제인 인과관계는 예측을 넘어 '왜'와 '무엇을 바꾸면 되는가'를 다루며, 그는 이것이 의사결정의 핵심이자 대형 모델이 아직 부족한 영역이라고 본다.

쉽게 이해하기

카네기멜런대 AI-SDM 연구소가 만드는 팟캐스트 'AI IRL'의 이 회차는 작은 사건 하나로 문을 연다. 일리노이대 어배너-섐페인의 데이터 사이언스 입문 수업에서 학생들이 AI로 부정행위를 했고, 적발된 뒤 교수에게 사과 메일을 보냈다. 그런데 '진심으로 사과드린다'는 문장이 메일마다 거의 그대로 반복됐다. 사과문마저 AI가 쓴 것이었다.

진행자는 이어 영국 리딩대가 자기 학교 시험 체계를 상대로 진행한 실험을 소개한다. 챗GPT-4로 만들어 제출한 답안의 94%가 적발되지 않았고, AI 답안은 사람 학생보다 꾸준히 높은 점수를 받았다. 사람이 앞선 것은 더 추상적인 추론을 요구하는 3학년 시험뿐이었다. 문제는 학생이 AI로 부정행위를 하느냐가 아니라, 이미 달라진 환경에 교육이 어떻게 적응할 것이냐로 옮겨 갔다는 것이다.

대학들의 대응은 제각각이다. 오하이오 주립대는 모든 전공의 학부 필수 과정에 기초 AI 교육을 넣는 'AI 활용 역량' 계획을 시작했고, 듀크대는 자체 AI 도구 묶음을 만들고 구성원 전원에게 챗GPT 접근권을 제공한다. 카네기멜런의 에벌리 센터는 2023년 10월부터 생성형 AI가 학생에게 미치는 영향을 측정하는 연구 사업을 운영하고 있다. 반면 교육자들의 진단은 훨씬 갈린다. 기본적인 AI 사용조차 인지 능력을 위협한다는 주장이 있는가 하면, 문해력은 이미 지난 시대의 것이라며 소수 엘리트 기관 밖에서는 학생에게 책을 읽힐 이유가 없어질 것이라는 극단적인 전망도 나온다.

이 대목에서 카네기멜런대 철학과·머신러닝과에 함께 몸담고 있는 쿤 장 교수가 등장한다. 그는 지금도 챗GPT로 쓴 답안을 알아보기는 어렵지 않다고 말하면서도, 지난해 자기 수업에서는 오히려 AI 사용을 권장했다고 밝힌다. 대신 구술 시험을 함께 봤다. 결과물을 AI가 만들었더라도 그 결과에서 학생이 무언가를 배웠는지를 직접 확인하겠다는 것이다. 그의 기준은 단순하다. 자신을 더 낫게 만드는 목적으로 쓴다면 써도 좋다는 것이다.

'자신을 낫게 만든다'는 기준이 모호하지 않냐는 질문에, 장 교수는 교육의 목적으로 되돌아가야 한다고 답한다. 문제를 찾아내고 풀어내는 능력, 그리고 독립성과 자신감이다. AI에 지나치게 기대면 전기가 끊겼을 때 글 한 편 쓰지 못하는 상태가 되고, 더 나아가 사회가 갈라진다고 그는 경고한다. 어떤 사람은 AI를 도구로 삼아 더 유능해지지만, 어떤 사람은 도구에 종속돼 그 일부가 되어 간다는 것이다. 반대로 목적이 분명하다면 AI만큼 독립성을 빠르게 키워 주는 수단도 없다고 그는 본다.

교육 구조 자체를 바꿔야 한다는 제안도 나온다. 지금은 한 과목에서 정작 필요한 일부 단원만 쓸모가 있는데도 전 과정을 통과해야 한다. 장 교수는 여러 과목에 흩어진 지식 단위를 자동으로 뽑아내 서로 어떻게 이어지는지 정리해 두고, 학습자가 목표를 정하면 그에 맞는 경로를 따라가게 하는 방식을 그린다. 그러면 학습은 연구 과정과 비슷해진다. 스스로 질문을 던지고 AI의 피드백을 받아 다음 단계로 나아가는 방식이다.

대담 후반부는 대형 언어 모델이 실제로 무엇을 하는지로 옮겨 간다. 장 교수는 다음 토큰 예측이 텍스트 안의 의존 관계를 포착해 매끄러운 문장을 만들어 내지만, 그 추론 방식은 사람과 상당히 다르다고 설명한다. 사람은 개념을 계층으로 정리하고 새로운 것을 배워도 이전 지식을 잃지 않지만, 블랙박스 모델은 새로 미세조정하면 기존 능력이 손상될 수 있다. 그가 인과관계 연구에 매달리는 이유도 여기에 있다. 의존 관계를 전부 외우는 대신 'A가 B를 일으킨다'는 작은 모듈로 세계를 이해하면, 처음 보는 상황에서도 무엇이 달라졌는지만 짚어 설명할 수 있기 때문이다.

주요 인사이트

• AI로 쓴 사과문 사건이 보여 주는 것은 부정행위 자체가 아니라, 결과물만 보는 평가 방식이 더 이상 학습 여부를 가려내지 못한다는 사실이다. 장 교수가 구술 시험을 병행하는 이유도 결과물 대신 이해를 확인하기 위해서다.
• 'AI를 쓸 것인가'는 이미 지난 질문이라는 진단이 인상적이다. 장 교수는 자동차가 우리를 느리게 만든다고 말하지 않듯, 유용한 도구를 금지하는 대신 어떻게 쓸지에 대한 공개적인 토론이 필요하다고 말한다.
• AI 격차가 능력의 격차로 이어진다는 경고는 개인의 선택 문제로만 볼 수 없다. 같은 도구를 쥐고도 한쪽은 더 유능해지고 다른 쪽은 판단을 위임하게 된다면, 그 차이는 시간이 갈수록 벌어진다.
• '지루할 시간'이 사라진 것이 문제라는 지적도 나온다. 즉각적인 피드백을 주는 도구에서 잠시 떨어져 조용히 있을 때 비로소 스스로 더 나아가게 된다는 이야기다.
• 인과관계를 아는 것이 왜 효율적인지에 대한 설명이 명쾌하다. 요소들 사이의 의존 관계를 전부 외우는 것은 감당하기 어렵지만, 원인의 사슬을 알면 상황이 달라져도 바뀐 모듈 하나만 짚으면 된다.

자주 묻는 질문

관련 AI 소식