② AI가 낸 답의 마지막 책임은 사람에게 있다

부제: Humans-in-the-Loop, 수업 어디에 판단의 자리를 둘 것인가

AI에게 학생 글 서른 편의 채점을 맡겼습니다. 결과를 열어 보니 한 학생의 점수가 이상합니다. 글은 좋은데 점수가 낮습니다. 읽어 보니 AI가 문단 구성을 기준으로 깎았는데, 그 아이는 일부러 한 문단으로 밀어붙이는 글을 썼습니다.

이 점수는 누구의 것입니까. AI가 매겼으니 AI의 것입니까. 그렇다면 그 점수를 학생에게 보낸 사람은 무엇을 한 것입니까.

이 질문에 답하지 않고는 AI 교육을 시작할 수 없습니다. 답은 하나입니다. 학생에게 닿은 점수는 교사의 것입니다. AI가 초안을 냈든 아니든, 보낸 사람이 책임집니다.

이 원칙을 Humans-in-the-Loop라고 부릅니다. AI가 생성하고 추천하고 채점하더라도, 그 결과가 실제로 쓰이기 전에 사람이 검토하고 결정하고 책임진다는 뜻입니다. 미국 교육부와 일본 문부과학성이 AI 교육 원칙을 세울 때 첫 자리에 둔 개념이기도 합니다.

교실에서 이 원칙은 세 지점으로 나타납니다. 생성 전에 무엇을 시킬지 사람이 정합니다. 생성 후에 결과를 사람이 읽고 고칩니다. 전달 전에 학생에게 줄지 말지를 사람이 결정합니다. AI는 가운데 한 칸을 맡을 뿐입니다.

AI 피드백을 학생 글에 그대로 붙여 보낸 교사가 있습니다. 서른 편이 한 시간 만에 끝났습니다. 다른 교사는 AI 피드백을 읽고 한 줄씩 고쳤습니다. 어떤 것은 지우고, 어떤 것은 "이 부분은 선생님 생각이 달라"라고 덧붙였습니다. 두 시간이 걸렸습니다.

학생이 받은 종이는 형식이 같습니다. 그러나 하나에는 판단이 들어갔고 하나에는 들어가지 않았습니다. 학생은 이 차이를 압니다. 몇 번 받아 보면 압니다. 판단이 빠진 피드백은 곧 읽히지 않습니다.

교사만의 이야기가 아닙니다. 학생에게도 같은 원칙이 적용됩니다. AI 답을 받은 학생은 그대로 쓸지 말지 정해야 합니다. 틀린 곳이 있으면 찾아 고쳐야 합니다. 고쳤으면 왜 고쳤는지 설명할 수 있어야 합니다.

AI 답을 그대로 제출한 학생과 "이 부분은 AI가 틀린 것 같아서 교과서를 보고 고쳤다"고 쓴 학생은 같은 도구를 썼지만 다른 일을 한 것입니다. 앞의 학생은 루프 밖에 있고, 뒤의 학생은 루프 안에 있습니다.

방법은 어렵지 않습니다. 활동지에 칸 하나를 더 만들면 됩니다. "AI 답에서 고친 부분과 이유." 이 칸이 있으면 학생은 답을 받은 뒤 반드시 한 번 멈춥니다. 고칠 것이 없다고 쓰는 학생에게는 "그러면 왜 맞다고 생각하는지"를 쓰게 합니다.

교사 쪽에서는 AI가 만든 자료를 학생에게 주기 전에 한 문장을 손으로 덧붙이는 습관이면 충분합니다. 그 한 문장이 교사의 판단이 들어갔다는 표시입니다.

이 원칙이 없으면 나머지가 무너집니다. 판단의 자리가 없으면 학생은 생각을 멈추고, 가드레일을 세울 근거가 없어지고, 검증할 이유도 사라집니다. 반대로 이 원칙 하나가 서면 나머지는 그 위에 올라갑니다.

그러면 판단의 자리를 비워 두면 무슨 일이 생기는가. 학생의 머릿속에서 어떤 단계가 사라지는가. 다음 편에서 다룹니다.

이 연재의 배경이 된 두 권의 책

『AI 플랫폼 학교를 바꾸다』 (정윤호, 석희철, 오재경, 이강현)

교육 현장에서 AI 플랫폼을 직접 만들고 운영하며 얻은 경험을 담았습니다.

『이제는 학부모다! AI시대 역량 있는 학부모 되기 (심화편)』 (임부현, 석희철 외)

AI 시대에 자녀를 위해 학부모가 길러줘야 할 단 하나의 역량을 이야기합니다.