📝 평가·측정

AI 에이전트가 자동 채점을 어떻게 바꾸는가: 종합 설계부터 실험 검증까지

AI 에이전트가 자동 채점을 어떻게 바꾸는가: 종합 설계부터 실험 검증까지

학기 말이 다가오면 교실에는 채점해야 할 과제가 산더미처럼 쌓인다. 새벽까지 붉은 펜을 들고 있는 교사들의 모습은 익숙한 풍경이다. 그러나 학생들은 더 빠른 피드백을 원하고, 교사는 더 공정한 평가를 고민한다. 이 간극을 메우기 위해 인공지능이 나섰다.

인도네시아 스리위자야 대학교 컴퓨터공학과에서 진행된 이 연구는 에이전트 AI 기반 자동 채점 파이프라인을 설계하고 평가했다. 이 시스템은 OCR으로 학생 답안을 디지털화하고, LLM이 루브릭 기준에 따라 채점하며, 이메일로 피드백을 전송하고 성적부에 자동 등록하는 종단 간 과정을 자동화한다.

연구진은 다섯 가지 연구질문으로 시스템을 다각도로 평가했다. 첫째, 교사와 학생이 기존 수동 채점의 효율성·공정성·피드백 품질을 어떻게 인식하는지, 둘째 수동 채점의 한계를 보완하는 AI 설계 방안, 셋째 AI 시스템의 시간 절약 효과, 넷째 AI와 수동 피드백의 명확성·실행가능성·시적절성 비교, 다섯째 사용자가 AI 시스템의 공정성·투명성·사용용이성을 어떻게 평가하는지를 살펴봤다.

핵심 결과를 보면, AI 시스템은 처리 시간을 크게 단축하고 운영 비용을 낮추며 생산성을 향상시켰다. 특히 루브릭 기반 자동 채점은 일관된 기준을 적용해 인간의 주관적 편향을 줄이는 데 기여했다. 피드백 측면에서도 AI가 생성한 피드백은 명확성과 시적절성에서 수동 피드백과 유사하거나 더 나은 결과를 보였다.

그러나 한계도 뚜렷하다. AI의 공정성과 투명성에 대한 사용자 우려가 여전히 존재하며, 특히 창의적 서술형 답안에서 AI가 인간의 미묘한 뉘앙스를 포착하지 못할 수 있다는 점이 지적됐다. 또한 교사와 학생의 AI 수용도가 시스템 성공의 핵심 변수임에도, 이에 대한 심층적 분석이 아직 부족하다.

교육 현장에서 AI 채점을 도입하려면 다음을 실천해볼 수 있다. 먼저 객관식·단답형 등 구조화된 문항부터 AI 채점을 시범 적용해 보라. 둘째, 루브릭을 명확히 정의해 AI가 일관되게 평가할 수 있도록 하라. 셋째, AI 채점 결과를 교사가 검토하는 하이브리드 방식으로 시작해 점진적으로 자동화 비율을 높여가라.

출처: 📖 *Agentic AI for Automated Grading: System Design, Baseline Study, and Empirical Evaluation* | 논문 원문 ※ 이 기사는 교육학 연구를 바탕으로 작성되었습니다.