(CHI 2024 논문 리뷰) 초등학생을 대상으로 한 교육과정에 생성형 AI를 쓰겠다고?

시작해 봅시다.

교육 및 학습과정에 적용할 만한 새로운 기술들이 많이 제시되어 왔지만, 대체로 기대에 미치지 못했습니다. 특히 개인화된 학습 플랫폼은 학습과정의 복잡도, 가르치는 과정의 높은 난이도, 알고리즘의 품질 부족 등에 의해 만족스럽지 못했던 것이 사실입니다.

그런데 생성형 AI 시스템이 발전하면서, 이러한 시스템들이 보다 자연스럽고 편안한 인간-AI 상호작용을 제공할 수 있을 거라는 기대가 커졌습니다. 예를 들어, 성인 작가들의 글쓰기 과정을 돕는 애플리케이션들이 긍정적인 효과를 냈다는 결과들이 제시되기도 했지요. 그러나 이러한 결과들도 아직 논란의 중심에 있으며, 특히 어린 연령의 사용자를 대상으로 할 때에도 적합한 지 확인하기 위해서는 추가적인 연구가 반드시 필요합니다.

훌륭한 논문

이 글에서는 2024년도 CHI에서 발표된 “Teachers, Parents, and Students’ perspectives on Integrating Generative AI into Elementary Literacy Education“ 라는 논문의 내용을 소개합니다. 이미 아시겠지만, CHI는 Human-Computer Interaction 분야에서 최고의 권위를 가지는 국제학회입니다.

이 논문에서 하고자 하는 말은

초등학생들의 학습과정에 개입하는 것은 아이들의 미래에 큰 영향을 미칠 수 있습니다. 긍정적인 영향, 부정적인 영향 모두 미칠 수 있지요. 따라서 초등학생들을 대상으로 한 교육에 생성형 AI를 통합하는 과정에서는, AI의 기술적인 측면과 어린 학생들의 학습 과정의 특성을 반드시 모두 고려해야 합니다. 

이러한 필요성을 염두에 두고, 이 논문은 초등학생을 대상으로 한 읽기 및 쓰기 교육에 생성형 AI를 활용하는 것에 대해 교사, 학부모, 학생들이 보인 반응들을 분석하였습니다. 워크숍 및 인터뷰를 통해 데이터를 수집하였고, 생성형 AI의 활용성과 한계, 그리고 서비스를 설계할 때 고려해야 할 사항들을 제시했습니다. 

이 논문의 목표는 생성형 AI를 활용하는 것에 대한 교사, 학부모, 학생들의 생각을 전체적으로 이해하여 초등학생의 글쓰기 교육과정에 안전하게 적용할 수 있는 AI 기반 교육 애플리케이션을 설계할 수 있도록 하는 것입니다.

—> 매우 훌륭한 목적으로 수행한 연구가 아닐 수 없습니다. 특히, AI 디지털 교과서와 관련한 여러 논란이 현재진행형인 한국의 교육계에 시사하는 바가 아주 큽니다.

실험 방식

이 논문에서 채택한 실험 방식을 요약하면 다음과 같습니다.

• 초등학생들에게 특정 주제를 주는 대신 주제의 제한없이 글을 쓰게 한다.
• 초등학생들에게 생성형 AI(텍스트-이미지 생성기와 LLM 챗봇)를 사용하면서 글을 쓰게 한다.
• 초등학생들이 글을 쓰는 동안 학생 및 학생의 부모와 Semi-structured interview를 진행하고 모든 인터뷰 내용은 녹음한다. 
• 초등학생들이 작성한 결과들을 모두 기록한다.

참가 학생들에게는 다음과 같은 Seed 질문이 주어졌습니다.

• 글을 쓰는 과정에 AI를 사용하는 것에 대해 좋은 점과 싫은 점은 무엇인가요?
• AI가 유용하다고 생각하나요?
• AI가 어떻게 도움이 될 수 있을까요?

참가 학생의 부모에게는 다음과 같은 Seed 질문이 주어졌습니다.

• 자녀가 AI를 사용하는 것에 대한 전반적인 인상은 어떻습니까? 
• AI가 자녀의 학습에 어떤 영향을 미친다고 생각하십니까?
• 자녀가 AI를 사용하거나 AI에 대해 배우기를 원하십니까?

주요 결과

교사들의 반응

교사들이 생성형 AI의 활용과 관련하여 보인 반응들을 요약하면 다음과 같습니다.

(1) 학생들은 앞으로 이러한 디지털 기술들이 필수적으로 활용되는 사회에서 성장할 것이다.

(2) 아직은 AI가 인간과의 대화에 완전히 통합되지는 못했으나 아이디어를 브레인스토밍하는 데에는 꽤 유용하다.

(3) 앞으로 이러한 시스템을 교육 과정에 통합하는 것도 충분히 긍정적이다.

(4) 안전하고 건강한 생성형 Al의 사용법을 학생들이 배울 수 있도록 도울 필요가 있다. 이를 위해서는 교사들이 먼저 생성형 AI의 작동법과 활용 범위를 제대로 파악해야 한다.

(5) 기존의 교육과정을 AI를 기반으로 한 과정으로 완전히 대체하기 보다는 보조적 도구로만 활용하여야 한다.

학부모들의 반응

학부모들이 생성형 AI의 활용과 관련하여 보인 반응들을 요약하면 다음과 같습니다.

(1) 생성형 AI는 새로운 형태의 게임이나 장난감처럼 보이기도 한다.

(2) 초등학생들로 하여금 생성형 AI의 안전한 사용법을 반드시 알게 해야 한다.

(3) 생성형 AI가 초등학생들의 창의적 사고를 제한할 가능성도 있다.

(4) 학부모들에게 생성형 AI를 먼저 사용해 보고 평가할 수 있는 기회가 주어져야 한다.

이것들 외에, 부모가 새로운 기술을 자녀들에게 소개하는데 있어서 자신감이 부족해 보이기도 했는데, 기술이 어린 세대에 어떤 영향을 미칠 지 상상하는데 어려움을 겪은 것이 그 원인일 수 있습니다.

초등학생들의 반응

초등학생들이 생성형 AI의 활용과 관련하여 보인 반응들을 요약하면 다음과 같습니다.

(1) 생성형 AI는 똑똑한 존재인 것 같다.

(2) 학습과정에서 생성형 AI가 제시한 다양한 옵션들을 선택할 수 있기 때문에 더 나은 아이디어를 반영하는데 있어서 큰 도움이 된다.

(3) 생성형 AI가 내가 의도한 대로 콘텐츠를 생성하지 않는다.

(4) 생성형 AI의 출력이 무작위적으로 나타나기도 한다.

시스템을 시작할 때에는 지시와 맥락의 부족으로 인해 초등학생들이 어려움을 겪기도 했으나 적절한 지침을 제공받은 후에는 시스템을 잘 활용하였습니다.

생성형 AI는 분명 교육적 이점을 가진다.

생성형 AI는 다양한 수준의 어휘와 구조를 가진 문장을 생성할 수 있기 때문에, 초등학생의 역량을 고려하여 멘토 텍스트를 효율적으로 생성할 수 있습니다. 이것은 교사들이 초등학생들의 역량 수준에 맞춘 교육 자료를 생성하기 위해 생성형 AI를 사용할 수 있음을 의미합니다. 또한 초등학생들이 글을 쓰는 과정에서 학생의 관심사와 배경을 고려한 즉각적인 피드백을 제공할 수 있습니다. 인간 교사가 가지는 제한된 지식, 경험과 문장력, 어휘력에서 오는 한계를 극복할 수도 있습니다. 이러한 점들은 잘 쓰여진 문장들을 읽고 직접 사용하는 것에서부터 글쓰기 과정이 시작한다는 점에서 의미가 있습니다.

초등학생들에게 다양한 아이디어를 제공하고 프로토타입을 신속하게 생성하여 아이디어를 확장하는 데 도움을 줄 수 있습니다. 초등학생들은 생성형 AI가 제안한 것을 모티브로 하여 새로운 아이디어를 떠올리고 글쓰기 과정을 더욱 효율적으로 진행할 수 있습니다. 한두 문장만 쓰고 글쓰기를 끝내는 초등학생이 있을 수도 있지만 생성형 AI가 더 많은 세부 사항을 추가하도록 요청하면 초등학생들의 글쓰기를 향상시킬 수 있습니다.

예를 들어, “오, 당신은 ‘pretty’라는 단어만 사용했군요. 다른 방법으로 설명할 수 있나요? 당신의 의견에 대한 몇 가지 예를 제공할 수 있나요? 당신이 만든 캐릭터에 대해 더 설명할 수 있나요?”

문화적 배경이 다양한 자료를 바탕으로 도움을 주게 되면 문화적으로 보다 포용적인 교실을 만들고 문화 간 이해를 촉진할 수도 있습니다. 특히 다문화 가정에서 온 초등학생의 경우, 서로 간의 의사소통 격차를 해소하고 서로의 문화적 가치를 더 잘 이해하도록 장려할 수 있습니다.

그러나… 바로 활용하기에는, 아직 해결해야 할 과제들이 넘친다.

교사, 학부모, 초등학생들의 반응을 분석한 결과, 다음과 같은 과제들이 발굴되었습니다.

(1) 생성형 AI가 초등학생들의 독창성을 해치고 초등학생들이 자신의 생각을 잘못 표현하게 할 수 있다.

(2) AI를 활용한 결과는 순수하게 스스로 작성한 것이 아니라 외부의 도움을 받은 것이라는 인식과, AI 또는 AI를 만든 사람도 글쓰기 과정에 참여한 것과 마찬가지라는 도덕적 인식이 필요하다.

(3) AI를 활용한 결과에 대해 초등학생들이 충분히 이해하고 있는지 우려스럽다.

(4) 초등학생들이 스스로 생각하고 진행하면서 시행착오를 거치는 과정이 중요하기 때문에, 기반이 되는 기본 지식들을 AI를 사용하기 전에 미리 학습시켜야 한다.

(5) 생성형 AI는 편향된 데이터를 기반으로 만들어질 가능성이 높기 때문에, 부정확한 콘텐츠를 생성하여 초등학생들에게 제공할 수 있다. 학생들이 콘텐츠의 부정확성을 제대로 판단하기 어려울 수 있다.

(6) 검증된 자료를 통해 기초지식을 배우는 과정이 반드시 선행되어야 하며 사고능력과 비판능력이 생기기 전부터 AI를 사용하는 것에는 분명히 문제가 있다.

(7) 초등학생들이 만들어 낸 결과물의 아이디어, 문장, 단락, 단어 등이 스스로 작성한 것인지 생성형 AI가 만들어낸 것인지 구분하는 것이 어려울 수 있다. (실제로 실험 과정에서 생성형 AI가 출력한 결과를 초등학생들이 그대로 붙여넣는 경우가 있었다.)

(8) 글쓰기 과정에서 텍스트를 생성할 목적으로 생성형 AI를 쓰게 하기 보다는 초등학생들의 사고과정을 촉진하기 위한 질문을 하도록 시스템을 설계해야 한다.

(9) 초등학생들이 생성형 AI로 하여금 부적절한 응답을 하도록 유도하거나 생성형 AI가 스스로 비윤리적이거나 비논리적인 응답을 생성할 수도 있다. 따라서 이에 대비한 안전장치와 조정 메커니즘을 갖추어야 한다.

이러한 과제들은 초등학생들이 생성형 AI에 의해 수동적으로 끌려가지 않으면서 자신의 학습 과정을 스스로 통제할 수 있도록 초등학생과 AI 간의 상호작용을 설계할 필요성을 제기합니다.따라서 학생의 자율성을 존중하고, 적절한 지침과 지원을 제공하며, 학생의 연령대에 적합한 AI 기반 시스템을 개발하는 것이 반드시 필요하지요.

설계 시사점

이 논문에서는 생성형 AI를 교육에 안전하게 적용하기 위해 고려해야 할 다음과 같은 설계 시사점들을 제시하였습니다.

(1) 초등학생이 직접 작성한 문장들과 AI가 생성한 텍스트들을 분리하여 관리해야 한다. 이렇게 하면 텍스트 분석과정을 통해 AI에 대한 학생의 의존도를 평가할 수 있고 저작권 문제에 대한 해결책을 마련할 수 있다. 

(2) AI의 역할을 구체적으로 제한하여 초등학생들이 직접 주제와 캐릭터를 선택하고 독립적으로 글을 쓸 수 있게 해야 한다. 이 과정에서 상호작용 초기에 자연스러운 대화 형식으로 학생들에게 구체적인 맥락을 제공하고, 주제와 캐릭터를 선택할 수 있는 옵션을 제공하여 학생 중심 및 흥미 중심의 학습 경험을 지원하는 플랫폼을 설계해야 한다. 

(3) AI 역할과 범위를 학생의 연령대에 맞게 설계해야 한다.

(4) 교사가 AI 프롬프트를 적절히 조정하고 콘텐츠를 검토할 수 있게 하여야 한다. 생성형 AI와의 대화를 교육자 또는 부모가 쉽게 큐레이션하여 학생과 AI 사이의 안전한 상호작용을 보장할 수 있게 하기 위해 ‘교육자 뷰’를 설계해야 한다. 이를 통해 생성형 AI가 보일 수 있는 불확실성을 제어할 수 있게 해야 한다. 또한 이러한 “교육자 뷰” 인터페이스는 기술적 지식이 없는 교사와 학부모들도 쓸 수 있을 만큼 사용하기 쉬워야 한다.

(5) 교사와 초등학생들로부터 피드백을 수집하는 다양한 사용자 테스트를 거쳐 교사들의 고유한 언어와 정신 모델에 대한 이해를 얻어 시스템을 개선하고 교육 목적에 맞게 기능을 최적화해야 한다.

(6) 다차원의 글쓰기 평가 지표를 만들어야 한다. 이러한 지표에는 사용자가 시스템 내에서 시간 당 생성하는 글의 양을 의미하는 생산성, 텍스트가 등장인물, 사건, 장소 및 사물을 통해 이야기를 전달하는 정도를 의미하는 서사성, 텍스트의 구문 구조의 형태를 의미하는 구문 복잡성, 학생의 단어 선택의 세련됨과 구체성을 의미하는 어휘, 학생의 텍스트가 문법 규범을 준수하는 정도를 의미하는 문법적 정확성이 포함된다.

이 논문을 본 제 생각을 정리하면 이렇습니다.

(1) 글쓰기 교육과정에서의 교사의 역할에 대해 구체적으로 정의하고 이를 바탕으로 시스템의 동작을 설계해야 합니다. 

—> 생성형 AI가 교사의 역할을 넘어서거나 교사가 하지 않는 행동을 하면 안되니까요.

(2) 전문성을 갖춘 교사가 멘토 텍스트를 만드는 과정에서 생성형 AI를 활용하는 것은 좋으나 초등학생과의 직접적인 인터랙션에 생성형 AI가 개입하는 것에 대해서는 신중해야 합니다.

(3) AI를 안전하게 사용한다는 개념에 대해 명확한 가이드라인이 필요해 보입니다. 단순히 “조심해라”라는 수준에 머물면 안되고, 다음과 같은 사항들에 대한 구체적인 방법이 필요해 보입니다.

• 학생의 역량, 관심사, 배경 등을 판단할 구체적인 방법은 무엇인가? 또한 이러한 방법은 믿을 수 있는가?
• 학생들에 대한 판단 결과를 기반으로 제공해야 할 맞춤형 피드백을 생성하는 구체적인 방법은 무엇이며, 이 방법은 믿을 수 있는가?
• AI가 개입해야 할 정도와 개입해야 할 시점을 판단하는 기준은 무엇이며, 이 기준은 어떤 알고리즘으로 구현되어 시스템에 반영되는가?

이러한 사항을 고려해야 하는 이유는, AI의 개입이 지나칠 경우 AI가 일러준 대로 수동적으로 따라가기만 하는 초등학생들이 생길 수 있으며, AI의 개입이 지나치게 소극적일 경우 실효성의 문제가 발생할 수 있기 때문입니다.

(4) 제대로 된 AI 기반 교육을 하기 위해 교사들이 AI의 원리와 개념에 대해 어느 정도까지 알아야 하는가에 대한 명확한 가이드라인이 필요합니다. 

(5) 초등학생들에게 기반지식, 사고능력과 비판능력이 생긴 후부터 AI를 사용해야 한다면, 다음과 같은 사항에 대한 명확한 기준을 마련해야 합니다.

• 갖추어야 할 기반지식은 무엇인가?
• AI를 사용해도 괜찮은 시기는 언제부터이며, 이에 대한 근거는 무엇인가?
• 학생들이 AI의 출력결과에 대한 비판의식을 가지게 할 구체적인 방법은 무엇인가?

(6) 교사가 프롬프트를 적절히 통제한다는 개념은 결국 인간의 개입 여지를 확장하는 개념이며, 이것은 투명하고 품질 높은 시스템의 필요성을 의미합니다. 따라서 투명한 시스템을 만들기 위한 구체적인 방법이 필요합니다.

(7) AI에 대한 초등학생의 의존도를 평가할 구체적인 방법이 필요합니다.

• 예를 들면, AI의 개입 없이도 스스로 적절한 수준의 글을 쓸 수 있는가, 자신이 쓴 글의 내용에 대해 정확하게 설명할 수 있는가 등을 평가할 수 있겠지요.

(8) AI를 똑똑한 존재로 인식하는 학생들이 있다는 것은 AI를 맹목적으로 따라할 가능성이 있다는 것을 의미하기 떄문에 이러한 경우가 생기는 것을 방지하기 위한 구체적인 방법이 필요합니다.

(9) 연령과 과목에 맞는 AI 도구를 설계하는 것이 중요합니다. 특히 어린 학생일 수록 조심스러운 접근이 필요합니다.

마무리

잘 훈련된 교육자가 있고 교육에 참여할 시간이 충분한 경우에는 굳이 생성형 AI 기반 시스템을 쓸 이유가 없다는 주장도 있다고 합니다. 결국 이 주장은 어린 학생들을 대상으로 한 교육과정에서까지 첨단 기술을 활용한 효율성을 추구하는 것이 옳은가에 대한 근본적인 의문을 제기합니다. 

물론, 치밀하게 잘 설계된 시스템을 구현하여 적용한다면 좋은 효과를 볼 수도 있겠지요. 그러나 좋은 시스템은 짧은 시간에 만들어지지 않습니다. 시간을 두고 신중하게 만들어 나갈 필요가 있습니다. 이러한 시스템이 어린 학생들의 미래를 좌지우지할 수도 있으니까요.