데일리 · 기사 04 · 6 분 읽기
구글·Eedi, 학생 1179명 AI 수학 튜터 연구…단기 과제와 종합시험 결과 갈려
10월 29일 연구 공개 · 10월 30일 JST 기술 보고서 대조
요약·개요
구글과 수학 학습 플랫폼 Eedi의 영국 실험은 학생 1179명을 네 조건에 무작위 배정했습니다. AI 메시지는 전문가가 보내기 전에 검토했습니다. 단기 과제의 성과가 10주 종합시험의 전반적 우위로 이어지지는 않았습니다.
틀린 수학 문제에 정답 대신 설명을 붙여 주는 AI는 실제 학습에도 도움이 될까요. 구글은 10월 29일 수학 학습 플랫폼 Eedi와 진행한 영국 학교 연구를 공개했습니다. 이 실험은 학생에게 AI를 바로 연결한 수업이 아니라, 전문가가 AI 메시지를 매번 검토한 환경의 결과입니다.
핵심 팩트
기술 보고서는 영국 공립 중등학교 10곳의 학생 1179명을 네 조건에 무작위 배정했습니다. 학습 활동은 10주로 설계됐고 실제 학교별 수업은 7~10주, 주당 약 30~50분이었습니다. 방학·마지막 평가를 포함한 전체 달력 기간은 12주였습니다. 연구팀은 학교 과제, 중간 퀴즈, 외부에서 실시·채점한 Star Maths 종합시험을 따로 비교했습니다. 구글 발표 · Google·Eedi 기술 보고서
AI의 두 조건은 플랫폼 안의 단기 학습 지표에서 사람 튜터와 비슷한 성과를 보였지만, 10주 종합시험에서는 기본 지원보다 전반적으로 낫다는 결과가 나타나지 않았습니다. 이는 연구팀이 보고한 실험이며, 일반 Gemini 앱의 모든 학습 사용법을 평가한 결과는 아닙니다.

1. 무엇을 누구와 비교했을까
Eedi의 문제는 오답 선택지가 흔한 개념 오류를 가리키도록 설계됐습니다. 가령 1/2+1/3을 2/5라고 답했다면, 분자끼리·분모끼리 더한 오해를 의심할 수 있습니다. 같은 크기의 조각으로 맞춰 3/6+2/6=5/6이 되는 이유를 질문으로 풀어 주는 식입니다. 이는 원리를 설명하기 위한 가상 예시이며, 실험의 실제 문제나 AI 답변을 재현한 것은 아닙니다.
무작위 배정은 출발 성적이나 학습 성향이 한 조건에만 몰리지 않도록 학생을 나누는 방법입니다. 각 학생은 같은 조건으로 학습했고, 오답 뒤 받는 지원이 다음처럼 달랐습니다.
| 배정 조건 | 오답 뒤의 지원 | AI가 쓰는 정보 |
|---|---|---|
| 기본 지원 | 준비된 동영상·연습·오류별 힌트 | AI 튜터 없음 |
| 사람 튜터 | 수학 전문가와 일대일 대화 | AI 없이 전문가가 작성 |
| 문제 맥락형 AI | Gemini가 대화 초안 작성, 전문가 검토 | 현재 문제·오답의 개념 오류 |
| 학습 이력형 AI | 같은 검토 방식에 학습 이력 추가 | 학습단위별 성취·속도·개념 오류 등 |
- 배정 조건
기본 지원
- 오답 뒤의 지원
- 준비된 동영상·연습·오류별 힌트
- AI가 쓰는 정보
- AI 튜터 없음
- 배정 조건
사람 튜터
- 오답 뒤의 지원
- 수학 전문가와 일대일 대화
- AI가 쓰는 정보
- AI 없이 전문가가 작성
- 배정 조건
문제 맥락형 AI
- 오답 뒤의 지원
- Gemini가 대화 초안 작성, 전문가 검토
- AI가 쓰는 정보
- 현재 문제·오답의 개념 오류
- 배정 조건
학습 이력형 AI
- 오답 뒤의 지원
- 같은 검토 방식에 학습 이력 추가
- AI가 쓰는 정보
- 학습단위별 성취·속도·개념 오류 등
네 조건 모두 학생이 직접 누르는 도움 요청 버튼으로 사람 튜터에게 질문할 수 있었습니다. 따라서 비교한 차이는 오답 뒤 자동으로 연결되는 지원이지, 사람 도움의 완전한 유무가 아닙니다.
AI는 Eedi 안에서 호출됐고, 시험 기간 중 사용 모델도 갱신됐습니다. 하나의 고정 모델을 일반 채팅에 넣고 비교한 실험으로 읽으면 실제 수업 구성이 빠집니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
기본 지원도 도움이 되는 자료인데, 왜 그것과 비교했어?
포켓 노트이미 쓰는 학습 지원 위에 일대일 대화가 어떤 차이를 더하는지 보려는 비교야. 아무 도움도 없는 학생을 기준으로 삼은 실험은 아니야. 학교나 학습 서비스의 성과를 볼 때도 비교 대상이 무엇을 받았는지 알아야 해.
2. 94.7%는 학생 정답률이 아닌 초안 승인율
AI 조건에서는 학생에게 메시지를 보낼 때마다 수학 전문가의 승인이 필요했습니다. 전문가는 그대로 승인하거나 다시 생성시키거나 직접 고쳐 쓸 수 있었습니다. 학생의 다음 답이 오면 새 초안을 만들고 다시 검토하는 대화가 이어졌습니다.
%% 학생에게 도달하기 전의 검토 · Google·Eedi 연구의 AI 조건
flowchart TD
A["학생의 오답·다음 질문"] --> B["Gemini가 설명 초안 작성"]
B --> C["전문가가 승인·재생성·수정"]
C --> D["승인된 메시지 전달<br/>학생이 다시 풀이"]전문가가 판정한 초안 94385개 중 89406개를 수정 없이 승인했습니다. 비율은 약 94.7%이며, 나머지 4979개는 재생성하거나 수정했습니다. 먼저 생성됐지만 학생의 새 메시지 때문에 교체돼 검토 전에 제외된 초안도 있어, 전체 생성 수와 검토 판정 수를 구분해야 합니다.
| 집계 범위 | 초안 수 | 의미 |
|---|---|---|
| 전체 생성 | 114935개 | 검토 전에 새 초안으로 바뀐 경우도 포함 |
| 전문가의 판정 대상 | 94385개 | 승인율의 분모 |
| 수정 없이 승인 | 89406개 · 약 94.7% | 검토자가 그대로 전달하도록 허용 |
| 재생성·수정 | 4979개 · 약 5.3% | 전문가가 개입한 판정 |
- 집계 범위
전체 생성
- 초안 수
- 114935개
- 의미
- 검토 전에 새 초안으로 바뀐 경우도 포함
- 집계 범위
전문가의 판정 대상
- 초안 수
- 94385개
- 의미
- 승인율의 분모
- 집계 범위
수정 없이 승인
- 초안 수
- 89406개 · 약 94.7%
- 의미
- 검토자가 그대로 전달하도록 허용
- 집계 범위
재생성·수정
- 초안 수
- 4979개 · 약 5.3%
- 의미
- 전문가가 개입한 판정
고양이와 풀어보기 Q&A
- 고양이 연구원
전문가가 확인했다면 수학 오류는 없었어?
포켓 노트사후 대화 감사에서도 문맥에 따른 오류가 관측됐어. 승인율은 초안을 그대로 보낼지 판단한 비율이고, 수학 정답률은 별도로 봐야 해. 전문가들은 계산만이 아니라 말투·설명 단계·다음 문제로 넘어갈 시점도 조절했어.
3. 가까운 과제의 성과가 종합시험과 달랐던 이유
설명을 듣고 같은 개념의 다음 문제를 푸는 것과, 여러 단원의 내용을 한 번에 시험하는 것은 측정 범위가 다릅니다. 연구팀은 어느 한 점수로 전체 학습 효과를 대표하지 않고 다음 수준으로 나누었습니다.
| 측정한 범위 | 무엇을 봤나 | 보고된 결과의 범위 |
|---|---|---|
| 플랫폼 안의 가까운 학습 | 오류 교정, 이어지는 관련 문제 | AI·사람 튜터가 기본 지원보다 좋은 성과 |
| 중간 교육과정 퀴즈 | 앞선 4주 주제의 8문제 | 튜터 조건이 대체로 높았지만 비교별 근거 강도는 다름 |
| Star Maths 종합시험 | 넓은 수학 교육과정, 시작·마지막 평가 | AI의 기본 지원 대비 전반적 우위는 관측되지 않음 |
- 측정한 범위
플랫폼 안의 가까운 학습
- 무엇을 봤나
- 오류 교정, 이어지는 관련 문제
- 보고된 결과의 범위
- AI·사람 튜터가 기본 지원보다 좋은 성과
- 측정한 범위
중간 교육과정 퀴즈
- 무엇을 봤나
- 앞선 4주 주제의 8문제
- 보고된 결과의 범위
- 튜터 조건이 대체로 높았지만 비교별 근거 강도는 다름
- 측정한 범위
Star Maths 종합시험
- 무엇을 봤나
- 넓은 수학 교육과정, 시작·마지막 평가
- 보고된 결과의 범위
- AI의 기본 지원 대비 전반적 우위는 관측되지 않음
연구팀은 가능한 이유 중 하나로 속도와 범위의 교환을 조사했습니다. 한 대화가 약 4~7분을 써서, 정해진 수업 시간에 다룬 학습단위가 줄었습니다. 10주 동안 완료한 수의 중앙값은 기본 지원 132단위, 사람 튜터 77단위, 두 AI 조건 각각 99단위였습니다. 중앙값은 학생별 수를 크기순으로 놓았을 때 가운데의 값입니다.
이 분석은 시험 결과 차이에 관한 설명 후보입니다. 학생 구성 등 다른 요인도 있어, 시간을 더 주면 반드시 종합 성적이 오른다는 보장은 아닙니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
종합시험의 차이가 없으면 짧은 과제의 개선도 의미가 없어?
포켓 노트가까운 개념을 이해한 변화와 넓은 범위의 성취는 각각 의미가 있어. 다만 한쪽의 결과로 다른 쪽까지 입증됐다고 말하면 안 돼. 교육 서비스의 ‘효과’라는 말 옆에서 무엇을 얼마나 오래 측정했는지 보면 돼.
4. 개인화 정보가 많으면 자동으로 더 나아질까
학습 이력형 AI는 문제 맥락형 AI보다 일관된 추가 이득을 보이지 않았다고 보고서는 설명합니다. 그러나 실제 구현에는 과거 튜터 대화의 메모가 다음 세션으로 전달되지 않는 오류가 있었습니다. 학습단위의 성취·속도·개념 오류는 전달됐지만, 설계했던 대화 이력 전체가 쓰인 것은 아닙니다.
| 확인할 부분 | 이번 연구에서 남겨야 할 조건 |
|---|---|
| 메시지의 전달 | 전문가가 매번 검토한 뒤 전송 |
| 개인화의 실제 입력 | 일부 학습 이력 사용, 이전 대화 메모 전달 오류 |
| 결과를 적용할 범위 | 이 학교·수업 시간·플랫폼 구성의 실험 |
- 확인할 부분
메시지의 전달
- 이번 연구에서 남겨야 할 조건
- 전문가가 매번 검토한 뒤 전송
- 확인할 부분
개인화의 실제 입력
- 이번 연구에서 남겨야 할 조건
- 일부 학습 이력 사용, 이전 대화 메모 전달 오류
- 확인할 부분
결과를 적용할 범위
- 이번 연구에서 남겨야 할 조건
- 이 학교·수업 시간·플랫폼 구성의 실험
이 결과를 모든 개인화가 소용없다는 결론으로 넓힐 수는 없습니다. 반대로 ‘학생 이력을 넣었다’는 기능 이름만으로 실제로 어떤 정보가 전달됐는지도 확인하지 않은 채 효과를 기대해서도 안 됩니다.
고양이와 풀어보기 Q&A
- 고양이 연구원
학부모나 교사는 AI 학습 서비스에 어떤 질문을 하면 좋을까?
포켓 노트누가 메시지를 검토하는지, 어떤 학습 이력이 실제로 쓰이는지, 성과를 어떤 평가와 기간으로 측정했는지 물어보면 돼. 연구용 Eedi 구성과 일반 Gemini 앱은 같은 사용 환경으로 보지 않아야 해. 이 발표는 모든 학생에게 새 튜터 제품이 제공됐다는 안내도 아니야.
마무리
설명 한 번과 넓은 배움을 함께 측정하기
이번 연구는 교사의 역할을 지운 AI보다, 초안을 검토하는 사람과 학생의 학습 속도를 함께 보여 줍니다. 좋은 설명이 다음 문제에 주는 도움과 넓은 교육과정에 남기는 성과를 따로 측정해야, AI가 바꾼 부분을 구체적으로 볼 수 있습니다.
출처
- 구글 발표blog.google
- Google·Eedi 기술 보고서services.google.com