금암동 고3수학과외

경계에서 달라지는 선택의 규칙을 끝까지 확인한 사례

전북대학교사범대학부설고등학교가 포함된 생활권에서 수능 순열과 조합 문제를 복기하던 학생은 정답만 보고 풀이를 거꾸로 추적했다. 일반적인 인원수에서는 맞아 보이던 식이 특정 선택 인원에서 갑자기 맞지 않는다는 점이 출발점이었다. 금암동고3수학과외 학습에서 다룬 이 장면은 계산 속도보다 선택조건의 경계를 먼저 확인하는 습관이 왜 필요한지를 보여 준다.

답에서 거꾸로 찾은 첫 갈림길

문제는 서로 다른 6명 중 r명을 뽑을 때 A 또는 B를 적어도 한 명 포함하는 경우의 수를 묻는 형태였다. 학생은 곧바로 “A를 포함하는 경우와 B를 포함하는 경우를 더하면 된다”고 생각해

2×C(5,r-1)

을 적었다. 그러나 A와 B를 동시에 뽑은 경우가 두 번 들어간다. 오답을 역으로 읽어 보니 계산 중간의 실수가 아니라, 첫 식을 세울 때 선택조건을 ‘둘 중 정확히 한 명’으로 바꿔 버린 것이 최초의 어긋남이었다.

특히 r=1에서는 이 식이 10이 되어 실제 답과 맞지만, r=6에서는 12가 되어야 한다고 착각했다. 모든 사람을 뽑는 경계에서는 A와 B가 반드시 함께 포함되므로, “적어도 한 명”이라는 조건은 자동으로 충족된다. 일반적인 나눠 세기 방식이 경계에서도 그대로 유지된다고 본 판단이 문제였다.

조건을 식 옆에 고정해 둔 수정

학생은 경우의 수를 계산하기 전에 선택조건을 두 갈래로 다시 적었다.

• 전체 선택: C(6,r)
• A와 B를 모두 제외한 선택: C(4,r)

따라서 원하는 경우는

C(6,r)-C(4,r)

이다. 첫 식의 근거는 “전체 선택에서 A와 B가 모두 빠진 경우만 제거한다”라고 한 문장으로 설명했다. 이때 r=5이면 C(4,5)=0이므로 답은 C(6,5)=6, r=6이면 C(4,6)=0이므로 답은 C(6,6)=1이다. 일반 구간과 끝 인원을 따로 떼어 계산한 것이 아니라, 제외할 수 없는 경계가 조합식 안에서 어떻게 처리되는지 확인한 것이다.

금암동과외 수업에서 학생은 표를 하나 만들어 r=1, 5, 6을 나란히 적었다. 일반적인 r=3만 계산했을 때는 보이지 않던 조건의 변화를 끝점에서 확인할 수 있었다. 계산 결과가 조건의 의미와 충돌하는지 먼저 묻고, 그다음에 수치를 대입하는 순서로 풀이 행동을 바꿨다.

조건의 위치를 바꾼 독립 문제

같은 숫자를 반복하지 않기 위해 문제를 바꾸었다. 이번에는 7명 중 r명을 뽑되 A와 B 중 정확히 한 명만 포함하고, r은 2 이상인 정수라고 했다. 학생은 이전 답을 기억해 적용하지 않고 조건을 먼저 분해했다.

A만 포함하는 경우는 C(5,r-1), B만 포함하는 경우도 C(5,r-1)이므로 답은

2C(5,r-1)

이다. 다만 r=7이면 A와 B 중 한 명만 포함하는 것이 불가능하다. 식에 r=7을 넣으면 C(5,6)=0이 되어 0이 나오지만, 학생은 이를 단순한 계산 결과로 넘기지 않고 “7명을 모두 선택하므로 두 사람 모두 포함된다”라고 조건에서 결론을 역추적했다. 반대로 r=2에서는 A 또는 B 한 명과 나머지 한 명을 고르는 것이므로 2C(5,1)=10으로 해석도 일치했다.

이번 변형에서는 문항의 조건이 ‘적어도 한 명’에서 ‘정확히 한 명’으로 바뀌었고, 선택 인원 범위도 달라졌다. 그럼에도 학생은 먼저 경계값 r=2와 r=7을 적고, 각 식이 어떤 경우를 세는지 설명한 뒤 일반적인 r에 들어갔다. 금암동고3수학과외 학습에서 확인하려던 판단이 문제의 숫자나 문장 순서에 의존하지 않고 남아 있는지 살핀 장면이었다.

힌트 없이 남은 확인 습관

마지막에는 결론이 먼저 제시된 역문제를 주었다. “7명 중 6명을 뽑아 A와 B 중 적어도 한 명을 포함하는 경우의 수가 7”이라는 답만 보고, 학생은 전체 경우 C(7,6)=7을 먼저 복원했다. 이어 A와 B를 모두 제외하려면 나머지 5명 중 6명을 골라야 하므로 제외 경우는 0이라고 설명했다.

예전처럼 대표적인 r=3만 붙잡지 않고, 조건이 가장 극단적으로 작동하는 끝점을 먼저 검사했다. 답을 맞힌 사실보다 “이 경계에서는 제외 사례가 존재하는가?”라는 질문이 스스로 나온 점이 최종 검증이었다. 이후 새로운 순열·조합 문제에서도 학생은 경우의 수를 바로 나누지 않고, 선택조건과 허용되는 정수 범위를 표시한 뒤 경계값에서 결론이 유지되는지 확인했다.