전주혁신도시 고3수학과외

경계에서 멈춰 선 이항계수 풀이

전주혁신도시 생활권에서 수능 문제를 복기하던 학생의 풀이에는 다음과 같은 식이 남아 있었다.

“nCk = nC(n-k)이므로 k가 어떤 값이든 같은 방식으로 처리한다.”

학생은 이항계수의 대칭성을 이용해 경우의 수를 빠르게 정리하려 했다. 예를 들어 \( \binom{n}{k} \)가 등장하면 \(k\)와 \(n-k\)를 바꾸어 계산이 쉬운 쪽을 선택했다. 그러나 계산에 들어가기 전 확인해야 할 선택조건, 즉 \(n\)과 \(k\)가 정수이고 \(0\le k\le n\)이라는 범위를 쓰지 않았다.

오답을 거꾸로 추적하니 최초의 문제는 계산이 아니라 경계 처리였다. \(k=n+1\)인 경우에도 일반적인 대칭식을 적용해 \(\binom{n}{n+1}=\binom{n}{-1}\)처럼 다루고 있었던 것이다. 이항계수는 보통 조합의 의미에서 \(0\le k\le n\)일 때만 선택할 수 있으며, 그 밖의 값은 문제에서 별도 정의가 없다면 경우의 수로 사용할 수 없다. \(k=0\), \(k=n\)에서는 각각 \(\binom n0=\binom nn=1\)이지만, \(k<0\) 또는 \(k>n\)은 같은 규칙으로 계산할 대상이 아니다.

계산보다 먼저 적은 한 줄

학생에게 틀린 계산을 전부 다시 하게 하지 않고, 오류가 시작된 식 옆에 다음 세 항목만 적게 했다.

• n, k는 정수인가?
• 0≤k≤n인가?
• 끝점에서 값이 따로 달라지는가?

그 뒤 일반구간 \(1\le k\le n-1\)과 끝점 \(k=0,n\), 그리고 범위를 벗어난 경우를 나누어 기록했다. 일반구간에서는 \(\binom nk=\binom n{n-k}\)를 사용할 수 있지만, 끝점은 실제 값 1을 직접 확인했다. 범위 밖의 후보는 대칭성으로 살려 두지 않고 먼저 제외했다. 선택조건과 경우의 수를 한 줄에 섞지 않자, 학생은 자신이 잘못 선택한 줄을 정확히 찾아냈다.

이 과정을 전주혁신도시고3수학과외에서 지도할 때도 강조하는 부분은 계산 속도가 아니라 후보의 생존 여부다. \(\binom{7}{r}\)가 포함된 식에서 \(r\)의 후보가 \(-1,0,3,7,8\)이라면, 먼저 \(0\le r\le7\)을 적용해 \(0,3,7\)만 남긴다. 이후에야 \(\binom70=1\), \(\binom73=35\), \(\binom77=1\)을 계산한다. 경계값을 나중에 확인하면 이미 잘못된 후보를 식에 넣고 결론을 만들 가능성이 커진다.

조건사건이 분모를 바꾼 변형

다음 복기에서는 단순한 조합값이 아니라 조건부확률 속에 이항계수가 들어 있었다. 상자에 빨간 공 3개와 파란 공 2개가 있고, 2개를 동시에 뽑을 때 빨간 공의 개수를 \(X\)라 하자. \(X=1\)이라는 조건 아래에서 두 공이 서로 다른 색일 확률을 묻는 문제였다.

학생은 전체 경우의 수 \(\binom52\)를 분모에 두고, 서로 다른 색을 뽑는 경우 \( \binom31\binom21 \)을 분자로 적으려 했다. 하지만 조건 \(X=1\) 자체가 이미 ‘서로 다른 색’이라는 사건이므로, 조건부 표본공간은 \(X=1\)인 경우만 남긴다. 이때 원하는 사건과 조건사건이 같아 확률은 1이다.

조건을 하나 추가하거나 삭제한 변형으로 판단을 확인했다. “적어도 빨간 공 한 개를 뽑았다”는 조건으로 바꾸자 분모는 전체 \(\binom52\)가 아니라, 빨간 공이 하나도 없는 경우를 제외한 \( \binom52-\binom22=9\)가 된다. 학생은 조건문을 상자에 표시한 뒤, 분모 옆에 ‘조건을 만족하는 표본공간’이라고 직접 적었다. 숫자만 바꾼 문제가 아니라 조건의 위치와 질문의 방향을 바꾼 문제였지만, 분모부터 다시 만드는 행동은 유지됐다.

문자 문제에서 드러난 최종 판단

마지막에는 \( \binom{m}{r} \)가 포함된 식에서 \(m\)이 자연수이고 \(r\)이 정수라는 조건만 제시했다. 학생은 곧바로 대칭성을 쓰지 않고, 먼저 \(0\le r\le m\)을 옆에 적었다. 이어 \(r=0\)과 \(r=m\)을 별도 후보로 표시하고, \(r=m+1\)은 조건 밖이라 제거했다.

풀이 중 사용하지 않은 정보에는 별표를 붙였다. 실제로 문제의 한 문장에 있던 “두 표현의 값이 같다”는 정보는 후보를 정한 뒤의 검산에는 필요했지만, 정의역을 결정하는 근거는 아니었다. 학생은 이 둘을 구분해 “조건이 후보를 정하고, 이항계수 계산이 후보의 값을 정한다”고 설명했다.

끝으로 \( \binom{m}{r}=\binom{m}{m-r} \)를 적용한 뒤에는 변환된 \(m-r\) 역시 \(0\le m-r\le m\)을 만족하는지 원래 조건에 다시 대입했다. 반례 \(m=4,r=5\)를 넣자 처음 식의 대칭성만으로는 유효한 조합이 되지 않는다는 사실도 스스로 확인했다. 마지막 검산에서 학생이 남긴 세 줄은 다음과 같았다.

• 조건으로 가능한 r의 범위를 먼저 확정한다.
• 끝점과 범위 밖의 값을 일반식과 분리한다.
• 대칭 변환 뒤 후보를 원래 조건에 다시 넣는다.

새 문제에서도 이 세 단계가 힌트 없이 반복되면서, 이항계수의 경계 검증이 단순 암기가 아니라 풀이의 출발점으로 자리 잡았다.