장대동 고3수학과외

부호표의 끝에서 결론이 바뀌는 순간

장대동 생활권의 도서관에서 고3수학과외 학습 내용을 정리하던 학생은 함수의 증가·감소를 묻는 문제를 풀며 도함수 부호표를 먼저 만들었다. 문제는 정의역이 [0,4]인 함수에서 \(f'(x)=(x-1)(x-3)\)의 부호를 조사하고, 함수의 최댓값과 최솟값 후보를 찾는 것이었다. 학생은 1과 3을 임계점으로 잡아 수직선에 오름차순으로 표시한 뒤, 각 구간의 부호를 계산했다.

부호는 \(0

부호가 아니라 후보의 범위를 먼저 고치다

풀이를 되돌릴 때 계산 전체를 다시 하지 않고, 정의역을 부호표 위에 먼저 겹쳐 적었다. \(x=1,3\)은 내부에서 도함수가 0이 되는 점이고, \(x=0,4\)는 문제에서 허용한 끝점이라는 사실을 따로 표시했다. 그다음 네 점을 원래 함수에 대입해 비교해야 한다고 정리했다.

예를 들어 \(f(x)=\frac{x^3}{3}-2x^2+3x\)라 두면 \(f'(x)=(x-1)(x-3)\)이다. 부호표에 따라 \(f\)는 \([0,1]\)에서 증가하고 \([1,3]\)에서 감소하며 \([3,4]\)에서 증가한다. 따라서 \(x=1\)에서는 국소 최댓값, \(x=3\)에서는 국소 최솟값이 생기지만, 닫힌 구간 전체의 최댓값·최솟값을 결정하려면 \(0,1,3,4\)를 모두 확인해야 한다. 실제 값은 \(f(0)=0,\ f(1)=\frac43,\ f(3)=0,\ f(4)=\frac43\)이므로 최솟값은 0, 최댓값은 \(\frac43\)이다. 끝점을 빼면 최댓값이 존재하는 위치를 놓칠 수 있었다.

내부 임계점은 도함수 부호변화로 판단하고, 닫힌 구간의 끝점은 정의역 조건 때문에 별도의 후보로 추가한다.

특히 학생은 “끝점에서도 도함수의 부호를 양쪽에서 비교해야 하는가?”라는 혼동을 보였다. 끝점은 양쪽 구간이 존재하지 않으므로 내부점처럼 부호변화를 판정하는 대상이 아니다. 끝점이라는 사실 자체가 후보가 되는 것이며, 최종 비교는 함수값으로 진행해야 한다. 이 구분을 표의 오른쪽 여백에 짧게 적어 두자 부호변화와 기울기, 경계 후보가 섞이지 않았다.

정의역의 모양을 바꾸어 다시 세우기

다음에는 해설을 덮고 정의역을 \((-2,2]\), 도함수를 \(g'(x)=(x+1)(x-1)\)로 바꾼 문제를 제시했다. 학생은 먼저 임계점 \(-1,1\)을 찾았지만, 곧바로 세 점만 비교하지 않고 정의역의 끝점을 확인했다. \(-2\)는 열린 끝점이므로 후보로 넣을 수 없고, \(2\)는 닫힌 끝점이므로 포함해야 한다고 말했다.

부호는 \(x<-1\)에서 양수, \(-11\)에서 양수이다. 따라서 \(g\)는 \((-2,-1)\)에서 증가하고 \((-1,1)\)에서 감소하며 \((1,2]\)에서 증가한다. 학생은 \(-1,1,2\)를 비교 대상으로 남기고 \(-2\)는 극한으로 접근할 뿐 실제 정의역의 점이 아니므로 제외했다. 숫자만 바꾼 문제가 아니라 끝점의 포함 여부가 달라졌는데도, ‘정의역에 실제로 포함된 경계만 후보로 둔다’는 판단을 유지한 것이다.

보기 없이 남은 판단을 확인하다

며칠 뒤 새로운 함수 \(h\)의 도함수 부호가 \((-\infty,2)\)에서 음수, \((2,5)\)에서 양수이고 정의역이 \([1,5]\)인 문제를 별도 표시 없이 풀게 했다. 학생은 먼저 2를 부호가 바뀌는 내부점으로 기록한 뒤, 정의역 양 끝 1과 5를 후보 목록에 추가했다. 이어 “2에서는 감소에서 증가로 바뀌므로 최솟값 후보, 1과 5는 닫힌 구간의 경계이므로 함수값을 직접 비교해야 한다”고 근거를 설명했다.

마지막으로 계산한 후보값을 원래 함수에 다시 대입하고, 부호표의 증가·감소 방향과 결과가 충돌하지 않는지 점검했다. 예전처럼 부호변화가 있는 점만 고르지 않고, 정의역의 시작점과 끝점의 포함 여부를 먼저 확인했다. 도함수 부호표는 구간의 기울기를 알려 주지만, 최댓값·최솟값의 경계 검증은 정의역 조건과 후보값 비교까지 끝내야 완성된다는 판단이 힌트 없이 유지되었다.