신방동 고3수학과외

합성함수 그래프에서 결론을 가르는 끝점

신방동의 생활권에서 수능 고3수학과외를 진행하던 중, 학생이 합성함수의 그래프 관계를 묻는 문제에서 멈췄다. 문제는 f(x)=|x-1|, g(x)=x+1일 때 함수 h(x)=f(g(x))의 그래프와 구간별 성질을 판단하는 내용이었다. 학생은 먼저 h(x)=|x|\를 얻고, 그래프가 원점에서 꺾인다는 점까지는 정확히 말했다.

그런데 이어진 조건이 “정의역이 -1≤x≤2일 때 h(x)의 최댓값과 최솟값을 비교하라”로 바뀌자, 학생은 절댓값 그래프의 일반적인 모양만 떠올려 “양 끝에서 값이 같고 가운데가 최솟값”이라고 단정했다. 실제로 h(-1)=1, h(0)=0, h(2)=2이므로 최댓값은 x=2에서 2이고, 왼쪽 끝점의 값은 최댓값이 아니다. 그래프의 모양을 알고도 정의역의 끝점을 따로 대입하지 않은 것이 첫 번째 잘못이었다.

그래프를 그리기 전, 결론이 바뀌는 위치를 표시하다

풀이를 되짚을 때 계산값을 처음부터 다시 고치지 않았다. 학생이 놓친 것은 합성 자체가 아니라, 그 합성식이 적용되는 구간이었다. 그래서 식 h(x)=|x|의 오른쪽에 바로 정의역 “-1≤x≤2”를 적고, 꺾이는 지점 x=0과 양 끝점 x=-1, 2를 세 칸으로 나누어 기록하게 했다.

• x=-1: h(-1)=1
• x=0: h(0)=0
• x=2: h(2)=2

이 세 값만 비교해도 일반적인 절댓값 그래프의 대칭성만으로 결론을 낼 수 없다는 사실이 드러난다. 특히 정의역이 좌우 대칭인지 확인하지 않은 채 “끝점은 같은 값”이라고 말한 것이 오류의 출발점이었다. 이후 학생은 그래프를 그릴 때 전체 모양보다 먼저 정의역의 양 끝과 식이 바뀌는 경계를 표시했다. 신방동과외 수업에서도 이 표시를 풀이 첫 줄의 습관으로 정해, 그래프와 조건을 따로 보지 않도록 했다.

조건 하나가 빠졌을 때 그래프의 결론은 어떻게 달라지는가

같은 식을 숫자만 바꾸지 않고, 문제의 표현을 바꾸었다. 이번에는 f(x)=|x-1|, g(x)=2-x, 정의역은 0≤x≤3이며, “h(x)=f(g(x))가 감소하는 구간을 찾으라”고 제시했다.

학생은 먼저 합성하여

h(x)=|(2-x)-1|=|1-x|

를 만들었다. 이어 절댓값 안이 0이 되는 x=1을 경계로 나누었다.

• 0≤x≤1에서는 h(x)=1-x이므로 감소
• 1≤x≤3에서는 h(x)=x-1이므로 증가

처음에는 “g(x)=2-x가 감소하므로 h도 감소한다”고 말하려 했지만, x=1 이후에는 절댓값의 부호가 바뀐다는 점을 스스로 멈춰 확인했다. 합성함수의 방향만으로 전체 구간의 증감을 정할 수 없고, 바깥 함수의 경계가 안쪽 함수의 값 범위에 포함되는지 살펴야 한다는 판단이 남아 있었다.

힌트 없이 경계의 영향 범위를 추적한 장면

마지막 검증에서는 결론을 먼저 제시한 역문제를 사용했다. “h(x)=f(g(x))가 [0,3]에서 감소한 뒤 증가한다”는 사실만 주고, 가능한 g(x)와 정의역 조건을 판단하게 했다. 학생은 곧바로 그래프의 꼭짓점이 되는 조건을 찾지 않고, 먼저 f의 경계 입력값 1이 g(x)의 값 범위에 들어오는가를 확인했다. 이어 g(x)=2-x이면 g(x)=1인 지점이 x=1이고, 이 값이 주어진 정의역 안에 있으므로 구간을 나누어야 한다고 설명했다.

또한 정의역을 0≤x≤3에서 2≤x≤3으로 제한하면 g(x)의 값이 -1≤g(x)≤0이 되어 f의 꺾이는 입력값 1을 지나지 않는다. 따라서 이 구간에서는 h(x)=1-g(x)=x-1로 한 식만 사용하며 증가한다는 결론도 원식에 대입해 확인했다. 반례는 “g가 감소하면 합성도 감소한다”는 규칙이었다. 학생은 새 문제에서도 경계값을 찾고, 그 경계가 실제 정의역 안에 있는지 확인한 뒤, 구간별 식과 끝점 값을 비교했다.

이제 그래프를 보며 막연히 모양을 일반화하지 않고, 정의역·끝점·부호가 바뀌는 입력값 중 결론을 바꾸는 요소부터 표시한다. 이것이 합성함수 그래프 문제에서 계산보다 먼저 지켜야 할 판단 순서로 자리 잡았다.