통계학의 정의와 모집단과 표본: 모수와 통계량, 척도와 편향

불확실성 속에서 진실을 탐구하는 과학

데이터의 바다에서 전체를 꿰뚫어보다

이번 시간에는 통계학의 정의와 모집단과 표본: 모수와 통계량, 척도와 편향에 대해 알아보겠습니다. 이때 여러분이 저녁 식사를 준비하며 커다란 솥에 김치찌개를 끓이고 있다고 상상해 보십시오. 실제로 찌개의 간이 맞는지 확인하려고 솥에 든 국물을 처음부터 끝까지 다 마셔보는 사람은 아무도 없을 것입니다. 또한 대신 국자로 딱 한 숟가락만 떠서 맛을 본 뒤, 솥 전체가 싱거운지 짠지를 판단하게 되지요. 한편 놀랍게도 통계학의 출발점은 바로 이 국자 한 숟가락의 지혜와 똑같습니다. 따라서 현대 통계학의 기틀을 세운 피셔(Ronald Fisher) 경의 정의에 주목할 필요가 있습니다. 그는 통계학을 귀납적 추론을 수학적으로 엄밀하게 수행하는 방법론이라 정의했지요 [1].

이처럼 우리가 살아가는 현실 세계는 언제나 불확실성과 변동성으로 가득 차 있는 것이지요. 우선 같은 공장에서 똑같은 기계로 제품을 찍어내더라도 크기나 무게에는 미세한 차이가 생기기 마련이지요. 또한 사람마다 키와 몸무게, 선호도가 모두 다르기 때문에 개별 데이터만 바라보면 거대한 숲을 보기가 어렵습니다. 여기서 ‘통계(統計)‘라는 한자어는 ‘거느릴 통(統)‘에 ‘셈할 계(計)‘를 써서, 흩어진 수많은 숫자를 하나로 아울러 계산한다는 뜻을 담고 있습니다. 즉, 통계학은 불확실한 상황에서 데이터를 체계적으로 모으고 요약하여, 일부 정보만으로 전체 집단의 합리적인 결론을 이끌어내는 과학입니다 [2].

즉 본격적인 탐구에 앞서 확률론과 통계학이 서로 정반대의 방향을 바라본다는 기초 사실부터 짚고 넘어가겠습니다. 이때 주머니 속에 빨간 공 3개와 파란 공 7개가 들어 있다는 사실을 이미 알고 있을 때, 공 하나를 뽑아서 빨간 공이 나올 가능성을 계산하는 것이 바로 확률론입니다. 이처럼 전체의 규칙을 먼저 알고 개별 사건을 예측하는 사고방식을 연역적 추론(deductive reasoning)이라고 부릅니다. 반면에 통계학은 주머니 속을 전혀 볼 수 없는 상태에서 공을 20번 뽑아본 결과를 바탕으로, 주머니 안에 어떤 색 공이 얼마나 들어있는지 역으로 추적하는 학문이지요. 다시 말해 눈앞의 제한된 데이터로부터 그 데이터를 만들어낸 거대한 배후의 진실을 거슬러 올라가는 귀납적 추론(inductive reasoning)인 셈입니다 [4].

실제로 통계학의 세계는 크게 데이터를 정리하는 분야와 전체를 추측하는 두 가지 영역으로 나뉩니다. 먼저 기술통계학(Descriptive Statistics)은 수집한 데이터를 표나 그래프, 평균, 분산 같은 요약 수치로 깔끔하게 정리하여 핵심 패턴을 한눈에 파악하는 분야입니다. 여기서 ‘기술(記述)‘이란 테크닉이 아니라, 현상을 있는 그대로 기록하여 서술한다는 뜻이지요. 다음으로 추론통계학(Inferential Statistics)은 확률론이라는 탄탄한 수학적 토대 위에서, 일부 데이터에 담긴 불확실성을 계산하며 전체 집단의 특성을 추정하고 가설을 검증하는 분야입니다 [3]. 이 두 가지 영역이 톱니바퀴처럼 맞물려 돌아갈 때, 비로소 단순한 숫자의 나열이 과학적 지식과 공학적 의사결정의 강력한 근거로 거듭나게 됩니다.

---

모집단과 모수, 표본과 통계량: 통계학의 순환 고리

통계적 탐구를 시작할 때 가장 먼저 해야 할 일은 내가 알고 싶은 전체 대상의 경계를 명확히 긋는 작업입니다. 이때 연구자가 궁극적으로 알고자 하는 관심 대상 전체의 집합을 모집단(population)이라고 부릅니다. 또한 ‘어미 모(母)’ 자를 쓰는 이유는 모든 데이터가 태어나는 근원적인 집단이기 때문이지요. 반면에 현실적인 한계 때문에 실제로 데이터를 수집하고 관측하기 위해 모집단에서 뽑아낸 부분집합을 표본(sample)이라고 합니다 [1]. 한편 아까 비유로 돌아가면 커다란 김치찌개 솥 전체가 모집단이고, 국자로 떠낸 한 숟가락이 바로 표본인 셈입니다.

그런데 모집단은 반드시 눈앞에서 하나씩 셀 수 있는 유한한 집단에만 국한되지 않습니다. 예를 들어 특정 공장에서 이미 생산을 마친 스마트폰 10만 대는 개수를 셀 수 있는 유한 모집단입니다. 하지만 앞으로 그 공장에서 무한히 생산될 미래의 제품이나, 물리 실험에서 이상적으로 무한 번 반복 측정할 수 있는 오차들의 집합은 이론적인 무한 모집단으로 취급하지요. 그렇다면 도대체 왜 우리는 굳이 일부만 뽑아서 전체를 추측하는 번거롭고 위험한 길을 택하는 것일까요? 따라서 모집단 전체를 빠짐없이 조사하는 전수조사(census)를 하면 오차 없이 100% 정확한 진실을 알 수 있을 텐데 말이지요.

이처럼 현실에서는 전수조사가 불가능하거나 아예 비합리적인 경우가 대부분입니다. 첫째로 막대한 경제적 비용과 시간의 제약이 발목을 잡습니다. 우선 전국 성인의 평균 소득을 조사하려고 수천만 명을 만나려면 천문학적인 예산이 듭니다. 게다가 조사가 끝날 때쯤에는 이미 경제 상황이 변해 데이터의 가치가 사라지고 말지요. 둘째로 제품이 망가지는 파괴적 시험(destructive testing)의 문제도 매우 큽니다. 즉 자동차의 충돌 안전성 테스트나 배터리의 수명 한계 시험을 전수조사로 진행하면, 시중에 팔 수 있는 멀쩡한 제품이 단 한 대도 남지 않게 되지요 [3]. 게다가 무한 모집단은 물리적으로 전수조사 자체가 원천 봉쇄되어 있으므로, 결국 모집단을 잘 대표하는 크기 $n$의 표본을 과학적으로 뽑는 것이 유일하고도 현명한 해법입니다.

“아니, 그냥 표본에서 구한 평균이랑 모집단 진짜 평균이랑 똑같이 다 더해서 개수로 나누는 거 아냐? 왜 굳이 기호까지 다르게 써서 사람을 헷갈리게 만들어?”

혹시 이렇게 생각하셨다면 정말 큰 오산입니다. 이때 겉보기에는 다 더해서 개수로 나눈다는 계산 방식이 똑같아 보일지라도, 통계학자들이 기호를 엄격히 나누어 쓰는 데에는 결정적인 수학적 이유가 있습니다. 실제로 모집단의 참된 특성을 나타내는 값은 단 하나로 고정된 상수이지만, 표본에서 뽑은 계산값은 표본을 뽑을 때마다 확률적으로 요동치는 변수이기 때문이지요.

또한 위 그림에 묘사된 통계학의 거대한 순환 구조를 한 번 차근차근 따라가 볼까요? 한편 왼쪽에 있는 커다란 푸른색 타원이 바로 우리가 궁극적으로 알고 싶어 하는 전체 집단인 모집단입니다. 따라서 이 모집단이 지닌 참된 고유 특성치를 모수(Parameter)라고 부릅니다. 그리고 전 세계 통계학계에서는 모평균 $\mu$, 모분산 $\sigma^2$, 모비율 $p$처럼 그리스 문자로 표기하는 것이 약속되어 있지요. 크기 $N$인 유한 모집단의 원소 값을 $X_1, X_2, \dots, X_N$이라 할 때, 모평균과 모분산은 다음과 같이 정의됩니다.

$$ \mu = \frac{1}{N} \sum_{i=1}^{N} X_i, \qquad \sigma^2 = \frac{1}{N} \sum_{i=1}^{N} (X_i - \mu)^2 $$

여기서 모수는 우리가 전수조사를 하지 않는 한 직접 눈으로 볼 수 없는 미지의 값입니다. 하지만 특정 시점의 모집단이 정해지면 모수는 단 하나의 숫자로 묵직하게 고정되는 상수(constant)라고 보시면 됩니다.

이제 위 그림 상단의 초록색 화살표인 표본 추출(Sampling) 과정을 거쳐 크기 $n$의 표본을 뽑아봅시다. 이때 실제로 숫자를 관측하기 전의 추상적인 관측 예정치들을 확률표본(random sample) $X_1, X_2, \dots, X_n$이라고 부릅니다. 이처럼 이들은 서로 영향을 주지 않는 독립 상태이면서 동시에 모집단과 똑같은 확률분포를 따르는 확률변수(random variable)이지요. 그리고 이 표본 데이터로부터 계산해 낸 요약 수치를 통계량(Statistic)이라 부릅니다. 이때 표본평균 $\bar{X}$, 표본분산 $S^2$, 표본비율 $\hat{p}$처럼 영문 알파벳으로 구별하여 표기하지요 [4]. 우선 표본평균과 표본분산의 공식은 다음과 같습니다.

$$ \bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i, \qquad S^2 = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \bar{X})^2 $$

이 수식에서 우리는 두 가지 매우 중요하고 날카로운 통찰을 반드시 챙겨가야 합니다. 먼저 통계량 $\bar{X}$와 $S^2$은 표본을 뽑을 때마다 값이 달라지는 확률변수라는 점입니다. 예를 들어 철수가 뽑은 100명의 키 평균과 영희가 뽑은 100명의 키 평균은 당연히 다를 수밖에 없겠지요. 그래서 실제로 표본이 뽑혀 구체적인 숫자 $x_1, x_2, \dots, x_n$이 확정된 후에는 소문자 $\bar{x}$, $s^2$으로 적어서 확률변수와 관측값을 구분하기도 합니다.

다음으로 많은 독학자분들이 가장 크게 당황하시는 지점이 바로 표본분산 $S^2$의 분모입니다. 왜 모분산은 $N$으로 나누는데, 표본분산은 뜬금없이 $n$이 아니라 $n-1$로 나누는 것일까요? 즉 이 원리를 이해하려면 먼저 ‘자유도(degrees of freedom)‘라는 기초 계단을 하나 밟아야 합니다. 만약 숫자 3개를 합쳐 15가 되어야 한다는 조건이 걸려 있다고 해 봅시다. 이때 앞의 두 숫자는 자유롭게 고를 수 있지만, 마지막 세 번째 숫자는 합이 15가 되도록 자동으로 고정되지요. 이처럼 자유롭게 변할 수 있는 독립적인 정보의 개수가 바로 자유도이며, 표본평균 $\bar{X}$가 고정된 상태에서는 $n$개의 데이터 중 $n-1$개만 자유롭게 움직일 수 있지요.

수학적으로도 표본분산의 분모가 $n-1$이어야만 하는 완벽한 이유가 존재합니다. 모분산은 데이터가 진짜 중심인 $\mu$로부터 얼마나 떨어져 있는지를 재지만, 우리는 $\mu$를 모르기 때문에 어쩔 수 없이 표본평균 $\bar{X}$로부터의 거리를 대신 잽니다. 그런데 임의의 숫자 $c$에 대해 편차 제곱합 $\sum_{i=1}^n (X_i - c)^2$을 가장 작게 만드는 $c$는 놀랍게도 표본평균 $\bar{X}$ 자신입니다. 즉, 표본평균을 기준으로 삼으면 편차 제곱합이 실제 $\mu$를 기준으로 쟀을 때보다 무조건 작아지게 되지요. 이 사실은 다음의 항등식을 전개해 보면 한눈에 드러납니다.

$$ \sum_{i=1}^{n} (X_i - \mu)^2 = \sum_{i=1}^{n} \left( (X_i - \bar{X}) + (\bar{X} - \mu) \right)^2 = \sum_{i=1}^{n} (X_i - \bar{X})^2 + 2(\bar{X} - \mu)\sum_{i=1}^{n}(X_i - \bar{X}) + \sum_{i=1}^{n}(\bar{X} - \mu)^2 $$

여기서 표본평균으로부터의 편차를 모두 더한 $\sum_{i=1}^n (X_i - \bar{X})$은 항상 $0$이 되어 가운데 항이 깔끔하게 사라집니다. 따라서 다음과 같은 식을 얻게 되지요.

$$ \sum_{i=1}^{n} (X_i - \mu)^2 = \sum_{i=1}^{n} (X_i - \bar{X})^2 + n(\bar{X} - \mu)^2 $$

이제 양변에 평균적인 기댓값 $E[\cdot]$을 취해 보면 비밀이 완전히 풀립니다. 좌변은 모분산의 정의에 의해 $n\sigma^2$이 되고, 우변의 마지막 항은 뒤에서 배울 표본평균의 분산 성질 $\text{Var}(\bar{X}) = \sigma^2 / n$에 의해 $n \cdot (\sigma^2 / n) = \sigma^2$이 됩니다. 결국 $\sum_{i=1}^n (X_i - \bar{X})^2$의 기댓값은 $n\sigma^2 - \sigma^2 = (n-1)\sigma^2$으로 줄어들게 되지요. 그러므로 만약 $n$으로 나누어 버리면 모분산 $\sigma^2$을 실제보다 작게 추정하는 실수를 저지르게 됩니다. 정확히 자유도인 $n-1$로 나누어 주어야만 평균적으로 진짜 모분산과 일치하는($E[S^2] = \sigma^2$) 정직한 추정량, 즉 불편추정량이 되는 것입니다 [2, 3]. 마지막으로 그림 하단의 통계적 추론(Inference) 단계가 이어집니다. 우리는 이 표본 통계량의 분포를 바탕으로 오차 범위를 통제하며 미지의 모수를 역으로 추정하게 되지요.

구분	모집단 (Population)	표본 (Sample)
개념적 정의	통계적 탐구의 대상이 되는 모든 원소들의 전체 집합	데이터 수집 및 분석을 위해 실제로 관측된 부분집합
크기 표기	모집단의 총 크기 $N$ (유한 또는 무한)	추출된 표본의 크기 $n$
특성치 명칭	모수: 고정된 미지의 상수 참값	통계량: 표본마다 변하는 확률변수
평균 기호	모평균 $\mu = \frac{1}{N} \sum_{i=1}^N X_i$	표본평균 $\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$
분산 기호	모분산 $\sigma^2 = \frac{1}{N} \sum_{i=1}^N (X_i - \mu)^2$	표본분산 $S^2 = \frac{1}{n-1} \sum_{i=1}^n (X_i - \bar{X})^2$
비율 기호	모비율 $p$	표본비율 $\hat{p} = \frac{X}{n}$

---

데이터의 위계와 관측의 함정

데이터의 4대 측정 척도 사다리

데이터를 모아서 통계량을 계산하기 전에, 우리가 손에 쥔 숫자가 도대체 어떤 성질의 숫자부터인지 판별해야 합니다. 예를 들어 축구선수의 등번호 ‘10번’과 아령의 무게 ‘10kg’은 똑같이 10이라는 숫자를 쓰지만, 그 안에 담긴 의미는 하늘과 땅 차이입니다. 등번호 10번과 20번 선수를 더한다고 해서 30번 선수가 태어나지 않듯이, 숫자가 어떤 규칙으로 매겨졌는지에 따라 할 수 있는 수학적 연산이 엄격히 정해져 있습니다. 이를 측정 척도(scale of measurement)라고 부르며, 심리측정학자 스티븐스(S. S. Stevens)는 이를 명목, 서열, 등간, 비율이라는 4단계 사다리로 깔끔하게 정리했습니다 [2].

제시된 그림의 사다리를 가장 아래층부터 꼭대기까지 한 계단씩 밟고 올라가며 살펴보겠습니다. 먼저 1층에 자리 잡은 명목척도(Nominal scale)는 ‘이름 명(名)’ 자에서 알 수 있듯, 대상을 단순히 분류하고 구분하기 위해 이름표처럼 붙인 데이터입니다. 혈액형(A, B, O, AB), 성별, 거주 지역, 또는 앞서 말한 운동선수의 등번호가 여기에 해당하지요. 명목척도에 쓰이는 숫자는 그저 글자 대신 쓰는 라벨일 뿐 크기의 의미가 전혀 없습니다. 따라서 서로 같은지 다른지($=$ 또는 $\neq$)만 판별할 수 있고, 가장 많이 등장한 항목을 찾는 최빈값(mode)만이 통계적으로 허용됩니다.

한 계단 올라선 2층의 서열척도(Ordinal scale)는 범주들 사이에 뚜렷한 순서나 위계가 존재하는 데이터입니다. ‘차례 서(序)’ 자를 쓰는 만큼 대학의 학점 등급(A, B, C, D, F), 식당 만족도 조사(1점 매우 불만족 ~ 5점 매우 만족), 마라톤 결승선 순위 등이 대표적인 예입니다. 서열척도는 1층의 성질에 더해 크고 작음($<$ 또는 $>$)을 비교할 수 있습니다. 따라서 데이터를 한 줄로 세웠을 때 한가운데 위치한 중앙값(median)과 사분위수를 거뜬히 구할 수 있지요. 하지만 1등과 2등의 기록 차이가 2등과 3등의 기록 차이와 같다고 볼 수는 없지요. 마찬가지로 만족도 3점과 4점의 심리적 거리가 4점과 5점의 거리와 똑같다는 보장이 없으므로, 엄밀한 의미에서 덧셈이나 평균 계산은 정당하지 않습니다.

이제 3층으로 올라오면 비로소 간격이 일정한 양적 데이터인 등간척도(Interval scale)를 만나게 됩니다. ‘같을 등(等)‘에 ‘사이 간(間)’ 자를 쓰는 이 척도는, 숫자들 사이의 간격이 물리적으로 똑같아서 덧셈과 뺄셈이 완전히 유효합니다. 우리가 매일 확인하는 섭씨온도($^\circ\text{C}$), 화씨온도($^\circ\text{F}$), 연도, 지능지수(IQ) 등이 바로 등간척도이지요. 예를 들어 $20^\circ\text{C}$와 $10^\circ\text{C}$의 차이인 $10^\circ\text{C}$는, $30^\circ\text{C}$와 $20^\circ\text{C}$의 차이와 열에너지 변화량이 정확히 같습니다. 덕분에 모든 값을 더해서 개수로 나누는 산술평균과 표준편차 계산이 수학적으로 완벽하게 성립하게 됩니다.

“그게 무슨 소리야? 섭씨 20도가 섭씨 10도보다 딱 2배 더 뜨거운 게 아니라고? 숫자 20은 10의 2배가 맞잖아!”

얼핏 생각하면 당연해 보이지만, 실제로는 완전히 틀린 해석입니다. 등간척도를 공부할 때 가장 많이 빠지는 함정이 바로 이 ‘비율적 해석’이지요. 섭씨온도의 $0^\circ\text{C}$는 열에너지가 소멸한 절대적 바닥 상태가 아닙니다. 이는 사람들이 편의를 위해 물이 어는점을 기준으로 정한 인위적인 영점(arbitrary zero)에 불과하지요. 이 온도를 미국에서 쓰는 화씨온도로 바꾸어 보면 금방 탄로가 납니다. $10^\circ\text{C}$는 화씨 $50^\circ\text{F}$이고 $20^\circ\text{C}$는 화씨 $68^\circ\text{F}$인데, 68은 50의 2배가 전혀 아니지 않습니까? 이처럼 등간척도는 진짜 0점이 없기 때문에 덧셈과 뺄셈은 되지만, 몇 배라는 곱셈과 나눗셈은 성립하지 않는다는 점을 꼭 기억하셔야 합니다.

마지막으로 사다리의 가장 꼭대기인 4층에는 자연의 고유한 절대 영점(absolute zero)을 가진 비율척도(Ratio scale)가 있습니다. 질량(kg), 길이(m), 시간(s), 소득(원), 그리고 물리학에서 쓰는 절대온도(K)가 여기에 속하지요. 절대온도 $0\text{K}$는 분자의 움직임이 완전히 멈추는 에너지의 완전한 부재를 뜻하고, 질량 $0\text{kg}$은 물질 자체가 아예 없음을 의미합니다. 이처럼 진짜 ‘없음’을 뜻하는 0점이 존재하므로 사칙연산이 모두 가능하며, $20\text{kg}$은 $10\text{kg}$의 정확히 2배라는 비율 진술이 단위를 그램(g)으로 바꾸더라도 흔들리지 않습니다. 결국 사다리 위로 올라갈수록 데이터가 품은 정보량이 기하급수적으로 풍부해져서 훨씬 정교한 통계 기법을 쓸 수 있게 됩니다.

---

표본추출 편향과 1936년 여론조사의 비극

아무리 비싼 통계 프로그램과 최신 수학 공식을 동원하더라도, 분석에 넣은 표본 자체가 엉터리라면 결과 역시 쓰레기가 됩니다. 김치찌개 간을 보면서 국물을 고루 젓지 않고 맨 위에 뜬 기름만 떠먹거나 바닥의 김치 건더기만 건져 먹으면 찌개 전체의 맛을 완전히 오해하게 되겠지요. 이처럼 표본이 모집단을 제대로 대변하려면 표본의 개수보다 추출 과정의 공정성과 대표성이 훨씬 더 중요합니다 [1]. 만약 표본을 뽑는 과정 자체에 특정 방향으로 쏠리는 체계적인 왜곡이 끼어든다면 이를 표본추출 편향(Sampling Bias)이라고 부릅니다.

여기서 우리는 통계학에서 반드시 구별해야 할 두 가지 오차인 표본오차와 비표본오차의 개념을 짚고 넘어가야 합니다. 먼저 표본오차(sampling error)는 전체가 아니라 일부만을 무작위로 뽑았기 때문에 어쩔 수 없이 생기는 우연한 흔들림입니다. 이 오차는 표본의 크기 $n$을 키울수록 $1/\sqrt{n}$의 속도로 깔끔하게 줄어들며 수학적으로 통제할 수 있지요. 반면에 표본추출 편향 같은 비표본오차(nonsampling error)는 조사 설계나 추출 방식 자체가 잘못되어 발생하는 구조적 결함입니다. 이런 구조적 편향이 한 번 개입되면 표본 크기를 수백만 개로 늘려도 참값에 가까워지지 않고, 오히려 잘못된 결론에 대한 헛된 확신만 키우는 독이 됩니다.

제시된 그림은 통계학 역사상 가장 유명하고 충격적인 대참사로 꼽히는 1936년 미국 대선 여론조사 실패 사례를 보여줍니다. 당시 민주당 루스벨트 후보와 공화당 랜던 후보가 맞붙었습니다. 이때 유명 잡지사 리터러리 다이제스트는 무려 1,000만 명에게 엽서를 보내 240만 명에게 회신을 받아냈지요. 그들은 이 엄청난 빅데이터를 근거로 랜던 후보가 57%를 얻어 압승할 것이라 호언장담했지요. 하지만 실제 투표함을 열어보니 정반대로 루스벨트 후보가 62%를 득표하며 역사적인 대승을 거두었습니다. 놀랍게도 같은 시기 조지 갤럽은 과학적인 추출 기법을 써서 단 5만 명만 조사하고도 루스벨트의 승리를 정확히 맞혀냈습니다.

도대체 어째서 240만 명이라는 거대한 표본이 5만 명의 작은 표본에게 처참하게 패배한 것일까요? 첫 번째 원인은 표집틀(sampling frame) 자체에 있었습니다. 즉 전화번호부나 자동차 등록부로 명단을 꾸리다 보니 심각한 표집틀 누락 편향(Undercoverage Bias)이 발생한 것이지요. 잡지사는 자사 구독자 명단, 전화번호부, 자동차 등록 명부를 합쳐서 1,000만 명을 골랐습니다. 그런데 1936년은 미국 대공황이 한창이던 시절이었지요. 당시 집에 전화기를 놓고 자가용을 몰며 잡지를 구독할 여유가 있던 사람들은 주로 공화당을 지지하는 부유층이었습니다. 정작 루스벨트의 정책을 열렬히 지지하던 대다수 서민과 노동자들은 명단에서 아예 빠져서 표본으로 뽑힐 확률이 0%였던 것입니다.

두 번째 원인은 응답 과정에서의 무응답 편향(Nonresponse Bias)과 자발적 응답 편향(Voluntary Response Bias)이 겹친 데 있습니다. 보낸 1,000만 장의 엽서 중에서 실제로 답장이 온 것은 24%인 240만 장뿐이었습니다. 보통 우편 설문을 받으면 현 정부에 불만이 많거나 정치적 열정이 아주 강한 사람들이 일반인보다 훨씬 적극적으로 엽서를 보내는 경향이 있지요. 즉, 1단계 명단에서 부유층 위주로 한 번 걸러진 표본이, 2단계 응답 과정에서 보수층 위주로 다시 한 번 걸러지는 이중의 왜곡이 일어난 셈입니다. 이 사건은 통계학 역사에 길이 남을 교훈을 주었습니다. 즉 확률적 무작위 추출(SRS)이 결여된 빅데이터는 거대한 편향의 덩어리에 불과하다는 뼈아픈 교훈을 남겼지요 [3].

---

관측 연구의 함정과 교란요인

표본을 아무런 편향 없이 아주 공정하게 뽑아냈더라도, 데이터를 해석할 때 또 하나의 거대한 덫이 우리를 기다리고 있습니다. 한여름에 해수욕장 아이스크림 판매량이 급증하는 날이면 어김없이 익사 사고도 함께 늘어난다는 데이터가 있다고 합시다. 이 숫자만 보고 “아이스크림을 먹으면 배탈이 나서 물에 빠지나 보다"라고 결론을 내린다면 누구나 비웃을 것입니다. 두 현상을 동시에 끌어올린 진짜 범인은 바로 ‘한여름의 무더위’이기 때문이지요. 이처럼 두 변수 $X$와 $Y$가 같이 움직이는 통계적 연관성(상관관계)을 곧바로 원인과 결과(인과관계)로 착각하는 오류는 연구 현장에서 매우 흔하게 일어납니다 [4].

제시된 그림의 화살표 도표(DAG)를 보면서 이 덫의 정체인 교란요인(Confounder)이 작동하는 원리를 해부해 보겠습니다. 여기서 ‘교란(交亂)‘이란 한자어 뜻 그대로 둘 사이를 뒤섞어서 어지럽히고 헷갈리게 만든다는 의미입니다. 대규모 건강 조사를 해보니 하루에 커피를 많이 마시는 사람($X$)일수록 심혈관 질환($Y$)에 걸릴 확률이 높게 나타났다고 가정해 봅시다. 이 데이터만 얼핏 보면 마치 커피가 심장병을 일으키는 주범처럼 보이지요.

하지만 그림 속의 제3의 변수인 흡연($Z$)을 끼워 넣으면 숨겨진 진실이 단번에 드러납니다. 현실에서 스트레스를 많이 받으며 커피를 자주 마시는 직장인들은 동시에 담배를 피우는 비율($Z$)도 높은 편입니다. 게다가 흡연($Z$)은 혈관을 직접 손상시켜 심혈관 질환($Y$)을 일으키는 매우 치명적인 의학적 원인이지요. 이처럼 원인 후보($X$)와 결과($Y$) 양쪽 모두에 동시에 영향을 미치는 제3의 변수 $Z$가 바로 교란요인입니다. 그림에서 커피($X$)에서 심장병($Y$)으로 가는 직접 화살표는 점선으로 표시되어 있습니다. 즉 실제 인과관계가 없어도 교란요인 $Z$가 두 변수를 끌어당기면 가짜 상관관계(spurious correlation)가 나타나지요. 심한 경우에는 교란요인을 무시한 전체 결과와 교란요인별로 나눈 세부 결과의 방향이 정반대로 뒤집히는 심슨의 역설(Simpson’s Paradox)까지 발생하게 되지요.

그렇다면 과학자들은 이 교묘한 교란요인의 함정을 어떻게 뚫고 순수한 인과관계를 찾아낼 수 있을까요? 가장 강력하고 이상적인 해결책은 바로 무작위 통제 실험(Randomized Controlled Trial, RCT)을 수행하는 것입니다. 실험 참가자들을 동전 던지기처럼 완전히 무작위로 나누어 한쪽 그룹에는 커피를 마시게 하고 다른 그룹에는 마시지 않게 배정하는 방식이지요. 이렇게 무작위로 배정하면 흡연 습관이나 나이, 유전적 요인 등 우리가 미처 알지 못하는 모든 잠재적 교란요인들이 두 그룹에 공평하게 반반씩 섞이게 됩니다. 수학적으로 무작위 배정은 흡연($Z$)이 커피($X$)로 향하던 화살표를 싹둑 잘라냅니다. 따라서 두 집단의 차이에서 순수한 인과 효과만 깔끔하게 건져 올릴 수 있게 되지요. 물론 윤리적 문제로 실험이 불가능한 관측 연구도 많습니다. 이때는 층화 분석(stratification)이나 다중회귀분석(multiple regression)을 씁니다. 이를 통해 교란요인의 영향을 수학적으로 통제하고 순수 효과를 추정해야 하지요 [1, 4].

---

6. 연습 문제

문제 1 [모집단과 표본의 식별]

어느 제약 회사에서 새로 개발한 혈압 강하제의 효과를 검증하기 위해 해당 질환을 앓고 있는 전국 환자 50,000명 중 무작위로 500명을 선정하여 8주간 임상 시험을 실시하였습니다. 이 과정에서 측정된 500명의 평균 혈압 감소치가 $15\text{mmHg}$이고 표본표준편차가 $4\text{mmHg}$일 때, 이 연구의 모집단, 표본, 모수, 그리고 통계량을 각각 명확히 구분하여 서술하십시오.

출제 의도: 연구 설계의 기본 구성 요소인 모집단과 표본을 명확히 구분하고, 미지의 상수인 모수와 관측된 수치인 통계량의 정의를 실제 의학 통계 사례에 정확히 적용할 수 있는지 평가합니다.

풀이

첫째로 모집단은 제약 회사가 신약의 효능에 대한 결론을 궁극적으로 일반화하고자 하는 전체 탐구 대상입니다. 따라서 모집단은 해당 질환 환자 50,000명 전체가 됩니다. 엄밀하게는 그 환자들에게 신약을 투여했을 때 나타날 잠재적 혈압 감소치 전체의 집합을 뜻하지요.

둘째로 표본은 실제 임상 시험에 참여하여 혈압 감소 데이터가 관측된 500명의 환자 집단입니다. 셋째로 모수는 전국의 환자 50,000명 전체가 이 약을 복용했을 때 나타날 미지의 참된 평균 혈압 감소치 $\mu$와 참된 표준편차 $\sigma$이지요. 이들은 전수조사를 하지 않는 한 정확히 알 수 없는 고정된 상수입니다. 넷째로 통계량은 추출된 500명의 표본 데이터로부터 직접 계산된 수치인 표본평균 $\bar{x} = 15\text{mmHg}$와 표본표준편차 $s = 4\text{mmHg}$이며, 만약 다른 500명을 새로 뽑아 시험한다면 이 값들은 달라질 수 있습니다.

검토 및 핵심 정리: 통계량은 관측된 표본으로부터 계산되는 구체적인 요약치이며, 모수는 우리가 표본 통계량을 바탕으로 추론하고자 하는 모집단 전체의 미지의 고정된 참값임을 항상 명심해야 합니다.

문제 2 [측정 척도의 구분과 연산의 타당성]

다음 세 가지 변수가 스티븐스의 4대 측정 척도 중 무엇에 해당하는지 각각 분류하고, 각 변수에 대해 산술평균을 계산하는 것이 수학적 및 개념적으로 타당한지 그 이유와 함께 상세히 설명하십시오. (가) 대학교 학부생들의 학번, (나) 식당 이용 고객의 서비스 만족도(1: 매우 불만족, 2: 불만족, 3: 보통, 4: 만족, 5: 매우 만족), (다) 물리 실험실에서 측정한 기체의 절대온도(K).

출제 의도: 데이터가 지닌 정보의 위계에 따른 4대 척도의 수학적 성질(변환 불변성 및 절대 영점의 유무)을 정확히 이해하고, 각 척도에서 허용되는 통계적 연산의 범위를 판별할 수 있는지 평가합니다.

풀이

첫째로 (가) 학번은 학생 개개인을 고유하게 식별하고 소속 학과나 입학 연도를 구분하기 위해 부여한 기호에 불과하므로 명목척도에 해당합니다. 숫자 형태로 되어 있더라도 크기 비교나 거리 개념이 전혀 성립하지 않지요. 그러므로 학번들을 모두 더해 학생 수로 나눈 산술평균은 아무런 수학적·현실적 의미가 없으며 오직 빈도나 최빈값만을 다룰 수 있습니다.

둘째로 (나) 서비스 만족도는 ‘매우 불만족’에서 ‘매우 만족’으로 갈수록 만족의 정도가 높아지는 위계가 존재하므로 서열척도에 해당합니다. 숫자가 커질수록 더 만족한다는 대소 관계는 명확하지만, 1점과 2점 사이의 심리적 간격이 4점과 5점 사이의 간격과 물리적으로 동일하다고 보장할 수 없습니다. 따라서 엄밀한 척도 이론의 관점에서 서열척도에 산술평균을 적용하는 것은 부적절하며, 순서 정보에 기반한 중앙값이나 최빈값을 대푯값으로 사용하는 것이 타당합니다.

셋째로 (다) 기체의 절대온도(K)는 분자의 열운동 에너지가 완전히 소멸하는 절대 영점($0\text{K}$)이 존재하며, $1\text{K}$ 간격이 물리적으로 균일하므로 최상위 척도인 비율척도에 해당합니다. 두 온도 간의 차이는 물론이고 $300\text{K}$가 $150\text{K}$보다 열에너지 관점에서 정확히 2배 높다는 비율적 진술까지 완벽히 성립합니다. 결국 산술평균을 비롯한 모든 사칙연산과 표준편차 계산이 수학적으로 매우 타당하다고 볼 수 있습니다.

검토 및 핵심 정리: 측정 척도의 단계가 높아질수록 적용 가능한 수학적 연산과 통계적 추론 기법이 풍부해집니다. 하위 척도 데이터에 부적절한 산술 연산을 적용하면 왜곡된 결론을 내릴 수 있으므로 분석 전 척도 확인이 필수적입니다.

문제 3 [표본추출 편향의 분석]

어느 대형 인터넷 포털 사이트 메인 화면에서 진행한 ‘신규 교통 정책에 대한 찬반 투표’에서 총 10만 명이 참여하여 찬성 20%, 반대 80%라는 결과가 나왔습니다. 이 결과가 실제 전체 국민 여론과 크게 다를 가능성이 높은 이유를 표본추출 편향의 관점에서 두 가지 이상 구체적으로 서술하십시오.

출제 의도: 표본의 크기($n = 100,000$)가 매우 크더라도 과학적인 무작위 추출이 결여될 경우 발생할 수 있는 표집틀 누락 편향과 자발적 응답 편향의 메커니즘을 비판적으로 분석할 수 있는지 평가합니다.

풀이

첫째로 표집틀 누락 편향(Undercoverage Bias)이 발생합니다. 해당 인터넷 포털 사이트를 주로 이용하는 계층은 특정 연령대나 디지털 기기 활용도가 높은 집단에 편중되어 있을 가능성이 높지요. 반면에 인터넷 사용이 익숙하지 않은 고령층이나 해당 포털을 이용하지 않는 국민들은 투표에 참여할 기회 자체가 박탈됩니다. 결국 표본이 전체 국민이라는 모집단을 구조적으로 대변하지 못하게 되는 것입니다.

둘째로 자발적 응답 편향(Voluntary Response Bias)이 결정적인 왜곡을 초래합니다. 이 투표는 무작위로 선정된 시민에게 의견을 묻는 것이 아니라, 기사를 보고 스스로 클릭하여 참여하는 방식입니다. 일반적으로 온건한 다수보다 강한 불만을 품은 소수가 투표에 더 적극적입니다. 따라서 자발적 응답 표본에서는 찬반 비율이 극단적으로 왜곡되기 십상이지요. 결과적으로 10만 명이라는 거대한 표본 크기에도 불구하고, 반대 여론이 실제 국민 여론보다 극단적으로 과대 대표되는 심각한 편향이 발생합니다.

검토 및 핵심 정리: 1936년 리터러리 다이제스트의 사례와 마찬가지로, 표본의 크기가 아무리 커도 확률적 무작위성이 결여된 표본은 체계적인 편향을 제거할 수 없음을 명심해야 합니다.

문제 4 [표본평균의 기댓값과 분산 유도]

모평균이 $\mu$이고 모분산이 $\sigma^2$인 모집단으로부터 서로 독립적으로 추출된 크기 $n$의 확률표본 $X_1, X_2, \dots, X_n$이 있습니다. 이때 표본평균 $\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$의 기댓값이 $E[\bar{X}] = \mu$이고 분산이 $\text{Var}(\bar{X}) = \frac{\sigma^2}{n}$임을 기댓값의 선형성과 독립 확률변수의 분산 성질을 이용하여 단계별로 증명하십시오.

출제 의도: 통계량이 확률변수로서 갖는 표집분포의 중심과 퍼짐 정도를 수학적으로 직접 유도함으로써, 불편성(unbiasedness)과 표본 크기 $n$의 증가가 추정 정밀도에 미치는 영향을 이해합니다.

풀이

먼저 표본평균의 기댓값을 구하기 위해 $\bar{X}$의 정의식에 기댓값 연산자 $E[\cdot]$을 적용합니다.

$$ E[\bar{X}] = E\left[ \frac{1}{n} \sum_{i=1}^{n} X_i \right] $$

기댓값의 선형성(linearity of expectation)에 의하여 상수 $\frac{1}{n}$과 유한 합 기호 $\sum$은 기댓값 연산자 밖으로 분리하여 나올 수 있습니다.

$$ E[\bar{X}] = \frac{1}{n} \sum_{i=1}^{n} E[X_i] $$

여기서 각 확률표본 $X_i$ ($i = 1, 2, \dots, n$)는 동일한 모집단에서 추출되었으므로 모든 $i$에 대하여 $E[X_i] = \mu$를 만족합니다. 이를 대입하여 정리하면 다음과 같습니다.

$$ E[\bar{X}] = \frac{1}{n} \sum_{i=1}^{n} \mu = \frac{1}{n} (n\mu) = \mu $$

이로써 표본평균의 기댓값이 모평균 $\mu$와 정확히 일치함이 증명되었으며, 이는 $\bar{X}$가 $\mu$의 불편추정량임을 뜻합니다.

다음으로 표본평균의 분산을 유도해 보겠습니다. 분산 연산자 $\text{Var}(\cdot)$의 성질에 의해 상수 배수 $a$는 제곱하여 밖으로 나오므로 $\text{Var}(aY) = a^2 \text{Var}(Y)$가 성립하지요.

$$ \text{Var}(\bar{X}) = \text{Var}\left( \frac{1}{n} \sum_{i=1}^{n} X_i \right) = \frac{1}{n^2} \text{Var}\left( \sum_{i=1}^{n} X_i \right) $$

또한 $X_1, X_2, \dots, X_n$이 서로 독립(independent)이므로 공분산 항들이 모두 $0$이 되어 합의 분산은 각 분산의 합과 같아집니다.

$$ \text{Var}(\bar{X}) = \frac{1}{n^2} \sum_{i=1}^{n} \text{Var}(X_i) $$

마지막으로 각 확률표본의 분산이 모분산 $\text{Var}(X_i) = \sigma^2$으로 동일하므로 식을 최종 정리하면 다음과 같습니다.

$$ \text{Var}(\bar{X}) = \frac{1}{n^2} \sum_{i=1}^{n} \sigma^2 = \frac{1}{n^2} (n\sigma^2) = \frac{\sigma^2}{n} $$

검토 및 핵심 정리: 표본평균의 기댓값이 $\mu$라는 사실은 표본을 반복 추출할 때 통계량의 중심이 모수에 정확히 안착함을 보장하며, 분산이 $\sigma^2 / n$이라는 사실은 표본 크기 $n$을 늘릴수록 표본평균의 표준오차($\sigma / \sqrt{n}$)가 줄어들어 추정의 정밀도가 향상됨을 수학적으로 입증합니다.

문제 5 [교란요인의 식별과 통제]

어느 교육 연구 기관의 관측 데이터 분석 결과, ‘아침 식사를 거르는 학생들일수록 수학 학업 성취도가 낮다’는 뚜렷한 상관관계가 도출되었습니다. 이때 ‘가정의 경제적 수준’이 어떻게 교란요인으로 작용하여 허위 상관관계를 만들어낼 수 있는지 인과 구조 관점에서 설명하고, 이러한 교란 효과를 통제하기 위한 현실적인 통계적 분석 방법을 제안하십시오.

출제 의도: 관측 연구에서 상관관계를 인과관계로 오인하게 만드는 교란요인의 작동 메커니즘을 파악하고, 실험적 또는 통계적 통제 기법을 논리적으로 설계할 수 있는지 평가합니다.

풀이

첫째로 ‘가정의 경제적 수준($Z$)‘은 원인 후보인 ‘아침 식사 결식 여부($X$)‘와 결과 변수인 ‘수학 성적($Y$)’ 모두에 동시에 영향을 미치는 전형적인 교란요인으로 작용할 수 있습니다. 가정의 경제적 수준이 낮거나 맞벌이로 인해 돌봄 여력이 부족한 환경일수록 학생이 아침 식사를 규칙적으로 챙겨 먹기 어려워져 결식률이 높아지는 경향이 있기 때문이지요.

둘째로 가정의 경제적 수준($Z$)은 사교육 기회, 학습 환경, 교재 및 교육 자원에 대한 접근성에 직접적인 영향을 미쳐 수학 학업 성취도($Y$)를 결정짓는 강력한 요인이 됩니다. 결과적으로 아침 식사 자체가 성적을 떨어뜨리는 직접적 인과가 없을 수 있습니다. 그럼에도 경제적 수준이라는 제3의 변수가 영향을 미치면, 데이터상에서 강한 상관관계가 관측되는 허위 상관성이 발생하게 되지요.

이러한 교란 효과를 통제하기 위해서는 관측 데이터 분석 단계에서 교란요인을 정교하게 보정해야 합니다. 현실적으로 학생들에게 무작위로 아침 식사를 굶기거나 먹이는 무작위 통제 실험은 윤리적으로 불가능하기 때문이지요. 구체적으로 소득 분위별로 학생 그룹을 나눌 수 있습니다. 그리고 동일한 소득 그룹 안에서 아침 식사 여부에 따른 성적 차이를 비교하는 층화 분석(stratification)을 수행하면 되지요. 또는 회귀 모델에 ‘경제적 수준’을 통제 변수로 포함할 수 있는 것이지요. 그 영향을 수학적으로 고정한 상태에서 아침 식사의 순수한 효과를 추정해야만 하지요.

검토 및 핵심 정리: 데이터에서 뚜렷한 상관관계가 관측되더라도 성급히 인과적 결론을 내려서는 안 됩니다. 배후에서 두 변수를 움직이는 교란요인이 없는지 의심하고 통제하는 태도가 통계적 사고의 본질입니다.

---

참고문헌

1. Walpole, R. E., Myers, R. H., Myers, S. L., & Ye, K. (2012). Probability & Statistics for Engineers & Scientists (9th ed.). Pearson.
2. Devore, J. L. (2021). Probability and Statistics for Engineering and the Sciences (10th ed.). Cengage Learning.
3. Montgomery, D. C., & Runger, G. C. (2022). Applied Statistics and Probability for Engineers (8th ed.). Wiley.
4. Ross, S. M. (2020). Introduction to Probability and Statistics for Engineers and Scientists (6th ed.). Academic Press.