통계 수업이나 엑셀에서 표준편차를 구하다 보면 "n으로 나누기"와 "n-1로 나누기(베셀 보정)" 두 가지를 만나게 됩니다. 둘 중 뭘 써야 하는지, n으로 나누면 실제로 얼마나 틀리는지 직접 반복 시뮬레이션을 돌려 확인했습니다.
확인 2026-11-04 · NIST/SEMATECH e-Handbook of Statistical Methods(표본표준편차 공식, itl.nist.gov), 뚝딱툴이 Node.js로 직접 실행한 20만 회 반복 시뮬레이션
표본과 모집단, 분모가 다르다
미국 국립표준기술연구소(NIST)의 통계 핸드북은 표본분산을 s² = Σ(x − 평균)² ÷ (n − 1)로 정의합니다. 가진 데이터가 전체(모집단)라면 분모를 그대로 n으로 씁니다. 분자(편차 제곱의 합)는 똑같은데 분모만 하나 작아서, 표본 기준이 같은 데이터로도 항상 더 큰 값을 냅니다.
왜 하필 n-1인가 — 자유도 이야기
편차 제곱을 구하려면 먼저 평균을 알아야 하는데, 그 평균도 같은 데이터로 계산한 값입니다. 즉 "데이터가 평균에서 얼마나 떨어져 있나"를 잴 때 이미 데이터 1개 몫의 정보를 평균을 구하는 데 써버린 셈입니다(편차들을 모두 더하면 항상 0이 되므로, n개 중 n-1개만 자유롭게 정해지고 마지막 하나는 나머지로 자동 결정됩니다 — 이를 자유도라고 부릅니다). 표본의 평균은 모집단의 진짜 평균과 정확히 일치하지 않고, 데이터와 더 가깝게 치우쳐 있어서 n으로 나누면 흩어진 정도를 실제보다 작게 잡습니다. n-1로 나눠 그만큼을 보정하는 것입니다.
직접 시뮬레이션으로 확인해보기
말로만 설명하면 와닿지 않아서, 평균 50·표준편차 10인 가상의 모집단에서 무작위로 표본을 뽑아 분산을 계산하는 걸 20만 번 반복해봤습니다(Node.js로 직접 실행, 참값인 모집단분산은 10²=100).
| 표본 크기 | n으로 나눈 평균이 참값의 몇 %인가 | 이론값(n-1)/n |
|---|---|---|
| 5개 | 79.8% | 80.0% |
| 10개 | 89.9% | 90.0% |
| 30개 | 96.6% | 96.7% |
표본 5개로 n 분모를 쓰면 분산을 평균적으로 참값의 80%, 즉 20%나 과소평가합니다. n-1로 나누면(같은 5개 표본 20만 회 반복) 평균이 참값의 99.9%로 거의 정확히 맞아떨어집니다. 표본이 커질수록 n과 n-1의 차이는 줄어들지만(5개는 20%p 차이, 30개는 3.3%p 차이), 작은 표본일수록 n-1 보정의 효과가 훨씬 큽니다.
뚝딱툴 계산기는 이렇게 구분합니다
평균·표준편차 계산기는 표본(n-1)·모집단(n) 버튼을 따로 두고, 기본값은 더 널리 쓰이는 표본(n-1)으로 맞췄습니다. 표본표준편차는 데이터가 2개 이상이어야 계산할 수 있습니다(n-1이 0이 되면 나눌 수 없기 때문입니다).
자주 묻는 질문
Q. 표본표준편차가 모집단표준편차보다 항상 큰가요?
같은 데이터로 계산하면 그렇습니다. 분모가 작아지는 만큼 값이 커지기 때문입니다. 다만 표본마다 결과가 다르게 뽑히므로, 개별 표본 하나만 보면 모집단보다 작게 나올 수도 있습니다 — 반복했을 때 평균적으로 크다는 뜻입니다.
Q. 표본 크기가 커지면 n과 n-1의 차이가 줄어드나요?
네. 위 표처럼 5개면 20%p, 30개면 3.3%p로 표본이 커질수록 차이가 줄어듭니다.
Q. n-1인지 n인지 헷갈리면 어떻게 하나요?
가진 데이터가 전체(모집단)인지 일부(표본)인지로 판단합니다. 애매하면 표본(n-1)이 더 널리 쓰이는 기본값입니다.