주성분 분석과 요인 분석의 차이
주성분 분석(PCA)과 요인 분석(FA)은 모두 여러 변수를 더 적은 수의 변수로 줄이는 방법이다.
하지만 목적은 다르다.
- 주성분 분석: 기존 변수의 정보를 최대한 유지하면서 차원을 축소
- 요인 분석: 관측된 변수에 공통으로 영향을 주는 잠재 요인을 발견
주성분 분석이란?
주성분 분석(Principal Component Analysis)은 여러 변수의 정보를 서로 독립적인 새로운 변수인 주성분으로 압축하는 방법이다.
첫 번째 주성분은 전체 데이터의 변동을 가장 많이 설명하고, 두 번째 주성분은 첫 번째 주성분과 겹치지 않는 범위에서 남은 변동을 최대한 설명한다.
기존 변수 여러 개
→ 정보가 많이 담긴 소수의 주성분으로 변환예를 들어 고객 데이터에 다음 변수가 있다고 가정한다.
- 구매 횟수
- 구매 금액
- 방문 횟수
- 체류시간
- 상품 조회 수
PCA를 적용하면 이러한 변수들을 조합하여 고객 활동성, 구매 규모와 유사한 몇 개의 주성분으로 줄일 수 있다.
다만 주성분의 의미는 분석자가 각 변수의 가중치를 보고 해석해야 한다.
요인 분석이란?
요인 분석(Factor Analysis)은 여러 관측 변수 사이의 상관관계를 설명하는 잠재 요인을 찾는 방법이다.
잠재 요인은 직접 측정할 수 없지만 여러 변수에 공통으로 영향을 주는 개념이다.
예를 들어 고객 만족도 설문에 다음 문항이 있다고 가정한다.
- 직원이 친절했다.
- 문의 응답이 빨랐다.
- 문제 처리가 원활했다.
- 상품 품질이 좋았다.
- 가격이 합리적이었다.
요인 분석을 적용하면 다음과 같은 잠재 요인을 발견할 수 있다.
- 고객 서비스 만족도
- 상품 가치 만족도
즉, 개별 문항을 단순히 압축하기보다 여러 문항 뒤에 존재하는 공통 개념을 찾는 데 초점을 둔다.
PCA와 요인 분석의 차이
| 주요 목적 | 데이터 압축과 차원 축소 | 잠재 요인 발견 |
| 분석 대상 | 변수의 전체 분산 | 변수 간 공통 분산 |
| 생성 결과 | 주성분 | 잠재 요인 |
| 주성분·요인의 의미 | 수학적 정보 압축 결과 | 변수에 영향을 주는 숨은 개념 |
| 주요 활용 | 시각화, 전처리, 변수 축소 | 설문 분석, 심리·마케팅 연구 |
| 오차 고려 | 별도의 측정 오차를 가정하지 않음 | 고유 요인과 측정 오차를 고려 |
쉽게 구분하기
PCA는 다음 질문에 적합하다.
변수는 많지만 정보 손실을 줄이면서 변수 수를 줄일 수 있을까?
요인 분석은 다음 질문에 적합하다.
여러 변수의 상관관계를 만들어내는 공통된 원인은 무엇일까?
PCA: 여러 변수를 압축
요인 분석: 변수 뒤에 숨은 원인을 탐색PCA의 주요 활용
- 변수가 많은 데이터의 차원 축소
- 머신러닝 모델의 입력 변수 축소
- 다중공선성 완화
- 고차원 데이터의 2차원 시각화
- 군집화 전 전처리
PCA를 사용하면 변수 수와 계산량을 줄일 수 있지만, 새롭게 생성된 주성분은 원래 변수보다 해석하기 어려울 수 있다.
요인 분석의 주요 활용
- 고객 만족도 설문 분석
- 브랜드 이미지 구성 요소 파악
- 심리적 특성과 태도 측정
- 비슷한 설문 문항 통합
- 측정 척도의 구조 검토
요인 분석에서는 각 변수가 특정 요인과 얼마나 관련되어 있는지를 나타내는 요인 적재량을 확인한다.
요인 적재량의 절댓값이 클수록 해당 변수가 그 요인과 강하게 관련되어 있다고 해석한다.
분석 시 주의할 점
PCA와 요인 분석은 변수의 단위 차이에 영향을 받을 수 있다.
예를 들어 구매 횟수는 0~20 범위인데 구매 금액은 수백만 원 단위라면, 구매 금액이 결과에 지나치게 큰 영향을 줄 수 있다. 따라서 단위가 다른 변수는 일반적으로 표준화한 뒤 분석한다.
또한 두 방법 모두 변수 사이에 일정한 상관관계가 있어야 의미 있는 결과를 얻을 수 있다. 서로 거의 관계없는 변수를 억지로 축소하거나 요인으로 묶는 것은 적절하지 않다.
정리
주성분 분석과 요인 분석은 모두 변수 수를 줄이는 데 활용되지만 목적이 다르다.
- 주성분 분석은 전체 정보 손실을 줄이면서 변수를 압축하는 방법이다.
- 요인 분석은 변수들의 상관관계를 설명하는 잠재 요인을 찾는 방법이다.
데이터 전처리와 시각화가 목적이라면 PCA가 적합하고, 설문 문항이나 관측 변수 뒤에 숨은 개념을 찾고 싶다면 요인 분석이 적합하다.