[통계] 로지스틱회귀에 있어 연속형변수와 범주형 변수를 사용할 때 차이

로지스틱회귀에 있어 연속형변수와 범주형 변수를 사용할 때 차이에 대해 알려줘.

 

https://chat.openai.com/share/f60ce846-7759-4df1-9e9b-2b8e8731de3c

ChatGPT

 

로지스틱 회귀(Logistic Regression)는 이진 분류(binary classification) 문제에서 주로 사용되는 통계적 모델입니다. 로지스틱 회귀 모델에서는 여러 개의 독립 변수를 사용할 수 있으며, 이 독립 변수들은 연속형(continuous)이거나 범주형(categorical)일 수 있습니다.

연속형 변수 (Continuous Variables)
예시: 나이, 키, 몸무게 등
처리: 일반적으로 특별한 전처리 없이 그대로 모델에 넣을 수 있습니다.
해석: 로지스틱 회귀의 계수(coefficients)는 연속형 변수가 1단위 증가할 때 로그 오즈(log-odds)가 얼마나 변하는지를 나타냅니다.

범주형 변수 (Categorical Variables)
예시: 성별, 지역, 브랜드 등
처리: 범주형 변수는 일반적으로 '원-핫 인코딩(one-hot encoding)' 등의 방법으로 숫자형으로 변환해야 합니다.
해석: 각 범주가 참일 때의 로그 오즈(log-odds)를 나타냅니다. 즉, 특정 범주에 속할 때 대상이 양성 클래스에 속할 로그 오즈가 얼마나 변하는지 알려줍니다.

연속형 변수와 범주형 변수의 차이점
전처리: 범주형 변수는 대게 원-핫 인코딩 같은 방법을 통해 숫자로 변환해야 하지만, 연속형 변수는 그대로 사용할 수 있습니다.
해석성: 연속형 변수는 그 값이 변할 때 대상의 결과에 어떤 연속적인 영향을 미치는지를 해석할 수 있습니다. 범주형 변수는 특정 범주에 대한 영향만을 알 수 있습니다.
상호작용 및 다항식 특성: 연속형 변수의 경우, 상호작용(interactions)이나 다항식(polynomial) 특성을 쉽게 추가할 수 있습니다. 범주형 변수는 이러한 복잡한 관계를 모델링하기가 더 어렵습니다.
차원: 범주형 변수는 원-핫 인코딩을 통해 여러 개의 차원으로 분해될 수 있습니다. 이는 모델의 복잡성과 차원의 수를 증가시킬 수 있습니다.
결측값 처리: 범주형 변수에서는 결측값을 하나의 '범주'로 취급할 수 있습니다. 연속형 변수에서 결측값을 처리하는 것은 일반적으로 더 복잡합니다.

두 종류의 변수를 모두 사용할 때는 해당 변수의 중요성 및 영향을 정확히 이해하기 위해 통계적 검증을 수행하는 것이 좋습니다.