2025/03/17 6

앙상블 학습 : 배깅(Bagging)과 부스팅(Boosting)

앙상블 학습(Ensemble Learning) 여러 개의 개별 학습 모델을 조합하여 단일 모델보다 더 높은 예측 성능을 얻는 기법 개별 모델의 예측을 평균 또는 다수결 방식으로 결합하여 일반화 성능을 향상주요 기법 : 배깅(Bagging)과 부스팅(Boosting)  배깅(Bagging: Bootstrap Aggregating) 여러 개의 모델을 병렬로 학습하여 예측을 평균 또는 다수결로 결합하는 방식 원본 데이터셋에서 중복을 허용한 샘플링(부트스트래핑, Bootstrap)기법을 사용하여 다수의 학습 데이터를 생성각 모델이 서로 다른 샘플을 학습하여 모델 간 상관성을 줄임 과적합 방지 : 다수의 모델을 결합함으로써 개별 모델의 과적합을 줄일 수 있음안정성 향상 : 데이터 변동에 대한 민감도가 낮아짐병렬 ..

⊢MachineLearning 2025.03.17

비지도학습 : 차원축소 - LDA(Linear Discriminant Analysis)

LDA (Linear Discriminant Analysis, 선형 판별 분석) 차원 축소와 분류를 동시에 수행하는 기법 클래스 간 분산을 최대화하고, 클래스 내 분산을 최소화하여 데이터를 변환저차원 공간에서 데이터의 구조를 유지하면서 분류 성능 향상 가능  작동 원리클래스별 평균 벡터 계산 : 각 클래스의 평균 벡터를 구함클래스 내 분산 행렬 계산 : 각 클래스 내부의 데이터 분산 계산클래스 간 분산 행렬 계산 : 클래스 평균 벡터 간의 분산을 구함고유값 및 고유벡터 계산 : 클래스 내 분산 행렬의 역행렬과 클래스 간 분산 행렬의 곱을 사용하여 고유값과 고유벡터 계산선형 판별 축 선택 : 고유값이 큰 순서대로 고유벡터를 정렬하여 주요한 선형 판별 축을 선택데이터 변환 : 선택된 판별 축을 사용하여 데이..

⊢MachineLearning 2025.03.17

비지도학습 : 차원축소 - t-SNE(t-Distributed Stochastic Neighbor Embedding)

t-SNE(t-Distributed Stochastic Neighbor Embedding) 고차원 데이터를 저차원(2D 또는 3D)으로 변환하여 시각화하는 차원 축소 기법 데이터 간 유사성을 보존하면서 고차원 데이터를 저차원으로 변환하여 데이터의 패턴을 효과적으로 시각화하는 데 활용주로 비지도 학습에서 데이터의 구조를 이해하는 데 사용 비선형 구조 탐지 가능 → 데이터의 복잡한 구조도 효과적으로 표현클러스터 시각화 → 데이터 내 잠지적 그룹(클러스터)을 명확히 구별할 수 있음고차원 데이터  시각화 → 2차원 또는 3차원으로 변환하여 인간이 직관적으로 이해할 수 있도록 함 시간 복잡도가 높음 → 대규모 데이터셋에서는 계산이 느릴 수 있음매번 다른 결과를 생성 → 초깃값(random_state)에 따라 결과..

⊢MachineLearning 2025.03.17

비지도학습 : 차원축소 - PCA(Principal Component Analysis, 주성분 분석)

PCA(Principal Component Analysis, 주성분 분석) 고차원 데이터를 저차원으로 변환하는 차원 축소 기법 데이터의 분산을 최대한 보존하면서 주요 특징을 추출해 저차원 공간으로 변환이미지 압축 : 고차원 픽셀 데이터를 저차원으로 축소하여 공간 절약노이즈 제거 : PCA를 통해 데이터의 주요 특징만 남겨 노이즈 제거데이터 시각화 : 다차원 데이터를 2D 또는 3D로 변환하여 분석 작동 원리데이터 표준화(Standardization)각 특성의 평균을 0, 분산을 1로 맞춤공분산 행렬(Covariance Matrix) 계산데이터의 특성 간 관계 파악고유값(Eigenvalue) 및 고유벡터(Eigenvector) 계산공분산 행렬을 분해하여 주성분(Principal Component) 추출주성..

⊢MachineLearning 2025.03.17

비지도학습 : 군집화 모델 - DBSCAN

DBSCAN(Density-Based Spatial Clustering of Applications with Noise) 밀도 기반 군집화 알고리즘데이터 밀도가 높은 영역을 군집으로 간주하고, 밀도가 낮은 영역을 노이즈로 처리 비구형 군집 탐지 가능 : 원형이 아닌 군집도 효과적으로 탐색 가능노이즈 처리 가능 : 밀도가 낮은 데이터 포인트를 자동으로 노이즈로 분류군집 수 자동 결정 : 군집 개수를 미리 설정할 필요 없음 주요 매개변수eps : 두 데이터 포인트가 같은 군집에 속하기 위한 최대 거리min_samples : 한 군집을 형성하기 위해 필요한 최소 데이터 포인트 수 작동원리임의의 데이터 포인트 선택선택한 데이터 포인트의 eps 반경 내에 있는 모든 데이터 포인트를 찾음eps 반경 내 데이터 수가..

⊢MachineLearning 2025.03.17

비지도학습 : 군집화 모델 - 계층적 군집화

계층적 군집화(Hierarchical Clustering) 데이터 포인트들을 계층 구조로 그룹화하는 군집화 방법 데이터 포인트를 점진적으로 병합하거나 분할하여 군집을 형성계층적 구조를 시각화할 수 있는 덴드로그램(Dendrogram) 생성 계층적 군집화의 방식 병합 군집화(Agglomerative Clustering)각 데이터 포인트를 개별 군집으로 시작가장 가까운 군집을 반복적으로 병합분할 군집화(Divisive Clusterting)모든 데이터 포인트를 하나의 군집으로 시작반복적으로 가장 멀리 떨어진 군집을 분할 계층적 군집화의 작동 원리 거리 행렬 계산각 데이터 포인트 간의 거리를 계산하여 거리 행렬을 생성대표적인 거리 계산 방법 : 유클리드 거리(Euclidean distance)군집 병합/분할병..

⊢MachineLearning 2025.03.17
728x90