비지도학습 7

비지도학습 : 차원축소 - LDA(Linear Discriminant Analysis)

LDA (Linear Discriminant Analysis, 선형 판별 분석) 차원 축소와 분류를 동시에 수행하는 기법 클래스 간 분산을 최대화하고, 클래스 내 분산을 최소화하여 데이터를 변환저차원 공간에서 데이터의 구조를 유지하면서 분류 성능 향상 가능  작동 원리클래스별 평균 벡터 계산 : 각 클래스의 평균 벡터를 구함클래스 내 분산 행렬 계산 : 각 클래스 내부의 데이터 분산 계산클래스 간 분산 행렬 계산 : 클래스 평균 벡터 간의 분산을 구함고유값 및 고유벡터 계산 : 클래스 내 분산 행렬의 역행렬과 클래스 간 분산 행렬의 곱을 사용하여 고유값과 고유벡터 계산선형 판별 축 선택 : 고유값이 큰 순서대로 고유벡터를 정렬하여 주요한 선형 판별 축을 선택데이터 변환 : 선택된 판별 축을 사용하여 데이..

⊢MachineLearning 2025.03.17

비지도학습 : 차원축소 - t-SNE(t-Distributed Stochastic Neighbor Embedding)

t-SNE(t-Distributed Stochastic Neighbor Embedding) 고차원 데이터를 저차원(2D 또는 3D)으로 변환하여 시각화하는 차원 축소 기법 데이터 간 유사성을 보존하면서 고차원 데이터를 저차원으로 변환하여 데이터의 패턴을 효과적으로 시각화하는 데 활용주로 비지도 학습에서 데이터의 구조를 이해하는 데 사용 비선형 구조 탐지 가능 → 데이터의 복잡한 구조도 효과적으로 표현클러스터 시각화 → 데이터 내 잠지적 그룹(클러스터)을 명확히 구별할 수 있음고차원 데이터  시각화 → 2차원 또는 3차원으로 변환하여 인간이 직관적으로 이해할 수 있도록 함 시간 복잡도가 높음 → 대규모 데이터셋에서는 계산이 느릴 수 있음매번 다른 결과를 생성 → 초깃값(random_state)에 따라 결과..

⊢MachineLearning 2025.03.17

비지도학습 : 차원축소 - PCA(Principal Component Analysis, 주성분 분석)

PCA(Principal Component Analysis, 주성분 분석) 고차원 데이터를 저차원으로 변환하는 차원 축소 기법 데이터의 분산을 최대한 보존하면서 주요 특징을 추출해 저차원 공간으로 변환이미지 압축 : 고차원 픽셀 데이터를 저차원으로 축소하여 공간 절약노이즈 제거 : PCA를 통해 데이터의 주요 특징만 남겨 노이즈 제거데이터 시각화 : 다차원 데이터를 2D 또는 3D로 변환하여 분석 작동 원리데이터 표준화(Standardization)각 특성의 평균을 0, 분산을 1로 맞춤공분산 행렬(Covariance Matrix) 계산데이터의 특성 간 관계 파악고유값(Eigenvalue) 및 고유벡터(Eigenvector) 계산공분산 행렬을 분해하여 주성분(Principal Component) 추출주성..

⊢MachineLearning 2025.03.17

비지도학습 : 군집화 모델 - DBSCAN

DBSCAN(Density-Based Spatial Clustering of Applications with Noise) 밀도 기반 군집화 알고리즘데이터 밀도가 높은 영역을 군집으로 간주하고, 밀도가 낮은 영역을 노이즈로 처리 비구형 군집 탐지 가능 : 원형이 아닌 군집도 효과적으로 탐색 가능노이즈 처리 가능 : 밀도가 낮은 데이터 포인트를 자동으로 노이즈로 분류군집 수 자동 결정 : 군집 개수를 미리 설정할 필요 없음 주요 매개변수eps : 두 데이터 포인트가 같은 군집에 속하기 위한 최대 거리min_samples : 한 군집을 형성하기 위해 필요한 최소 데이터 포인트 수 작동원리임의의 데이터 포인트 선택선택한 데이터 포인트의 eps 반경 내에 있는 모든 데이터 포인트를 찾음eps 반경 내 데이터 수가..

⊢MachineLearning 2025.03.17

비지도학습 : 군집화 모델 - 계층적 군집화

계층적 군집화(Hierarchical Clustering) 데이터 포인트들을 계층 구조로 그룹화하는 군집화 방법 데이터 포인트를 점진적으로 병합하거나 분할하여 군집을 형성계층적 구조를 시각화할 수 있는 덴드로그램(Dendrogram) 생성 계층적 군집화의 방식 병합 군집화(Agglomerative Clustering)각 데이터 포인트를 개별 군집으로 시작가장 가까운 군집을 반복적으로 병합분할 군집화(Divisive Clusterting)모든 데이터 포인트를 하나의 군집으로 시작반복적으로 가장 멀리 떨어진 군집을 분할 계층적 군집화의 작동 원리 거리 행렬 계산각 데이터 포인트 간의 거리를 계산하여 거리 행렬을 생성대표적인 거리 계산 방법 : 유클리드 거리(Euclidean distance)군집 병합/분할병..

⊢MachineLearning 2025.03.17

비지도학습 : 군집화 모델 - k-means Clustering

k-means Clustering 데이터를 k개의 그룹(cluster)으로 나누는 알고리즘 데이터를 k개의 그룹으로 나눠 각 군집의 중심(centroid)을 설정, 데이터를 가장 가까운 중심에 할당하는 방식으로 작동반복적으로 군집 중심을 업데이트하며 최적의 클러스터를 찾아감  알고리즘의 단계초기화 : k개의 군집 중심(centroid)을 무작위로 설정할당 단계 : 각 데이터를 가장 가까운 군집 중심에 할당업데이트 단계 : 군집 중심을 해당 군집에 속한 데이터 포인트들의 평균으로 업데이트반복 : 군집 중심이 변하지 않을 때까지 2~3단계를 반복  거리 측정 방법 유클리드 거리(Euclidean Distance) i=1n (pi - qi)2">d(p, q) = √∑i=1n (pi - qi)2 p, q은 각각..

⊢MachineLearning 2025.03.16

Machine learning Vol.2

이중 분류와 다중 분류1. 이중 분류 (Binary Classification)두 개의 클래스로 분류하는 문제확률값에 따라 구분됨핵심 원리확률이 0.5 이상: 특정 클래스 (예: 긍정)확률이 0.5 미만: 다른 클래스 (예: 부정)이중 분류 활용 사례스팸 분류: 스팸인지 아닌지의료 진단: 당뇨병인지 아닌지대출 평가: 대출을 해줄까 말까2. 다중 분류 (Multiclass Classification)세 개 이상의 클래스로 분류하는 문제활용 사례메일 분류: 스팸, 광고, 일반, 업무교통 체증 분류: 원활, 지체, 정체뉴스 카테고리 분류: 경제, 정치, 에세이음악 장르 분류: 재즈, 힙합, 인디다중 분류 원리입력 데이터가 여러 클래스 중 하나에 속하도록 예측하는 문제클래스별 확률의 합이 1이 되도록 조정해야 ..

⊢MachineLearning 2024.12.17
728x90