파인 튜닝 2

FastAI: 사전 학습된 모델을 활용한 이미지 분류

FastAI 딥러닝을 빠르고 쉽게 할 수 있게 만들어진 고수준의 Python 라이브러리기본적으로 PyTorch 위에 만들어졌고, 복잡한 코드 없이도 빠르게 모델을 만들고 학습, 평가, 예측할 수 있게 도와줌 간결한 코드: 몇 줄만으로도 데이터 전처리, 모델 학습, 평가 가능전이학습 기본 내장: resnet, vgg 같은 사전 학습 모델 바로 사용다양한 모듈 지원: vision, text, tabular, collaborative filtering 등자동 최적화: 학습률 찾기, 데이터 증강, 조기 종료 등 자동 적용PyTorch 기반: PyTorch의 유연성과 강력함을 그대로 활용 가능 주요 모듈 fastai.vision.all이미지 분류, 객체 탐지 등 비전 관련fastai.text.all텍스트 분류, ..

사전 학습과 파인 튜닝

사전 학습 (Pre-training) 대규모 일반 텍스트 데이터로 언어의 패턴과 구조를 학습하는 과정 방대한 데이터셋 사용 (예: 위키백과, 북 코퍼스)특정 작업(X) 일반적인 언어 이해(O) 예:BERT 사전 학습MLM(Masked Lanuage Modeling): 일부 단어를 가리고 예측NSP (Next Sentence Prediction): 문장 간 자연스러운 연결 예측  파인 튜닝 (Fine-tuning) 사전 학습된 모델을 특정 작업(예: 감정 분석)에 맞게 추가 학습 특정 태스크에 맞춘 미세 조정적은 데이터로도 효과적사전 학습된 가중치를 기반으로 빠른 수렴 가능   IMDb 영화 리뷰 감정 분석*IMDb(Internet Movie Database)영화 리뷰를 바탕으로 만든 이진 감정 분석용 데..

728x90