Transformer 2

자연어 처리(Natural Language Processing, NLP) 모델

자연어 처리(NLP) 모델 워드 임베딩과 시퀀스 모델링 워드 임베딩(Word Embedding) 기법 단어를 고정된 크기의 벡터로 변환하는 기법단어 간의 의미적 유사성을 반영하여 벡터 공간에서 가까운 위치에 배치벡터 간의 연산을 통해 이미적 관계(예: '왕 - 남자 + 여자 ≈ 여왕')을 파악할 수 있음 → 단어의 의미적 관계를 벡터로 변환하는 핵심 기술 대표적 워드 임베딩 기법Word2Vec (CBOW, Skip-gram)GloVeFastTextELMo (문맥을 반영한 임베딩)  Word2Vec 신경망을 이용해 단어를 벡터로 변환하는 모델로 두 가지 학습 방식 제공 CBOW(Continuous Bag of Words)주변 단어 (Context)로 중심 단어(Target)을 예측하는 방식학습이 빠르고 데..

⊢ DeepLearning 2025.03.20

생성형 AI, LLM (Large Language Model), Transformer

현대 인공지능 기술의 발전은 생성형 AI, LLM, Transformer라는 세 가지 주요 개념을 중심으로 이해할 수 있다. 이들은 서로 다른 역할과 특징을 가지며, 주요 기술적 기초와 응용 사례를 통해 현대 AI의 중요한 부분을 형성한다. 생성형 AI  인간의 창의성을 보완하거나 확장하는 기술로, 텍스트, 이미지, 오디오 등 다양한 콘텐츠를 생성마케팅 문구 작성, 예술적 디자인, 멀티모달 콘텐츠 생성 등 다양한 응용 분야에서 활용확률적 모델링과 대규모 데이터 학습을 기반으로 동작 잘못된 정보 생성, 편향된 출력, 저작권 침해 가능성 등 윤리적 문제와 오용 가능성에 대한 우려도 함께 제기→의료 분야 : 부정확한 진단 정보를 생성할 위험→교육 분야 : 학습자의 편향된 관점을 강화할 가능성 제기이를 해결하기..

Z.PROJ 2025.01.20
728x90