토니의 연습장
SSL (Self-Supervised Learning) 본문
Self-Supervised Learning




Downstream Task 에 제한을 받지 않고 대용량 데이터 자체에서 학습

1. Generative Learning

예를 들어, image classification 이라면 위에서 Encoder 부분만 있으면 되지만,
image generation 이라면 Decoder 부분도 학습해야 하며 cost 가 크다
'AI 일반 > 모델, 아키텍처, 구현' 카테고리의 다른 글
| LLM train/eval/generate 간단한 예시 (0) | 2025.09.18 |
|---|---|
| RLHF / DPO (ft. Pretrained -> SFT -> Reward -> Final model) (0) | 2025.09.05 |
| 실무에서의 Embedding 모델 종류 (Text Embedding) (0) | 2025.07.17 |
| Transformer vs LLaMA 모델 비교 (0) | 2025.06.17 |
| pytorch 구현함수 내부 (0) | 2025.06.17 |
