EveryDay.DevUp

[AI] AI의 발전 과정 본문

AI

[AI] AI의 발전 과정

EveryDay.DevUp 2025. 6. 14. 11:10
AI 모델 발전 과정
🧠 신경망 아키텍처
기본
Perceptron
→
Multi-Layer Perceptron
CNN
LeNet
→
AlexNet
→
VGG
→
ResNet
RNN
RNN
→
LSTM
→
GRU
→
Attention
→
Transformer
→
BERT/GPT
GAN
GAN
→
DCGAN
→
StyleGAN
→
Diffusion Models
📝 텍스트 임베딩
One-Hot Vector
→
Bag of Words
→
TF-IDF
→
Word2Vec
→
GloVe
→
FastText
→
ELMo
→
BERT Embeddings
⚡ 활성화 함수
Linear
→
Step Function
→
Sigmoid
→
Tanh
→
ReLU
→
Leaky ReLU
→
ELU/Swish
→
GELU
🎯 최적화 기법
Gradient Descent
→
SGD
→
Momentum
→
AdaGrad
→
RMSprop
→
Adam
→
AdamW
→
RAdam/Lookahead
저작자표시 (새창열림)

'AI' 카테고리의 다른 글

[AI] Attention  (2) 2025.06.14
[AI] RNN모델부터 Seq2Seq 모델 까지  (7) 2025.06.14
[AI] 텍스트 임베딩  (4) 2025.06.14
[AI] 신경망과 액티베이션 함수: 선형성의 한계와 비선형성의 필요성  (1) 2025.06.13
[AI] 딥러닝 모델 학습과정 이해하기  (0) 2025.06.08
'AI' Related Articles more