패스트캠퍼스 환급챌린지 27일차 : Part2. 인공지능의 이해 Lv1. 인공지능/딥러닝 파헤치기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

https://bit.ly/4hTSJNB

🚨[D-1] 4월 1일 00시 강의 가격 최대 13% 인상! | 패스트캠퍼스

Ch08-01 연속적인 데이터와 RNN

- RNN (Recurrent Nerual Network) : 연속적인 데이터를 처리하기 위한 모델

- 앞서서 사용한 출력 값과 현재 입력값을 사용하여 출력

Ch08-02 RNN의 Backpropagatioin과 구조적 한계

- 노드가 깊어질 수록 이전 값의 영향력이 작아지는 한계를 지님

Ch08-03 RNN의 유형과 Seq2Seq

- OneToMany, ManyToOne, ManyToMany, Seq2Seq 유형을 가짐

- Seq2Seq 는 Encoder, Decoder로 구성되어 있고, 인코더의 마지막 출력을 디코더의 처음에 입력값으로 사용 

Ch08-04 Beautiful insight for RNN

- RNN은 더 이상 번역기로 사용되지 않음 => 마지막 노드의 정보가 항상 크게 반영되어 정확한 답을 도출하는데 한계가 존재함

- LSTM, GLU도 개선된 모델이지만, 같은 한계점을 가짐

- 트랜스포머가 현재 대세로, 데이터의 관계성을 통해 주목해야될 정보를 학습함

Ch08-05 강의 마무리

- 딥러닝 연구는 무엇을 잘해야하는가.

1) 직관을 바탕으로 한 아이디어 싸움 -> 수식은 부가적인 것으로, 다만 수학적 근거가 있어야 설득력이 높아짐

2) 사전 정보를 어떻게 전달할 것인가.

2-1) 정보를 어떻게 묶을 것인가?.

-> CNN은 위치가 가까운 픽셀들을 모았고, 트랜스 포머는 단어와의 관계를 통해 중요도를 파악했음

2-2) 이전 Layer와 다음 Layer간의 차이가 크지 않음

-> Resnet의 Skip-connection

2-3) Loss는 어떻게 계산할 것인가?.

-> 회귀 문제는 MSE

-> 출력이 확률 분포라면 Cross-entropy

3) 인간은 어떻게 하는 것인가를 딥러닝을 만들 때 계속 고민해야함

Part3. 인공지능의 이해 Lv2. 숲을 보는 인공지능

Ch01-01 인공지능, 꼭 필요한가

- AI 프로젝트 구성원은 다양하게 구성됨, 모든 사람이 깊이 있는 지식이 요구되지 않지만 기초적인 지식은 알 필요가 있음

Ch01-02 인공지능 로드맵

- 머신러닝의 과정은 문제 정의 -> 데이터 전처리 -> 학습 -> 모델 평가로 이루어짐

- 인공지능 관련 지식

: python, pandas, visualization

: ML, DL, Data cleaning

: Feature Engineering, ML Explainablilty, Computer vision, Time series, NLP