AI
고등학생도 이해하는 Transformer (Deep Learning) #6 - Deep Learning이란
두줄요약
딥러닝은 선형층과 비선형층을 여러 겹 쌓아 깊은 구조를 만드는 개념을 설명했습니다. 선형층만으로는 한계가 있어 활성화 함수를 넣는 이유를 쉽게 풀어주었습니다.
핵심 내용
- 딥러닝의 기본 구조는 Linear Layer와 Non-Linear Layer를 여러 층으로 중첩한 형태
- 선형층만 여러 개 쌓으면 결국 하나의 선형층으로 합성되는 한계
- ReLU 같은 Activation Function을 넣어 합성 가능성을 막고 깊은 구조를 형성
- 뇌신경망의 입력·전달 구조를 참고한 인공신경망 관점