[비전공자용] 대표적인 CNN 네트워크 - LeNet과 AlexNet

가장 유명하고 중요한 CNN 네트워크 두 가지를 뽑으라고 하면, 대부분은

CNN의 원조인 LeNet과 딥러닝이 주목받도록 이끈 AlexNet를 말할 겁니다.

이번 포스트에서는 LeNet과 AlexNet에 대해 알아보겠습니다!

 

1. LeNet

• 손글씨 숫자를 인식하는 네트워크

• 1998년에 제안된 첫 CNN 네트워크

• 합성곱 계층과 풀링 계층을 반복하고, 마지막에 완전연결 계층을 거쳐서 결과를 출력

• 최신 CNN과의 차이: 

  1) 활성화 함수로 시그모이드 함수 사용 (현재는 ReLU 주로 사용)

  2) 원소를 줄이기만 하는 서브샘플링 사용해서 중간 데이터 크기 줄임 (현재는 Max 풀링 많이 사용)

LeNet의 구성

 

2. AlexNet

• 딥러닝 열풍의 주역

• 2012년에 발표된 CNN 네트워크

• LeNet과 구성의 큰 차이는 없음

• 합성곱 계층과 풀링 계층을 거듭하다가 마지막에 완전연결 계층을 거쳐 결과를 출력

• LeNet과의 차이점:

  1) 활성화 함수로 ReLU를 이용

  2) LRN(Local Response Normalization)이라는 국소적 정규화를 실시하는 계층을 이용

  3) 드롭아웃 사용

• 병렬 계산에 특화된 GPU의 보급으로 대량 연산을 고속으로 수행할 수 있게 되면서 AlexNet을 시작으로 딥러닝이 주목받기 시작함

AlexNet의 구성

이렇게 가장 의미가 큰 CNN 네트워크 2가지인 LeNet과 AlexNet에 대해서 알아봤습니다. 

다음 포스트부터는 본격적으로 딥러닝에 대해서 알아보겠습니다~!! 

오늘도 수고했어요!

 

CNN을 직접 파이썬으로 구현하는 방법에 대해 궁금하신 분들은 아래 포스트를 참고해주세요!

2020/07/28 - [Computer Science/Deep Learning] - [비전공자용] [Python] CNN 합성곱 신경망 구현하기

[비전공자용] [Python] CNN 합성곱 신경망 구현하기

2020/07/28 - [Computer Science/Deep Learning] - [비전공자용] [Python] CNN(합성곱 신경망) - 풀링 계층 구현

[비전공자용] [Python] CNN(합성곱 신경망) - 풀링 계층 구현

2020/07/28 - [Computer Science/Deep Learning] - [비전공자용] [Python] CNN(합성곱 신경망) - 합성곱 계층 구현

[비전공자용] [Python] CNN(합성곱 신경망) - 합성곱 계층 구현

[출처] Deep Learning from Scratch, ゼロ から作る