Receptive Field

2021. 5. 6. 16:31Deep Learning/개념

728x90

Receptive Field는 CNN에서 매우 중요한 개념 중 하나이고, object detection은 이 아이디어를 중심으로 아키텍쳐를 설계.

receptive field : 특정 CNN의 feature이 보고있는 (영향을 받는) input space의 영역

 

receptive field 내 모든 픽셀들이 똑같이 중요한 것은 아니다. field 의 중심에 가까울수록 output feature의 계산에 더 많이 기여한다.

CNN의 feature이 input image의 특정부분(예를 들면 receptive field)만 보는 것은 아니지만, 가운데 지역으로 갈수록 기하급수적으로 더 focus한다.

 

 

※ CNN아키텍처가 대칭적이고 input image가 square이라 가정


 

feature map을 보는 것 만드로는 그것의 receptive field와 그 크기를 알 수 없다. deep cnn에서 receptive field를 계속 추적하는 것은 불가능할 것. 

각 feature map size가 고정된 fixed-sized CNN feature map시각화와 그 feature은 그것의 receptive field의 center에 위치할 것.

왼쪽 그림
5x5 input
k = 3x3
p = 1x1
s = 2x2
-> : conv연산
파란색 -> 초록색 -> 주황색 
오른쪽 그림: fixed-size CNN visualization
5x5 input
k = 3x3
p = 1x1
s = 2x2
-> : Dilated Conv 연산
파란색 -> 초록색 -> 주황색 

feature은 receptive field location 중심에 마크됨.
feature map 내 모든 features가 같은 receptive field size를 가지기 때문에, 그것을 표현하기 위해 한 feature 주변에 간단히 bounding box를 그릴 수 있다.
input layer까지 타고 내려가서 mapping해줄 필요가 없다는 것.
이미 featuer map이 input size와 같기 때문에.

 

fixed size cnn의 또 다른 예. 7x7 input에 적용

여기서 receptive field size가 두 번째 feature layer의 center feature의 receptive field가 전체 input map을 거의 포괄하는 지점으로  매우 빠르게 확대된다는 것을 주목.(초록색 ->주황색 receptive field로 칠해진 부분이 중심을 기준으로 바깥으로 확대됨) ! deep CNN 설계의 중요한 insight가 된다 !

 

location과 특정 receptive field계산하기

728x90

'Deep Learning > 개념' 카테고리의 다른 글

stochastic function(확률함수)  (0) 2021.06.08
L1, L2 Norm/Regularization  (0) 2021.05.22
Batch Normalization  (0) 2021.04.02
여러가지 Convolution연산  (0) 2021.03.19
GoogleNet(Inception V1)  (0) 2020.12.14