딥러닝뽀개기 딥러닝뽀개기

[딥러닝]규제화(Regularization) 1. 의의 2. 효과 3. 규제 종류 4. 코딩 ===================== [딥러닝]규제화(Regularization) 1. 의의 ○ 과대적합(overffing)을 방지하는 방법 중 하나 - 과대적합은 가중치의 매개변수 값이 커서 발생하는 경우가 많음. - 이를 방지하기 위해 큰 가중치 값에 큰 규제를 가하는 것 ○ 규제 - 가중치의 절대값을 가능한 작게 만드는 것 - 가중치의 모든 원소를 0에 가깝게 하여 모든 특성이 출력에 주는 영향을 최소한으로 만드는 것을 의미 - 기울기를 작게 만드는 것을 의미 ○ 적절한 규제값을 찾는 것이 중요 2. 효과 ○ 가중치의 분포가 더 균일하게 됨. ○ 복잡한 네트워크일수록 네트워크의 복잡독에 제한을 두어 가중치..