Logistic Regression 분석

  • 이번에는 Neural Network로서의 Logistic Regression에 대해 알아보겠다.

Binary Classification

  • 앞선 글에서 살펴본 Supervised Learning은 두 가지로 나뉜다.
  • 그 두 가지는 Classification과 Regression이다.
  • Classification의 한 종류인 Binary Classification은 두 그룹을 구분짓는 작업이다.
  • 어떠한 사진이 고양인가 아닌가를 결정하는 것이 하나의 예가 될 수 있다.

Deep Learning notation

  • 더 자세히 알아보기 전에 Deep Learning notation에 대해 알아보겠다.
  • Deep Learning에서는 흔히 아래와 같은 notation을 사용한다.

logistic-regression-neural-network

Logistic Regression

  • Logistic Regression은 output이 0 또는 1인 문제를 해결할 때 사용하는 알고리즘이다.
  • 즉, Supervised Learning 중 Binary Classification 문제를 해결할 때 사용되는 알고리즘이다.
  • 아래는 Logistic Regression에 사용되는 Sigmoid 알고리즘의 수식이다.

logistic-regression-neural-network

  • 아래는 Logistic Regression의 Loss Function을 구하는 수식이다.
  • Loss Function은 학습을 통해 얻은 데이터가 실제 데이터와 얼마나 다른지 구하는 함수이다.

logistic-regression-neural-network

  • Loss Function의 값을 최소화 하기 위해 사용하는 알고리즘은 Gradient Descent이다.
  • 아래와 같은 방법으로 구할 수 있다.

logistic-regression-neural-network

관련 글