인공지능 11강 - 머신러닝(2) 연속적인 값을 예측하는 선형회귀와 범주를 구분하는 로지스틱 회귀의 가설·비용함수·학습 과정을 살펴본다. 이어서 소프트맥스를 이용한 다항 분류와 레이블 없이 비슷한 표본을 묶는 k-평균 군집화의 원리를 학습한다. 회귀분석과 선형회귀의 개념 회귀분석(regression analysis) 은 독립변수와 종속변수 사이의 관계를 추정하는 기법이다. 독립변수는 예측에 사용하는 입력이고, 종속변수는 독립변수에 따라 달라지는 출력이다. 예를 들어 공부한 시간을 입력 x, 시험 성적을 출력 y로 두면 공부한 시간으로 성적과 같은 연속적인 값을 예측할 수 있다. 선형회귀(linear regression) 는 독립변수와 종속변수 사이의 관계를 선형함수로 모델링한다. 독립변수가 하나인 단순 선형회귀의 가설은 H L (x)=w 0 +w 1 x 이다. w 0 는 직선의 절편, w 1 은 입력 x가 한 단위 변할 때 예측값이 얼마나 변하는지를 나타내는 기울기다. d개의 독립변수 x 1 , x 2 , …, x d 를 사용할 때는 H L (x 1 ,…,x d )=w 0 +w 1 x 1 +…+w d x d 로 나타낸다. 상수항을 위한 첫 성분 1을 포함한 벡터 x와 가중치 벡터 w를 사용하면 H L (x)=w T x 로 간결하게 쓸 수 있다. 구분 독립변수 수 가설의 형태 단순 선형회귀 d=1 H L (x)=w 0 +w 1 x 다중 선형회귀 d≥2 H L (x)=w 0 +Σw j x j =w T x 시험 핵심: 단순 선형회귀와 다중 선형회귀의 구분 기준은 출력변수의 수가 아니라 독립변수의 수다. 선형가설과 평균제곱오차 학습표본을 (x (i) , y (i) )라고 하면 선형가설의 예측값 H L (x (i) )과...