개인학습 기록용 포스팅입니다
AI하려면 수학을 해야해요 맞아요 미적분 특히요 그쵸
#선형 회귀에 대하여
(1) 문제를 정의하고 가정하기
다리 개수에 따른 속도'에 대한 케이스를 데이터셋으로 나타내보자
| 다리수 | 속도 |
| 2 | 30 |
| 3 | 62 |
| 4 | 87 |
| 5 | 126 |
| 6 | 158 |
(2) 직관적으로 계산해보기
다리의 개수가 많을수록 속도도 빨라지는 선형적인 모습을 띄게되는 데이터다. 따라서 수식은 아래와 같다
(3) 가설을 세우기, 단순 선형 회귀 가설
위의 함수를 토대로 기계에게 전달할 함수를 아래로 표시하자.
(4) 단순 선형 회귀 가설
이때, 이 선이 중구난방으로 그어질 수 있는 문제가 있다
따라서 이를 해결하기 위해 오차 비용을 계산하게된다
(5) i에 대한 비용을 계산하기
쉽게말해 오차인 건데, 표로 표현하면 대충 이런느낌이다
| 2 | 3 | 4 | 5 | 6 | |
| 실제값(y) | 30 | 62 | 87 | 126 | 158 |
| 예측값(H) | 30 | 60 | 90 | 120 | 150 |
| 오차값(cost) | 0 | 2 | -3 | 6 | 8 |
# 평균제곱오차
: (예측값-실제값 =오차값) 이 음수가 나올 경우
(1) 평균제곱오차 비용함수
(2) 그 외
- 경사하강법 - 최적화
- 경사하강법 - 학습률
- 확률적 경사 하강법
은 소주제로 다음에 포스팅.
# 개선 알고리즘
- 딥러닝 신경망은 2차원의 그래프로만 나타내기 어렵다, 즉 계란판처럼 보다 입체적인 3차원의 표현이 필요
- 계란판처럼 여러 개의 볼록한 모양이란 건 local minimum, 최소값이 여러 개 존재한다는 말을 내포한다
- 문제점을 개선하기 위한 Momentum, Adagrad, RMSprop, Adam 등의 최적화 알고리즘 有
Momentum : 관성이 있음, 지역적최소값, 전역적최소값 어쩌구
# 단순/다중 입력 선형 회귀
(1) 다중 선형회귀
다중 선형회귀: 독립변수가 여러 개고, 독립변수와 종족 변수 간의 관계가 선형인 형태 의미. x가 많다는 거다.
(2) 다중 선형회귀로 가설세우기
인공지능한테 던져줄 식임.
* 독립 변수의 수에 상관없이 행렬로 표현하기
- 독립변수가 너무 많아서 행렬로 표현.