Articles in this series
본 강좌에서는 최적화(Optimization) 문제에서 나오는 여러가지 용어들에 대한 명확한 정의와 컨셉만을 집고 넘어간다. Generalization 인공지능에서 일반화(Generalization)란 학습된 모델이 unseen data에 대해 얼마나 잘 작동하는지를...
조건부 확률이란? 베이즈 통계학을 이해하기 위해서는 조건부 확률의 개념을 이해해야 한다. 조건부 확률 $P(A|B)$는 사건 B가 일어난 상황에서 사건 A가 발생할 확률을 의미한다. 조건부 확률을 계산하는 방법은 두 개의 사건 A와 B가 있을 때 두 사건의 교집합이...
모수가 뭐에요? 통계적 모델링은 적절한 가정위에서 확률분포를 추정(inference)하는 것이 목표이며, 기계학습과 통계학이 공통적으로 추구하는 목표이다. 실제로 사용할 수 있는 분포의 종류도 굉장히 다양하여 어떤 확률 분포를 사용해서 모델링하는 것도 중요한...
딥러닝에서 확률론이 왜 필요한가요? 기계학습에서 사용되는 손실함수(loss function)들의 작동 원리는 데이터 공간을 통계적으로 해석해서 유도하게 된다. 회귀 분석에서 손심함수로 사용되는 $L_2$ 노름은 예측오차의 분산을 가장 최소화하는 방향으로 학습을...
신경망을 수식으로 분해해보자 행벡터 $O_i$는 데이터 $X_i$와 가중치 행렬 $W$ 사이의 행렬곱과 절편 $b$ 벡터의 합으로 표현된다고 가정해보자. 행렬은 (1) 데이터를 모아 놓은 행렬($X$)과 (2) 데이터를 다른 공간으로 보내주는 연산자($W$) 역할이...
선형회귀분석 n개의 변수로 데이터로 이뤄져 있는 상황에서 이를 가장 잘 표현하는 선형 모델을 찾는 문제가 선형회귀분석이다. 변수의 개수보다 식의 개수가 더 많아지는 경우 (n > m), 무어-펜로즈 역행렬을 이용해서 선형 모델에 해당하는 선형회귀식을 찾을 수가...
