Basic information of Statistics

-
이번 글에서는 통계학에서 기본적으로 사용되는 용어, 개념들을 정리하였다.

  • Sample space (표본공간)
: The sample space S is a set that contains all possible experimental outcomes.

  • Experiment (실험)
: Any process for which more than one outcome is possible. (Any process that generates data)

  • Event (사건)
: A subset of the sample space S

  • Random variable
: A function that assigns real number to each element of sample space.
Real\;numbers = f(Elements\;of\;the\;sample\;space)



확률 변수의 종류

1. Discrete random variables (이산확률변수)
: Outputs of a random variable are finite discrete (countable) values. (0, 1, 2, ...)

2. Continuous random variables (연속확률변수)
: Outputs of a random variable are continuous (uncountable) values.



  • Probability function (f)
p = f(x)
x\;:\;Real\;numbers\;that\;the\;Random\;variables\;can\;take
0 \leq p \leq 1

x가 이산확률변수이면, f는 Probability mass function (p.m.f. : 확률질량함수) 이고
x가 연속확률변수이면, f는 Probability density function (p.d.f. : 확률밀도함수) 이다.



Probability mass function (pmf : 확률 질량 함수)

  • For a discrete random variable X
  • Let x be a possible value of X
  • The probability that is assigned to the values of X, P[X=x]
  • A discrete random variable X has probability mass function (p.m.f.)
f(x) = P[X = x]



Expectation (E, mean)

For a discrete random variable X with p.m.f. p(x)
E[X] = \sum_i x_i p (x_i)
E[X] is an expected value of a random variable X.
More precisely, E[X] is weighted average of the possible values of X, where each value is weighted by the probability that it will occur.

  • E[c] = c,\;\;\;\;c\;:\;constant
  • E[cX] = cE[x]
  • E[cX+d] = cE[x] + d,\;\;\;\;d\;:\;constant
  • E\big[\sum_{i=1}^n X_i \big] = \sum_{i=1}^n E[X_i]

Variance (V, Var)

For a discrete random variable X with mean \mu, the variance of X denoted by V(X) is defined by
V[X] = E[(X-\mu )^2]
Variance can be interpreted as the expected squared deviation about its mean.
Variance shows how much variation (or dispersion) from the expected value.
Variance cannot be negative.
\begin{align*} V(X) &= E[(X-E[X] )^2]\\ &= E[X^2 - 2XE[X] + E[X]^2 ] \\ &= E[X^2] - 2E[X]^2 - E[X]^2 \\ &= E[X^2] - E[X]^2 \end{align*}

  • V(c) = 0
  • V(cX) = c^2V(X)
  • V(cX+d) = c^2V(X)

The squared root of the V(X) is called the standard deviation of random variable X.
SD[X] = \sigma = \sqrt{V(X)}



Mean Vectors

Let X and Y be random matrices of the same dimension, and A and B be matrices of constant.
E(X) = \begin{bmatrix}E(X_1)\\E(X_1)\\ \vdots \\ E(X_p) \end{bmatrix} = \begin{bmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_p \end{bmatrix} = \mathbf{\mu}

E(X+Y) = E(X)+E(Y)
E(AXB) = AE(X)B



Covariance Matrix (공분산 행렬)

\begin{align*}\Sigma(X) &= E[(X-\mu)(X-\mu)^T] \\ & \\ &= \begin{bmatrix} E[(X_1-\mu_1)(X_1-\mu_1)] & E[(X_1-\mu_1)(X_2-\mu_2)] & \cdots & E[(X_1-\mu_1)(X_p-\mu_p)]\\ E[(X_2-\mu_2)(X_1-\mu_1)] & E[(X_2-\mu_2)(X_2-\mu_2)] & \cdots & E[(X_2-\mu_2)(X_p-\mu_p)]\\ \vdots & \vdots &  \ddots & \vdots \\ E[(X_p-\mu_p)(X_1-\mu_1)] & E[(X_p-\mu_p)(X_2-\mu_2)] & \cdots &  E[(X_p-\mu_p)(X_p-\mu_p)] \end{bmatrix} \\ & \\ &= \begin{bmatrix} \sigma_{11} & \sigma_{12} & \cdots & \sigma_{1p} \\ \sigma_{21} & \sigma_{22} & \cdots & \sigma_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ \sigma_{p1} & \sigma_{p2} & \cdots &  \sigma_{pp} \end{bmatrix} \end{align*}


Correlation Matrix (상관계수 행렬)

\begin{align*} \rho_X &= \begin{bmatrix} \frac{\sigma_{11}}{\sqrt{\sigma_{11}}\sqrt{\sigma_{11}}} & \frac{\sigma_{12}}{\sqrt{\sigma_{11}}\sqrt{\sigma_{22}}} & \cdots & \frac{\sigma_{1p}}{\sqrt{\sigma_{11}}\sqrt{\sigma_{pp}}} \\  \frac{\sigma_{21}}{\sqrt{\sigma_{22}}\sqrt{\sigma_{11}}} & \frac{\sigma_{22}}{\sqrt{\sigma_{22}}\sqrt{\sigma_{22}}} & \cdots & \frac{\sigma_{2p}}{\sqrt{\sigma_{22}}\sqrt{\sigma_{pp}}} \\ \vdots &\vdots & \ddots & \vdots \\ \frac{\sigma_{1p}}{\sqrt{\sigma_{11}}\sqrt{\sigma_{pp}}} & \frac{\sigma_{2p}}{\sqrt{\sigma_{22}}\sqrt{\sigma_{pp}}} & \cdots & \frac{\sigma_{pp}}{\sqrt{\sigma_{pp}}\sqrt{\sigma_{pp}}} \end{bmatrix} \\ & \\ &= \begin{bmatrix} 1& \rho_{12} & \cdots & \rho_{1p} \\  \rho_{21} & 1 & \cdots & \rho_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ \rho_{p1} & \rho_{p2} & \cdots & 1 \end{bmatrix} \end{align*}



Let X_1 and X_2 are random variables and a,\,b,\,c are constant values.
E(cX_1) = cE(X_1) = x\mu_1
Var(cX_1) = E(cX_1 - c\mu_1)^2 = c^2 Var(X_1) = c^2 \sigma
Cov(aX_1,bX_2) = ab\,Cov(X_1,X_2)

For the linear combination aX_1 + bX_2
E(aX_1 + bX_2) = aE(X_1) + bE(X_2) = a \mu_1 + b \mu_2
\begin{align*} Var(aX_1 + bX_2) &= a^2 Var(X_1) + b^2 Var(X_2) + 2ab \, Cov(X_1,X_2) \\ &= a^2 \sigma_{11} + b^2 \sigma_{22} + 2ab\sigma_{12} \end{align*}


With C^T = [a,b], aX_1 + bX_2 can be written as
aX_1 + bX_2 = \begin{bmatrix} a & b \end{bmatrix} \begin{bmatrix} X_1 \\ X_2 \end{bmatrix} = C^T X
E(aX_1 + bX_2) = E(C^T X) = C^T E(X) = \begin{bmatrix} a & b \end{bmatrix} \begin{bmatrix} \mu_1 \\ \mu_2 \end{bmatrix} = a \mu_1 + b \mu_2
Var(aX_1 + bX_2) = V(C^T X) = C^TV(X)C = a^2 \sigma_{11} + b^2 \sigma_{22} + 2ab\sigma_{12}



The linear combination C^TX = C_1X_1 + C_2X_2 +\cdots + C_pX_p
E[C^TX] = C^T\mu_X
Var[C^TX] = C^T\Sigma_X C


In general, consider the q linear combinations of the p random variables X_1,X_2,\cdots,X_p. Let C be a matrix of constant.
Z = \begin{bmatrix}Z_1\\Z_2\\\vdots \\ Z_q \end{bmatrix} = \begin{bmatrix} C_{11} & C_{12} & \cdots & C_{1p} \\ C_{21} & C_{22} & \cdots & C_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ C_{q1} & C_{q2} & \cdots & C_{qp} \end{bmatrix} \begin{bmatrix} X_1 \\ X_2 \\ \vdots \\ X_p \end{bmatrix} = CX
\mu_Z = E(Z) = E(CX) = CE(X) = C \mu_X
\Sigma_X = Cov(Z) = Cov(CX) = C\,Cov(X)C^T = C \Sigma_X C^T



※ 이 글은 고려대학교 산업경영공학과 김성범 교수님의 예측모델 강의를 정리하고, 공부한 내용을 바탕으로 작성되었습니다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

One-Class SVM & SVDD

-
이미지
03_6 : Anomaly Detection : Auto-Encoder, 1-SVM, SVDD MoG와 같은 밀도기반 방법론들은 특정 객체가 정상범주에 속할 확률을 구했다. 반면 Support vector 기반 방법론들은 normal과 abnormal을 구분하는 분류경계면을 찾는다. 이번 글에서는 Support vector 기반의 Anomaly detection 방법 중 one-class SVM과 SVDD를 알아보자. One-class Support Vector Machine (1-SVM, OCSVM) 1-SVM의 목표는 Data를 feature space로 mapping 한 뒤, 분류경계면을 통해 mapping된 Data 중 normal data들이 원점으로부터 최대한 멀어지게 만드는 것이다. 위 그림에서 파란색 분류경계면이 (+1) normal data들을 구분하는 것을 확인할 수 있다. 이 목표를 수식화 한 Optimization problem부터 살펴보자. Optimization Problem \min_{\textbf{w}}\;\;\;\frac{1}{2}||\textbf{w}||^2 + \frac{1}{\nu l} \sum_{i=1}^l \xi_i - \rho s.t.\;\;\;\textbf{w}\cdot \Phi (x_i) \geq \rho - \xi_i\;\;\;\;(i=1,2,\cdots,l),\;\;\xi_i\geq 0 \frac{1}{2}||\textbf{w}||^2 term은 SVR과 같이 x의 변화에 따른 변동이 크지 않도록 Regularization을 하는 term이다. \rho는 위 그림에서 주황 직선을 나타내는데, 원점과 분류경계면 Hyperplane과의 거리를 나타낸다. 이 값을 뺌으로써 최소화 문제를 만족하는 최적해일때 \rho가 최대가 되도록 한다. (원점에서 Hyperplane이 최대한 멀어지게 만든다) \frac{1}{\nu l} \sum_{i=1}^l \xi_i term은 제약식에 따라 Hyp...
자세한 내용 보기

Support Vector Regression (SVR)

-
이미지
02_4 : Kernel based learning : Support Vector Regression (SVR) 앞에서 공부했던 SVM은 binary classification을 하기 위한 방법이었다. 이번 글에서 알아볼 SVR은 함수를 추정하여 연속적인 수치변수를 예측하는 회귀 방법이다.  SVR을 알아보기에 앞서 우리가 하려는 함수추정의 목적을 살펴보자. Fitting function 함수를 추정하고 싶을 때 우리의 목적은 크게 2가지로 나뉜다. Minimize an error measure (Loss function) 한마디로 error를 최소화 하여야 한다. (잘 맞춰야 한다) Function to be simple 같은 성능이라면, 함수는 최대한 단순해야 한다. 함수가 단순하다는 뜻은 아래의 조건들을 의미한다. Fewest basis functions Simplest basis functions Flatness is desirable Support Vector Regression (SVR) 위에서 살펴보았던 Loss function과 Flatness를 반영하도록 목적함수를 만들 것이다. SVR에도 여러 종류가 있는데, 우선 \varepsilon-SVR에 대하여 알아보자. 현실의 Data들은 어쩔 수 없이 발생하는 noise가 존재한다. 아래 식에서 noise는 \varepsilon이다. y = f(x)+\varepsilon \varepsilon-SVR에서 핵심 아이디어는 \varepsilon 보다 작은 noise에 대해서는 Loss를 주지 말자는 것이다.  왼쪽 그림에서 색이 칠해진 영역을 Epsilon-tube 라고 하는데, 이 영역안에 있는 객체들에게는 Loss를 부여하지 않는다. 이를 위한 Loss function은 오른쪽에 표현된다. 이 Loss function은 hinge를 닮았다고 해서, Hinge Loss 라고 불린다. 차이가 \varepsilon 보다 작은 경우 loss는 0이고, $\vareps...
자세한 내용 보기

Support Vector Machine (SVM) - Soft margin

-
이미지
02_3 : Kernel based learning : Support Vector Machine (SVM) - Soft margin 이전 글에서는 Hard margin을 사용하는 SVM에 대하여 알아보았다. 이번에는 Soft margin을 사용하는 경우를 알아보자.  SVM - Case 2 : Linear case & Soft margin 지금까지는 분류경계면에 대하여 margin을 넘어가는 객체가 없다고 가정하고 Hard margin을 적용하였다. 하지만 실제 데이터에는 noise가 존재하기 때문에 위와 같은 경우가 발생하기 마련이다. 위의 경우에 Hard margin을 사용하면 분류경계면의 생성이 불가능하다. 그래서 모든 객체가 margin의 밖에 존재해야 한다는 제약을 제거하고 margin 안쪽에도 존재할 수 있도록 예외를 허용해주는 방법이 Soft margin이다. 물론 margin 안쪽에 존재하는 경우를 그냥 허용하는 것이 아니라 Penalty를 준다.  위 예시에서 \xi에 해당하는 값이 error 객체에 대한 Penalty이다. Penalty를 부여하는 방법에 따라 C-SVM과 nu-SVM으로 나뉘는데, 이 글에서는 C-SVM에 대하여 알아볼 것이다. Optimization problem (C-SVM) - Objective function min\;\;\;\;\frac{1}{2}||\textbf{w}||^2+C\sum_{i=1}^N\xi_i - Constraints s.t.\;\;\;\;y_i(\textbf{w}^T\textbf{x}_i+b)\geq 1-\xi_i,\;\;\;\xi_i\geq 0,\;\;\forall i Objective function의 \frac{1}{2}||\textbf{w}||^2은 기존의 Hard margin에서 사용했던 Margin이 최대화 되도록 한다. 그리고 위에서 말했던 Penalty를 주는 부분이 C\sum_{i=1}^N\xi_i식이다. 이 식을 통해 예외를 허...
자세한 내용 보기