본문 바로가기

부스트캠프 AI Tech/AI_Math

[01] Vector

Vector


  • Vector
    • 숫자를 원소로 가지는 list 또는 array
    • 공간에서 한 점 (원점으로부터 상대적 위치) 표현
    • 스칼라곱 시 방향은 그대로, 길이만 변함
    • 두 벡터의 덧셈: 다른 벡터로부터 상대적 위치 이동
  • 벡터의 노름(norm)
    • 원점에서부터의 거리
  • L1 norm
    • $\Vert x \Vert_1 = \sum_{i=1}^{d}\Vert x_i \Vert$
    • 각 성분의 변화량의 절대값의 합
    • robust 학습, lasso 회귀
  • L2 norm
    • $\Vert x \Vert_2 = \sqrt{\sum_{i=1}^{d} \vert x_i \vert^2}$
    • 피타코갈스 정리를 이용해 유클리드 거리 계산
    • laplace 근사, ridge 회귀
  • 두 벡터 사이의 거리
    • $\Vert y - x \Vert = \Vert x - y \Vert$
  • 두 벡터 사이의 각도
    • $\Vert y - x \Vert _2 = \Vert x - y \Vert _2$
    • $cos\theta = \frac{ \Vert x \Vert _2^2 + \Vert y \Vert _2^2 - \Vert x - y \Vert _2^2}{2 \Vert x \Vert _2 \Vert y \Vert _2}$ (제 2 코사인법칙)
    • $cos\theta = \frac{\lt x, y\gt}{ \Vert x \Vert _2 \Vert y \Vert _2}$
    • $\lt x, y\gt = \sum_{i=1}^d{x_iy_i}$ (내적, inner product) np.inner()
  • 내적의 해석
    • 정사영(orthogonal projection)된 벡터의 길이와 관련이 있음
    • proj(x) = 벡터 y로 정사영된 벡터 x의 그림자 길이
    • $proj(x) = \Vert x \Vert cos\theta$
    • $\lt x, y\gt = \Vert x \Vert _2 \Vert y \Vert _2cos\theta$
    • 내적: 정사영의 길이를 $\Vert y \Vert$ (벡터 y의 길이)만큼 조정한 값
    • 두 벡터의 유사도(similarity) 측정에 사용 가능

'부스트캠프 AI Tech > AI_Math' 카테고리의 다른 글

[06] 확률론  (0) 2022.01.16
[05] 딥러닝 학습방법 이해하기  (0) 2022.01.16
[04] 확률적 경사하강법 SGD  (0) 2022.01.15
[03] 경사하강법  (0) 2022.01.15
[02] 행렬  (0) 2022.01.15