[선형대수학] Ch 6.1 - Norms and inner products

 우리는 Ax = b 계산할 때, free variable에 대해 basis가 span한 공간의 특성만 나타내고 정확한 해를 구하지는 못했다. 이를 해결하기 위한 것이 이번 장이다. Ax = b를 근사하게 만족하는 근사 해 x를 구하는 방향으로 x를 구할 것이다. 근사 해 구할 때 projection으로 해를 구하는 것이다. 그 전에 벡터의 크기를 무엇인지 알아야 한다.

---

1. 크기는 항상 양수이다.

2. 실수 곱은 크기 구할 때 분리 법칙 적용 가능

3. 두 벡터를 더한 것의 크기는 항상 각각의 크기를 더한 것보다 작다. 3.은 삼각형 변 길이를 추측할 때 쓰이던 방법이다. (제 기억으로는 아마 초등학교 때 했던 걸로..)

밑의 사진을 보면 3.은 더 잘 이해될 것이다.

크기를 구하는 방법은 다음과 같다.

위의 크기를 구하는 방법을 Euclidean Norm 이라고 불린다.

 

내적을 구하는 방법은 다음과 같다.

점 내적과 관련된 벡터 내적이며, 사실 여기까지는 기하에서 다 배운 내용일 것이다. 앞으로 이 점 내적이 항상 맞는 것은 아닐 것이기에 복습하는 느낌으로 내적의 공식은 이랬지 하고 넘어간다.

 

내적을 표시하는 방법이 있다. 바로 <x, y>으로 표시한다. 이와 관련하여 성질도 다음과 같다.

6.2 성질과 w에 alpha, beta가 붙을 때의 분리 법칙 또한 가능하면, <u,w>를 bilinear하다고 한다. 

pf)

 

 

Norm과 관련된 부등식 이론은 다음과 같다.

pf)

u, v가 zero vector일 때는 자명한 사실. 

u, v가 nonzero vector일 때를 보자. <u, u> = <v, v>=1 인 경우를 살펴보자. 6.3에 의해 <u-v, u-v> \(\geq\) 0을 만족한다. 여기에 6.2 성질을 적용하면, 

\[<u-v, u-v> = <u, u> - 2<u,v> + <v,v> = 2 - 2<u,v>\]

\[2-2<u,v> \geq 0 \quad \Rightarrow \quad <u,v> \leq 1\]

위의 증명으로 <u+v, u+v> \(\geq\) 0을 만족하면서 이는 \(-1\leq <u,v>\) 로 도출되면서, \( \left| <u,v> \right| \leq 1\)을 만족함을 알 수 있다. 

 

이제 general한 case를 보자면, u,v가 nonzero vector이고, \(u, v \in V\)일 때, \(\hat{u}\)과 \(\hat{v}\)을 다음과 같이 정의해보자.

\[\hat{u} = <u,u>^{-1/2}u, \quad \quad \hat{v} = <v,v>^{-1/2}v\]

이때, u hat의 크기는 

1을 만족하면서, v hat에 대해서도 했을 때도 1이 나온다. 이는  \( \left| <\hat{u},\hat{v}> \right| \leq 1\) 을 만족한다. 이는, 

을 만족하면서, 최종적으로

을 만족하면서 이론을 증명했다. 

 

이제 이를 이용해서 벡터의 내적(inner product)을 구하도록 해보자.

pf)

definition 265의 1~3을 다 만족하는지 확인하면 된다.

1) 3)을 증명하면서 같이 증명 가능하다.

2) \(\alpha \in R\)과 어느 \(v \in V\)에 대해 다음을 만족한다.

\[ ||\alpha u || = \sqrt{<\alpha u, \alpha u>} = \sqrt{\alpha^{2}}\sqrt{<u,u>} = \left| \alpha \right|||u|| \]

3) triangle inequality로, Cauchy-Schwarz inequality를 이용하면 다음과 같다.

\[||u+v||^{2} = <u+v, u+v> = <u,u> + 2<u,v> + <v,v> = ||u||^{2} + 2<u,v> + ||v||^{2}\]

\[ \leq ||u||^{2} + 2||u||||v|| +||v||^{2} = (||u||+||v||)^{2}\]

||u+v|| \(\leq\) ||u|| + ||v|| 를 만족한다.

 

---

이제 Norms와 inner product를 이용한 summation을 더 볼 것이다.

보통 점 곱은 다음과 같이 정의된다.

\[x \cdot y = \sum_{i=1}^{n} x_iy_i \quad for \quad all \quad x, y \in R^{n}\]

이 점 곱은 Euclidean inner product라고 한다. 이에 관한 Euclidean norm은 다음과 같다.

\[||x||_{2} = \sqrt{\sum_{i=1}^{n} x_i^{2}} \quad for \quad all \quad x \in R^{n}\]

이를 일반화하면 다음과 같으며, \(l^{p}\)  norm라고 불린다.

\[||x||_p = [\sum_{i=1}^{n} \left| x_i \right|^{p} ]^{1/p} \quad for \quad all \quad x \in R^{n} \]