Sep 25, 2016
Luenberger “Optimization by Vector Space Methods”Ch.3 Hilbert Space(1)
「点から平面への最短の線は垂線」という直感を一般化したい。
Pre-Hilbert Space: 線形空間に内積を入れたもの。内積からノルムが定義されるのでノルム空間でもある。Cauchy-Schwarzの不等式。中線定理。数列空間や関数空間の場合は、p=2のときに内積がdef可。
Hilbert Space: 完備。
直交性: 内積により直交性が定義される。ピタゴラスの定理。射影定理（証明は中線定理によってコーシー列を作る。なので、完備・閉が条件。）
直交補空間: 直交分解可能の証明には射影定理を用いる。なので、完備・閉が条件。
Gram-Schmidt: 正規直交系の構成法。pre-Hilbert上で成立。
正規方程式とグラム行列：正規方程式を解く過程で出てくるのがグラム行列。グラム行列の正則性は、一次独立性と同値。（グラム行列が正則でなくても正規方程式自体は解ける。）グラム行列式によって、最短距離が陽に表せる。（証明にクラメールの公式。あまり実用性はない。）