手帳と試行

勾配法による連続最適化の基本となる最急降下法について軽く触れる。

機械学習の理論を取り扱うとき、しばしばベクトルや行列を巻き込んだ微分計算に遭遇する。そのようなときに困惑しないよう、考え方を整理しておく。

統計学に関連する分野を学んでいると、2次形式への「平方完成」なる操作を要求されることがある。これをきちんとできるようにしておく。