手帳と試行

学んだことをアウトプットしていきます。 日々、ノートあるのみ。

4/5

線形回帰とカーネル法

線形回帰に「カーネル法」を導入する。

線形回帰と特徴量

正規逆ガンマ分布を事前分布とした場合の線形回帰モデルの事後分布を導出する。

線形回帰モデルと正規逆ガンマ事前分布

正規逆ガンマ分布を事前分布とした場合の線形回帰モデルの事後分布を導出する。

線形回帰モデルと正規事前分布

線形回帰モデルに対して、MAP推定ではなく、事後分布を計算することによるパラメータの推定を考える。

線形回帰モデルのL1正則化

事前分布に独立なラプラス分布を仮定してMAP推定を行なうと、L1正則化の効果が出現する。

線形回帰モデルのL2正則化

事前分布を定数と仮定してMAP推定を行なうと、最尤推定になる。

線形回帰モデルの最尤推定

事前分布を定数と仮定してMAP推定を行なうと、最尤推定になる。

線形回帰モデルの最大事後確率推定

線形回帰モデルに対するMAP推定を取り扱う。

線形回帰モデル

回帰モデルの基本である線形回帰モデルを取り扱う。

ニュートン法

最急降下法の収束性を改善したニュートン法について触れる。