ロジスティック回帰の形式的定義

ロジスティック回帰を実装する前に,この手法について簡単に復習します.

変数を定義します. 単純ベイズ:カテゴリ特徴の場合 とほぼ同じ表記を用いますが,特徴はカテゴリ値ではなく,実数値をとります.

  • 特徴量 \(\mathbf{x}_i=(x_{i1}, \ldots, x_{iK})\) の要素 \(x_{ij}\) は実変数です. ただし, \(K\) は特徴の種類数です.
  • クラス \(y\) は, \(\{0, 1\}\) のうちの一つをとります.
  • データ集合は \(\mathcal{D}=\{\mathbf{x}_i, y_i\},\,i=1,\ldots,N\) です. ただし, \(N\) はデータ数です.

ロジスティック回帰では, \(\mathbf{x}\) が与えられたときの \(y\) の条件付き確率を次式でモデル化します.

(1)\[ \Pr[y{=}1 | \mathbf{x}; \mathbf{w}, b] = \mathrm{sig}(\mathbf{w}^\top \mathbf{x} + b)\]

ただし, \(\mathbf{w}\) は次元数 \(K\) の重みベクトル, \(b\) は切片(バイアス)と呼ばれるパラメータです. また, \(\mathrm{sig}(a)\) は次のシグモイド関数です.

\[\mathrm{sig}(a) = \frac{1}{1 + \exp(-a)}\]

学習には,正則化の度合いを決める超パラメータ \(\lambda\) を導入した次の目的関数を用います.

(2)\[\begin{split} \mathcal{L}(\mathbf{w}, b; \mathcal{D}) & = - \log \sum_{(\mathbf{x}_i, y_i) \in \mathcal{D}} \Pr[y_i | \mathbf{x}_i; \mathbf{w}, b] + \frac{\lambda}{2} \left({\|\mathbf{w}\|_2}^2 + b^2\right) \\ &= - \sum_{(\mathbf{x}_i, y_i) \in \mathcal{D}} \left\{ (1 - y_i) \log(1 - \Pr[y_i{=}1 | \mathbf{x}_i]) + \right.\\ & \qquad\left. y_i \log \Pr[y_i{=}1 | \mathbf{x}_i] \right\} + \frac{\lambda}{2} \left({\|\mathbf{w}\|_2}^2 + b^2\right)\end{split}\]

なお, \(\Pr[y|\mathbf{x}]\) 中のパラメータは簡潔のため省略しました. この目的関数は,訓練データ集合 \(\mathcal{D}\) に対する負の対数尤度に \(L_2\) 正則化項を加えたものです. ロジスティック回帰モデルでの学習は,この目的関数を最小にするパラメータ \(\mathbf{w}\)\(b\) を求めることです.

(3)\[ \{ \mathbf{w}^\ast, b^\ast \} = \arg \min_{\{\mathbf{w}, b\}} \mathcal{L}(\mathbf{w}, b; \mathcal{D})\]

この最小化問題は反復再重み付け最小二乗法 (iteratively reweighted least squares method) により求めるのが一般的です. しかし,本章では,他の多くの最適化問題として定式化された機械学習手法の実装の参考となるように, SciPyの非線形最適化用の関数を利用して解きます. 非線形最適化では目的関数の勾配も利用するので,ここに追記しておきます.

(4)\[\begin{split} \frac{\partial}{\partial\mathbf{w}} \mathcal{L}(\mathbf{w}, b; \mathcal{D}) & = \sum_{(\mathbf{x}_i, y) \in \mathcal{D}} (\Pr[y_i{=}1 | \mathbf{x}_i] - y_i) \mathbf{x} + \lambda \, \mathbf{w} \\ \frac{\partial}{\partial b} \mathcal{L}(\mathbf{w}, b; \mathcal{D}) & = \sum_{(\mathbf{x}, y) \in \mathcal{D}} (\Pr[y_i{=}1 | \mathbf{x}_i] - y_i) + \lambda \, b\end{split}\]

学習したパラメータ \(\mathbf{w}^\ast\)\(b^\ast\) を式 (1) に代入した分布 \(\Pr[y | \mathbf{x}; \mathbf{w}^\ast, b^\ast]\) 用いて,新規入力データ \(\mathbf{x}^\mathrm{new}\) に対するクラス \(y\) は次式で予測できます.

(5)\[\begin{split}y = \begin{cases} 1, \text{ if } \Pr[y | \mathbf{x}; \mathbf{w}^\ast, b^\ast] \ge 0.5 \\ 0, \text{otherwise} \end{cases}\end{split}\]