共変量シフトって結局なんなのか?|i.i.dを正しく理解する
機械学習の前提であるi.i.d.仮定と、それが崩れる「共変量シフト」の本質を数学的に解説。訓練データとテストデータの分布変化がモデル精度に与える影響や、重要度サンプリング・密度比推定(IW-ERM)による具体的な補正方法まで網羅した理論ガイドです。
機械学習の前提であるi.i.d.仮定と、それが崩れる「共変量シフト」の本質を数学的に解説。訓練データとテストデータの分布変化がモデル精度に与える影響や、重要度サンプリング・密度比推定(IW-ERM)による具体的な補正方法まで網羅した理論ガイドです。
重回帰分析とOLS 重回帰分析は、1つの目的変数と複数の説明変数の間の関係を分析する手法です。 具体的な定義の前に、使い道を確認しておきましょう。…
こんにちは、青の統計学です。 今回は、スパース学習の代表例である、Lasso(回帰)について解説いたします。 正則化項にL2ノルムを使う、リッジ回帰については、以下のコンテンツをご覧ください。…
ランダムフォレストの仕組みを、アンサンブル学習の基礎であるバギングやブートストラップ法からわかりやすく解説。決定木との違いや過学習を防ぐ理由、スタッキングとの比較も網羅。
機械学習の問題は回帰問題と分類問題に大別されます。 そして、分類問題の指標でよく扱われるかつ、不均衡問題で威力を発揮する「ROC曲線」と「AUC」について今回は解説していきます。…
リッジ回帰とは、重回帰分析の一つであり、機械学習には厄介な「多重共線性」の影響を少なくできる手法のひとつです。 複雑なデータをモデルに当てはめるときには、一般に多くの説明変数を使って表現をしますが、…
機械学習における「決定木」の仕組みと数学的背景(ジニ不純度・エントロピー)をわかりやすく解説。CART法や剪定による過学習対策、線形回帰との違いまで網羅しています。データサイエンスの基礎から実装理論まで、最適な完全ガイドです。
単回帰分析 教師あり学習 今回は、教師あり学習の基礎中の基礎である「単回帰分析」を実装します。 教師あり学習とは、説明変数(インプット)から目的変数(アウトプット)を予測するモデルを求める手法です。…
ガウス過程回帰(Gaussian Process Regression)の仕組みを、数学的定義から実務応用まで網羅。RBFカーネル等の共分散関数の役割、ベイズ統計に基づく事前分布・事後分布の更新フローを解説します。回帰分析における非線形モデリング、予測分散を用いた信頼区間の可視化など、データサイエンスの幅を広げる技術を習得しましょう。
ロジスティック回帰とは?0か1の二値分類を行う機械学習の手法を、一般化線形モデル(GLM)や二項分布との関連、オッズの解釈を含めてわかりやすく解説。コードによる実践例も紹介します。