【統計学】分散不均一だと何が問題なのか|不偏性とガウスマルコフ性について
統計学の「分散不均一性」とは何か、なぜ問題となるのかを分かりやすく解説します。回帰分析(OLS)における「不偏性」や「ガウス・マルコフの定理」との関係性、分散不均一が推定に与える影響までを学びたい方におすすめです。
統計学の「分散不均一性」とは何か、なぜ問題となるのかを分かりやすく解説します。回帰分析(OLS)における「不偏性」や「ガウス・マルコフの定理」との関係性、分散不均一が推定に与える影響までを学びたい方におすすめです。
こんにちは、青の統計学です。 今回は、判別タスクに関わる解決手法「カーネルSVM」をご紹介します。 判別タスクは、決定木やロジスティック回帰、線型SVM、k近傍法などたくさんあります。…
こんにちは、青の統計学です。 機械学習アルゴリズムの精度向上において、アンサンブル学習は非常に重要な役割を果たしています。 アンサンブル学習とは、複数の学習アルゴリズムを組み合わせることで、予測精度を向上させる手法です。…
ディープラーニングに必須の「活性化関数」を完全解説。ReLU、Sigmoid、Softmax等の使い分けや特徴を網羅。学習を妨げる勾配消失問題の原因と対策(バッチ正規化や重み初期化など)まで学べる、実務と資格試験に役立つガイドです。
畳み込みニューラルネットワーク(Convolutional Neural Network, CNN)は、画像認識や物体検出などのコンピュータビジョンタスクに広く使用されるディープラーニングの一種です。…
こんにちは、青の統計学です。 今回はデータ量が少ない時に有効な交差検証法の一種、Leave-one-outCVを紹介いたします。 Leave one out CV Leave-One-Out Cross-Validation…
こんにちは、青の統計学です。 今回は教師なし学習の一つ「主成分分析」について解説いたします。 以下の記事よりも数学的背景を重めに取り扱っております。 【共線性解決!?】pythonで主成分分析(PCA)をやってみた…
有限母集団修正(Finite Population Correction, FPC) 有限母集団修正とは、有限母集団からの標本抽出に関連するバイアスを補正するための手法です。 まず、モチベーションから確認していきましょう。…
ゼロ過剰ポアソン分布(ZIP分布)を徹底解説。データに0が多い場合の対処法として、定義や期待値・分散の導出、EMアルゴリズムを用いた最尤推定の手順まで網羅しています。通常のポアソン分布との違いや使い分けを学びたい方におすすめです。統計検定対策にも。
これは直近仕事で抱えている問題を整理するために書き上げたコンテンツです。 今回は、prediction(予測)ではなくidentification(識別)に関する議論です。…
一様分布 一様分布は最もシンプルな連続確率分布の一つで、 「同じ確率で起こる」という直感的な概念を数学的に表現したもの です。 例えばこんな感じです。 サイコロの目の出る確率 ランダムな時刻に電車が到着する待ち時間(特定の時間帯内)…
こんにちは、青の統計学です。 今回は、スパース学習の代表例である、Lasso(回帰)について解説いたします。 正則化項にL2ノルムを使う、リッジ回帰については、以下のコンテンツをご覧ください。…
因果推論の手法「IPW推定量」をわかりやすく解説。IPW(逆確率重み付け)がなぜバイアスを補正できるのか、前提となる傾向スコアの役割から、潜在的アウトカムを用いた数学的背景、Horvitz-Thompson推定量まで、計量経済学の観点で紹介します。
回帰不連続デザイン(RDD)を分かりやすく解説。セレクションバイアスへの対処法や局所的な平均処置効果(LATE)の推定など、因果推論の重要手法を傾向スコアとDIDとの差分を確認しながら、共に学びます。計量経済学やEBPMに興味がある人におすすめです。
こんにちは、青の統計学です。 今回は、正規分布を例に取って、フィッシャー情報量とクラメール・ラオの不等式について深掘りできればと思います。 統計検定準一級の試験範囲にもなっておりますので、この機会に是非理解していきましょう。…
こんにちは、青の統計学です。 今回は、多重共線性への理解を深め、対処などを考察するために論文を読んでみました。 多変量解析をするとなると、大抵はマルチコ(多重共線性)の壁にあたります。…
1. p値の定義と計算方法 1.1 p値の定義 p値 は、統計検定において次のように定義される数値です。 p値 (p-value) 帰無仮説 ${H_0}$ を前提としたとき、観測された検定統計量と同じかそれ以上に極端な値が得られる確率…
今回はハイパーパラメータのチューニング手法の一つである、ベイズ最適について解説いたします。 グリッドサーチやランダムサーチに比べて、短い時間で最適なパラメータを発見できるとされています。…
ラグランジュ未定乗数法の基本をわかりやすく解説。制約付き最適化問題とは何か、多次元での計算手順、ヘッセ行列による二次条件まで。経済学の効用最大化問題を例題に、具体的な解き方をステップバイステップで学びます。
今回は、モデル選択やパラメータチューニングの前に行う、特徴量エンジニアリングについて解説いたします。 中でも、非線形変換は特徴量の偏った分布を正規分布に近づけたりすることができ、高い精度につながることが多いです。…