相互情報量の定義とその重要性をわかりやすく解説 | KLダイバージェンス
相互情報量とは何か？この記事では、情報理論の重要概念である相互情報量の定義と性質を、エントロピーやKLダイバージェンスとの関係からわかりやすく解説。機械学習での活用法（変数選択など）も紹介します。
統計学応用
【図解あり】ヤコビアンをわかりやすく解説【統計検定】
はじめに こんにちは、青の統計学です。 今回は、ヤコビアンをテーマに解説をします。これは、多変数関数の振る舞いを理解するためのツールであり、特に変数の変換や最適化問題においてその真価を発揮します。…
【完全ガイド】MCMC法についてわかりやすく解説|ベイズ推定
【MCMC法の完全ガイド】ベイズ推定で用いられるMCMC法（マルコフ連鎖モンテカルロ法）を基礎からわかりやすく解説。ベイズの定理、次元の呪い、マルコフ連鎖の概念から、具体的なMHアルゴリズムまでを網羅します。
【AICで使う】KL divergence(カルバック-ライブラー情報量)をわかりやすく解説|python
こんにちは、今回はKL divergenceを解説します。 KL divergenceは、2つの確率分布間の相違を測定するために使用され、NLPにおける文書や単語の分布を比較する際に役立ちます。…
【統計学】分散不均一だと何が問題なのか|不偏性とガウスマルコフ性について
統計学の「分散不均一性」とは何か、なぜ問題となるのかを分かりやすく解説します。回帰分析（OLS）における「不偏性」や「ガウス・マルコフの定理」との関係性、分散不均一が推定に与える影響までを学びたい方におすすめです。
【統計検定】有限母集団修正についてわかりやすく解説｜無限母集団との違い
有限母集団修正（Finite Population Correction, FPC） 有限母集団修正とは、有限母集団からの標本抽出に関連するバイアスを補正するための手法です。 まず、モチベーションから確認していきましょう。…
【統計検定】フィッシャー情報量とクラメール・ラオの不等式について解説|python
こんにちは、青の統計学です。 今回は、正規分布を例に取って、フィッシャー情報量とクラメール・ラオの不等式について深掘りできればと思います。 統計検定準一級の試験範囲にもなっておりますので、この機会に是非理解していきましょう。…
【論文解説】多重共線性は回帰分析にどのような影響を与えるのか
こんにちは、青の統計学です。 今回は、多重共線性への理解を深め、対処などを考察するために論文を読んでみました。 多変量解析をするとなると、大抵はマルチコ（多重共線性）の壁にあたります。…
【確率分布の特徴を知りたい】モーメント法をわかりやすく解説
モーメント法とは？確率分布の平均や分散などの特徴を捉える「モーメント」を使い、パラメータを推定する仕組みを数学的背景から解説。統計検定準1級対策にも最適です。
マルコフ連鎖をわかりやすく解説【MCMC法への応用】
マルコフ連鎖の基本原理（マルコフ性・推移確率行列）と定常分布についてわかりやすく解説。さらに、ベイズ統計学で重要なMCMC法（マルコフ連鎖モンテカルロ法）への応用として、MH法やギブスサンプリングとの関係性もPythonコード例と共に紹介します。
【期待値の応用】モーメント母関数(積率母関数)について
統計検定準一級には、積率母関数についての問題があります。 マクローリン展開や合成関数の微分の知識が必要なことから、避けられがちですが、使う分には便利なものです。 今回は、モーメント法と積率母関数について解説します。…
【MSEを最小化】ガウス・マルコフの定理と最良線形不偏推定量について
回帰分析等で算出した推定量を評価するとき、どのような指標があるでしょうか。 これまでは、一致性や不偏性を取り上げてきました。簡単に復習しましょう。 一致性(consistency)：…
【統計検定準一級】ランダムウォークとマルチンゲールの話。
こんにちは、青の統計学です。 統計検定準一級では、「この確立過程Sは、マルチンゲールかどうか？」という問題が出ることがあります。 マルコフ性と並んで登場する「マルチンゲール」に、とっつきにくさを感じた方も多いと思います。…
【F値とは】分散分析による検定の多重性について|統計検定準1級
統計検定準一級では、2級同様「分散分析」の内容が出てきます。 今回は、前回と視点を変えた「検定の多重性」について解説します。 例題を通して理解していきましょう。 *確実に理解するために、ある程度時間をかけてみましょう。…
【完全攻略】多重共線性をわかりやすく解説
多重共線性(Multicollinearity)とは 重回帰分析を勉強していると、最小二乗法の仮定の一つに「多重共線性がないこと」と見たことがあると思います。 冪乗項や交互作用項などを説明変数に入れて必然的に生じる…
【GLMM】一般化線形混合モデルについてわかりやすく解説
1. 一般化線形モデル (GLM) と固定効果モデル まずは、前提知識を確認しましょう。 一般化線形モデル (Generalized Linear Model) 応答変数 ${Y}$ が、…
【統計検定】ポアソン過程をわかりやすく解説|待ち行列理論
こんにちは、青の統計学です。 今回は統計検定準一級から登場する確立過程の一つ「ポアソン過程」について解説いたします。 このコンテンツに全て詰まっているので ブックマーク推奨 です！ 関わりの深い生存時間解析は、こちらで学習できます。…
尤度比検定とは？わかりやすく解説｜カイ2乗分布との関わり
汎用性の高い「尤度比検定」をわかりやすく解説。2つの統計モデル（完全モデル・縮小モデル）の適合度を比較する手法、検定統計量とカイ2乗分布の関係、GLMでのPython実装例までを紹介します。
【統計検定準一級】回帰診断法とは？｜残差プロットとleverageをわかりやすく解説
回帰診断法 回帰診断法は、回帰分析において誤差項の仮定が成立しているかどうかを評価する手法です。 独立性 : 誤差項は互いに独立である 等分散性 : 誤差項の分散が一定であること（等分散性） 正規性 : 誤差項が正規分布に従うこと…
層化抽出法の比例配分とネイマン配分をわかりやすく解説【統計検定準一級】
層化抽出法 層化抽出法は、 母集団を互いに排反な部分集合（層）に分割し、各層から独立に標本を抽出する方法 です。…
