12/21/2023 / 最終更新日時 : 03/31/2024 生成AI/GPT NLP 【AICで使う】KL divergence(カルバック-ライブラー情報量)をわかりやすく解説|python こんにちは、今回はKL divergenceを解説します。 KL divergenceは、2つの確率分布間の相違を測定するために使用され、NLPにおける文書や単語の分布を比較する際に役立ちます。 レベル感としては、統計検 […]
06/06/2022 / 最終更新日時 : 03/24/2024 生成AI/GPT ベイズ 【尤度って?】尤度関数と最尤推定量の解説と例題 確率分布のパラメータ\(θ\)を推定する方法の一つとして、最尤推定というものがあります。 最尤推定には、尤度関数を使うことが必須です。まずは尤度関数については見てみましょう。 尤度(likelihood)について 抑えて […]
06/03/2022 / 最終更新日時 : 02/29/2024 生成AI/GPT 推測統計学 【モデル選択】AIC(赤池情報量基準)についてわかりやすく解説 モデルを比較する時に、観測したデータとの当てはまりの良さで判断することがあります。 これは最大対数尤度で考えています。 「対数尤度が大きいモデルが良い」と言うのは、一つの軸ではありますが複雑なモデル(=実用的ではないし、 […]
05/03/2022 / 最終更新日時 : 01/16/2024 生成AI/GPT Python 【時系列】ARモデルをわかりやすく解説|Yule-Walker法や最尤法も こんにちは、青の統計学です。 今回解説するのは、時系列モデルの基礎であるARモデルです。 まずは数式を見てみましょう。 ARモデル(autoregression model) $$y_{n} = \sum_{j=1}^{ […]
05/01/2022 / 最終更新日時 : 01/13/2024 生成AI/GPT 推測統計学 【n-1で割る理由】不偏分散と不偏性についてわかりやすく解説 不偏分散とは、不偏性を持つ分散のことです。 まず、不偏性について詳しく理解する必要があります。 分散から理解したい方はこちらをご覧ください。 【高校数学でわかる】分散と標準偏差とは?|散らばりの指標 統計検定のチートシー […]