【アンサンブル学習】ランダムフォレストをわかりやすく解説|ブートストラップ法を決定木に応用
ランダムフォレストの仕組みを、アンサンブル学習の基礎であるバギングやブートストラップ法からわかりやすく解説。決定木との違いや過学習を防ぐ理由、スタッキングとの比較も網羅。
ランダムフォレストの仕組みを、アンサンブル学習の基礎であるバギングやブートストラップ法からわかりやすく解説。決定木との違いや過学習を防ぐ理由、スタッキングとの比較も網羅。
機械学習の問題は回帰問題と分類問題に大別されます。 そして、分類問題の指標でよく扱われるかつ、不均衡問題で威力を発揮する「ROC曲線」と「AUC」について今回は解説していきます。…
リッジ回帰とは、重回帰分析の一つであり、機械学習には厄介な「多重共線性」の影響を少なくできる手法のひとつです。 複雑なデータをモデルに当てはめるときには、一般に多くの説明変数を使って表現をしますが、…
勾配ブースティング決定木(GBDT)の仕組みと数学的背景をわかりやすく解説。ランダムフォレストとの違いや、XGBoostとLightGBMの特徴・使い分けまで網羅しています。アンサンブル学習の基礎からアルゴリズムの理論を深めたい方に最適です。
機械学習における「決定木」の仕組みと数学的背景(ジニ不純度・エントロピー)をわかりやすく解説。CART法や剪定による過学習対策、線形回帰との違いまで網羅しています。データサイエンスの基礎から実装理論まで、最適な完全ガイドです。
単回帰分析 教師あり学習 今回は、教師あり学習の基礎中の基礎である「単回帰分析」を実装します。 教師あり学習とは、説明変数(インプット)から目的変数(アウトプット)を予測するモデルを求める手法です。…
階層型クラスタリングとは?ウォード法、最短距離法、群平均法など7手法を徹底比較。メリット・デメリットからクラスタ形状、使い分けまで、デンドログラムと共に解説します。
自然言語処理において、モデルへの入力はベクトルで与えることが想定されているので、テキストをモデルに変換する必要があります。 テキストをベクトルで表現するには、まず形態素解析などでテキストを単語に分割する必要があります。…
階層型クラスタリング(ウォード法)を実装する方法を解説します。デンドログラム(樹形図)の作成方法と見方、k-means法との違いまで、教師なし学習の基礎をサンプルコード付きで学びましょう。
こんにちは、青の統計学です。 筆者の業務で使うので、勉強がてらまとめていきます。 参考となるコードも紹介していますので、ぜひ最後までご覧ください。 タスクについて|検索クエリの分析について 以下のようなことに挑戦してみます。…
今回は、形態素解析した単語たちを出現頻度ごとに集計してグラフ化させてみます。 アンケートや問い合わせの文言から、どんなキーワードがユーザーの不満や満足に繋がっているのかという示唆を得られる点では、かなり実務的なスキルになります。…
k-means法とは何か、そのアルゴリズムの仕組みやビジネスでの活用法をわかりやすく解説します。初期値問題や最適なクラスタ数kの決定方法(エルボー法)に加え、k-means++、X-means、ソフトk-meansなどの発展的手法も比較・紹介する完全ガイドです。
ヒストグラムや折れ線グラフなどはよく耳にしますが、「コレログラム」は聞いたことがないかたも多いと思います。 今回は統計検定2級や準一級でよく出る「コレログラム」についてまとめてみました。 統計検定のチートシートは以下をクリック!…
自己組織化マップとは? 自己組織化マップ(Self-Organizing Map,SOM)は、 高次元のデータを2次元(時には1次元や3次元も)の格子状に配置されたニューロンの集合体に投影すること…
主成分分析 青の統計学へようこそ。 今回は、教師なし学習の一つ「主成分分析」について解説いたします。 数学的背景まで掘り下げたコンテンツは以下になります。 【python】主成分分析(+回帰)の仕組みとコード例|教師なし学習…
ガウス過程回帰(Gaussian Process Regression)の仕組みを、数学的定義から実務応用まで網羅。RBFカーネル等の共分散関数の役割、ベイズ統計に基づく事前分布・事後分布の更新フローを解説します。回帰分析における非線形モデリング、予測分散を用いた信頼区間の可視化など、データサイエンスの幅を広げる技術を習得しましょう。
ロジスティック回帰とは?0か1の二値分類を行う機械学習の手法を、一般化線形モデル(GLM)や二項分布との関連、オッズの解釈を含めてわかりやすく解説。コードによる実践例も紹介します。
分散(variance)と標準偏差(standard deviation) こんにちは、青の統計学です。 今回は、統計の基本である分散と標準偏差について解説していきます。 高校数学でも扱われる内容なので、高度な数学は必要ございません。…