機械学習 の記事一覧

多変量のガウス分布の積(掛け合わせ)について徹底解説

カルマンフィルタ や逐次ベイズ推定といった手法を用いる際、正規分布の事前分布と尤度関数を掛け合わせ、事後分布を得るというような計算をすることになる。単変量のガウス関数の場合、2つの正規分布をかけ合わせると、新しい平均と分 […]

多変量ガウス分布の解析的・幾何的な特徴をまとめる

ガウス分布(Gaussian distribution)は、機械学習や統計で登場する確率密度関数の中でもっとも基本的で重要なものです。 一方で、1次元の正規分布はなんとか理解でいても、多変量のガウスとなると、イマイチ理解 […]

正規分布の和の公式(正規分布の再生性)を証明・直接計算で理解する

独立な2つの正規分布を足し合わせた時に、その確率変数も分布も正規分布になることを正規分布の再生性や、和の公式といったりすることがあります。 今回は、この正規分布の再生性・和の公式について、成り立つ式をおさらいする同時に、 […]

確率変数の分散についてわかりやすく解説。定義や意味など

確率変数における期待値と分散は機械学習や統計学を学ぶ上で、最も基本的な概念である。期待値については別の記事で解説しているので、今回は確率変数における分散について扱っていく。また注意して欲しいのは、今回扱っている分散はあく […]

確率変数の期待値について徹底解説

確率変数の期待値は、機械学習の学習をする中で、非常によく登場する概念です。確率変数のモーメントとも繋がりがあり、統計学や機械学習の基本書を読んでも、最新の論文を読んでも登場するので、期待値の概念について正しく理解すること […]

世界一分かりやすいカルマンフィルタの理論と導出と実装

カルマンフィルタ は、1960年にカルマン博士が提案したアルゴリズムで、現在、制御工学や宇宙工学、通信工学、機械学習分野などで非常によく用いられているアルゴリズムです。特に機械学習の文脈では、時系列分析における線形ガウシ […]

【初心者向け】機械学習で使う数式の公式集

機械学習の理論の勉強や、論文を読む際など、線形代数やベクトルが絡む多くの演算が登場することになると思います。 これらは大学の教養課程で学ぶ内容で、理系大学に進学した人であれば一度は授業で習った内容かもしれませんが、実際に […]

【初心者向け】機械学習の学習に適した本の紹介

初学者が機械学習の勉強をするときに、一番参考にするのが、参考書だと思います。しかし、一方で参考書によっては、内容が堅苦しく、十分に知識がある人にとっては整理されてわかりやすいものの、初心者には理解が難しいような本も多数あ […]

主成分分析(PCA)をわかりやすく解説。固有値や固有ベクトルと数学的背景など

主成分分析(Principle Component Analysis, PCA)は、機械学習の実務等でよく使われる手法です。 主成分分析をするタイミングは非常に多くありますが、基本的に主成分分析の目的は、高次元データを低 […]