機械学習 の記事一覧

【深層学習】VAEとは?VAEの理論を徹底的に分かりやすく解説する

VAE(Variational Auto Encoder, 変分オートエンコーダー)は、ニューラルネットワークと取り入れた、生成モデルのアルゴリズムです。 生成モデルと言っても、PCA(主成分分析)やSVD(特異値分解) […]

多変量ガウス分布のKL情報量(KLダイバージェンス)を理解する

深層学習や機械学習などの論文を読んでいると、多変量正規分布のKL情報量について、あたかも知ってて当然かのような書き振りで、結論だけを提示されており、途方に暮れる人も多いのではないでしょうか。 今回は、2つの異なる多変量正 […]

【機械学習】正規分布で可視化することでKL情報量を理解する

機械学習を理解し使いこなす上で、KL情報量について理解することは避けては通れないといえるほど、KL情報量は非常に重要な概念です。 そのため、さまざまな参考書等で、KL情報量について説明されています。 だいたい次のような定 […]

【matplotlib】センサーデータ等の時系列ステータスを可視化する(カテゴリカル変数)

matplitlibを用いて時系列のセンサーのステータスをプロットする際に、どのような図形にすればよいか色々考えたのですが、ひとまず次のような形式が見やすいのではないでしょうか。 このグラフは、縦軸は日付で、横軸はその日 […]

ポアソン混合モデルの生成モデルからサンプリングする

ベイズモデルにおいては、あるモデルを考えるときに、生成モデル(generative model)を考えます。生成モデルとは、データが生成する過程をモデル化することで、データの分布を表現する手法です。 生成モデルによる定式 […]

【変分ベイズ】変分推論やELBOを理解する

変分推論(variational inference)は、ベイズ手法で解析的に事後分布を求めることができない場合に、非常によく利用される近似アルゴリズムです。変分推論は文脈によっては、変分ベイズと呼ばれたりしています。 […]

【ベイズ推論】コイン投げの実例を通してPymcの使い方を掴む

pymcはベイジアンモデリングをPythonで行うためのPPL(確率的プログラミング言語)のフレームワークです。 ベイジアンモデリングは近年機械学習の有力な手法として利用されていますが、解析的に解けるわずかな例を除いて解 […]

混合ガウスモデル(GMM)でクラスタリングを行う

混合ガウスモデル(Gaussian Mixture Model, GMM)は、教師なしの分類アルゴリズムであり、クラスタリングの手法の1つです。他のクラスタリングのアルゴリズムとしてk-meansがありますが、k-mea […]

ガウス過程回帰を初めから分かりやすく解説

ガウス過程回帰について、本記事ではわかりやすく解説します。ガウス過程回帰はよく、「線形回帰モデル(線形基底関数モデル)の重み$\bm{w}$を積分消去し、ガウス分布を無限次元に拡張したもの」と表現されることがあります。し […]

ガウス過程からランダムに関数をサンプリングする

ガウス過程(Gaussian Process)はよく、関数$\bm{f}$を出力する箱であると例えられることがあります。しかし、関数を出力する箱と言われても、ぶっちゃけ意味がわからないと思います。 ガウス過程のイメージ図 […]