M 機械学習と情報技術
Guides
1512 記事 20 ドメイン
  • All
  • 数学
  • 確率・統計
  • 物理学
  • 力学
  • 電波通信
  • 電子工学
  • 光学
  • 材料工学
  • 航空宇宙
  • 制御工学
  • 機械学習
  • CS・プログラミング
  • 宇宙推進
  • 宇宙ロボティクス
  • 宇宙AI
  • 宇宙通信
  • 宇宙持続可能性
  • ISRU・宇宙製造
  • 小型衛星
  • 先進ミッション

KLダイバージェンスとJSダイバージェンス — 確率分布間の距離と機械学習への応用

2026年6月30日 情報理論
「2つの確率分布がどれだけ違うか」を数値で表したい——機械学習や統計の現場でこの...
GANJSダイバージェンスKLダイバージェンスクロスエントロピー変分推論情報理論

KLダイバージェンス完全ガイド — 確率分布間の情報量距離を直感で理解する

2026年6月26日 情報理論
KLダイバージェンスとは、2つの確率分布 $P$ と $Q$ の「ずれ」を1つの...
KLダイバージェンスカルバック・ライブラークロスエントロピー情報量機械学習

交差エントロピー誤差(クロスエントロピー)— 定義・情報理論・勾配・実装を完全解説

2026年6月26日 分類
ニューラルネットワークで「この画像は猫か犬か鳥か」を分類するとき、モデルの良し悪...
KLダイバージェンスクロスエントロピーソフトマックス交差エントロピー損失関数深層学習

AIC(赤池情報量基準)とは?モデル選択の指標をわかりやすく解説

2026年6月21日 情報理論
手元のデータに直線を当てはめるか、2次曲線を当てはめるか、それとも10次の多項式...
AICAICcBICKLダイバージェンスモデル選択情報理論最尤推定赤池情報量基準

多変量ガウス分布のKL情報量(KLダイバージェンス)を理解する

2026年6月21日 ベイズ統計
深層学習や機械学習などの論文を読んでいると、多変量正規分布のKL情報量について、...
KLダイバージェンスKL情報量多変量ガウス分布統計学

相互情報量とは?定義と性質をわかりやすく解説

2026年6月21日 情報理論
2つの確率変数がどの程度「関連し合っている」かを定量的に測りたい場面は、情報理論...
KLダイバージェンスエントロピー情報理論相互情報量

f-ダイバージェンスの統一理論 — KLダイバージェンスからχ²まで

2026年3月15日 情報理論
2つの確率分布がどれだけ「異なる」かを測定する方法は一つではありません。統計的仮...
f-ダイバージェンスKLダイバージェンス変分表現情報理論確率分布統計的距離

交差エントロピーとKLダイバージェンスの関係

2026年3月15日 情報理論
機械学習で分類モデルを訓練するとき、ほぼ確実に登場する損失関数が交差エントロピー...
KLダイバージェンスエントロピー交差エントロピー情報理論機械学習

平均場近似による変分推論をわかりやすく解説

2026年3月15日 ベイズ統計
ベイズ推定では、事後分布 $p(\bm{z}|\bm{x})$ を求めることが中...
ELBOKLダイバージェンスベイズ推定変分推論平均場近似機械学習

確率変数のエントロピーとは?確率分布における情報量まとめ

2026年3月15日 数学
確率変数$X$における確率分布を$p(x)$とした時、その確率変数のエントロピー...
KLダイバージェンス情報理論情報量数学

Domains

  • 数学
  • 確率・統計
  • 物理学
  • 力学
  • 電波通信
  • 電子工学
  • 光学
  • 材料工学
  • 航空宇宙
  • 制御工学
  • 機械学習
  • CS・プログラミング
  • 宇宙推進
  • 宇宙ロボティクス
  • 宇宙AI
  • 宇宙通信
  • 宇宙持続可能性
  • ISRU・宇宙製造
  • 小型衛星
  • 先進ミッション

Tags

機械学習深層学習Transformer異常検知線形代数宇宙ロボティクス確率分布LLM統計的検定時系列分析統計学多変量時系列KaTeX数式材料力学

About

航空宇宙の研究者が、理工系の基礎から最先端の宇宙技術までを数式とコードで解説します。

M 機械学習と情報技術

航空宇宙の研究者が運営する理工系技術ブログ。 大学教養〜専門レベルの数学・物理・工学を「数式の導出 + Python実装」で解説します。

基礎科学

  • 数学
  • 確率・統計
  • 物理学
  • 力学
  • 制御工学
  • 機械学習

工学

  • 電波通信
  • 電子工学
  • 光学
  • 材料工学
  • 航空宇宙
  • CS・プログラミング

宇宙技術

  • 宇宙推進
  • 宇宙ロボティクス
  • 宇宙AI
  • 宇宙通信
  • 宇宙持続可能性
  • ISRU・宇宙製造
  • 小型衛星
  • 先進ミッション
  • ホーム
  • プライバシーポリシー
  • お問い合わせ
© 2026 機械学習と情報技術. All rights reserved.