通信路容量とシャノンの符号化定理を解説
通信路容量（Channel Capacity）は、ノイズのある通信路を通じて信頼...
情報理論
相互情報量の定義と応用をわかりやすく解説
相互情報量（Mutual Information, MI）は、2つの確率変数がど...
自己情報量とエントロピーの定義をわかりやすく解説
情報理論は、1948年にクロード・シャノンが発表した論文「通信の数学的理論」に端...
AIC（赤池情報量基準）とは？モデル選択の指標をわかりやすく解説
赤池情報量基準（AIC: Akaike Information Criterio...