自己情報量とエントロピーの定義をわかりやすく解説 2026年2月4日 情報理論 情報理論は、1948年にクロード・シャノンが発表した論文「通信の数学的理論」に端... エントロピーシャノン情報理論確率論自己情報量