熱いコーヒーをテーブルの上に置くと、やがて冷めて室温になります。しかし、室温のコーヒーが自然に沸騰し始めることは決してありません。水は高いところから低いところへ流れますが、平らな水面から自然に噴水が立ち上がることはありません。こうした「一方向にしか進まない現象」は、日常のいたるところに存在します。
ではなぜ、自然現象には「進む方向」があるのでしょうか。熱力学第1法則(エネルギー保存則)だけでは、この問いには答えられません。コーヒーが自然に熱くなる過程もエネルギーの帳尻は合うのに、実際には起きないからです。この「不可逆性」を定量化する量がエントロピー(entropy)です。
エントロピーを理解すると、以下のような幅広い応用分野が見えてきます。
- 熱機関の効率限界: カルノーサイクルの効率がなぜ100%にならないのかをエントロピーの観点から理解できます
- 化学反応の自発性: 自由エネルギーを使って化学反応が進む方向を予測するとき、エントロピーが中心的な役割を果たします
- 情報理論: シャノンの情報量とエントロピーは、データ圧縮や通信の限界を決める基本量であり、熱力学のエントロピーと深い数学的つながりがあります
- 統計力学: ミクロな粒子の振る舞いからマクロな熱力学法則を導く統計力学では、ボルツマンのエントロピーが出発点になります
本記事では、「熱を温度で割る」というクラウジウスの定義がなぜ自然なのかを直感的に理解することから始めて、理想気体への応用、エントロピー増大の法則、ボルツマンの統計力学的定義、そして情報理論との接続までを一貫して解説します。
本記事の内容
- クラウジウスによるエントロピーの熱力学的定義と直感
- 理想気体のエントロピー変化(各過程の物理的意味)
- エントロピー増大の法則と具体例(熱伝導・自由膨張・混合)
- ボルツマンの統計力学的定義とミクロ状態数
- 情報理論(シャノンエントロピー)との接続
- Pythonによる可視化と数値計算
前提知識
この記事を読む前に、以下の記事を読んでおくと理解が深まります。
- 熱力学第1法則 — エネルギー保存則と内部エネルギーの概念
- カルノーサイクル — 可逆サイクルの効率とエントロピーが状態量であることの背景
- 熱力学の基本概念 — 系・状態量・過程といった基本用語
- 理想気体の状態方程式 — $pV = nRT$ と理想気体の基本性質
- 比熱と比熱比 — $C_v$, $C_p$ の定義と関係
エントロピーの熱力学的定義
「熱を温度で割る」ことの直感
エントロピーの数式を見る前に、まず「熱を温度で割る」という操作がなぜ自然なのかを考えてみましょう。
イメージとしては、同じ量の熱でも、受け取る側の温度によって「ありがたみ」が全く違うということです。真冬の寒い日に焚き火で暖まる1000 Jの熱は体感的にとてもありがたいものですが、真夏の炎天下で同じ1000 Jの熱を受けても、ほとんど状態は変わりません。100°Cのお湯に1 Jの熱を加えても水温はほぼ変わりませんが、0°Cの氷に1 Jの熱を加えると氷が溶け始めるかもしれません。
大雑把に言うと、低温の物体に熱を加えるほど「系の状態を大きく変える力」が大きく、高温の物体に同じ熱を加えても「状態を変える力」は小さいのです。この「熱の質」、つまり「その熱がどれだけ系の状態を変える能力を持っているか」を数値化するために、熱量を温度で割るという操作が登場します。温度 $T$ が大きいほど割り算の結果は小さくなり、「同じ熱量でも高温ではインパクトが小さい」ことが自然に表現されるわけです。
クラウジウスの定義式
クラウジウスはこの直感を、次のように簡潔な数式で表現しました。可逆過程において、エントロピー $S$ の微小変化は次の式で定義されます。
$$ \begin{equation} dS = \frac{\delta Q_{\text{rev}}}{T} \end{equation} $$
ここで $\delta Q_{\text{rev}}$ は可逆過程で系に加えられた微小な熱量、$T$ は絶対温度です。$d$ ではなく $\delta$ を使っているのは、熱量 $Q$ が状態量ではなく経路に依存する量(不完全微分)であることを示しています。しかし $T$ で割ることで、経路に依存しない状態量 $S$ の完全微分 $dS$ になるというのがこの式の深い意味です。
なぜ「可逆過程」という条件がつくのかも押さえておきましょう。不可逆過程では摩擦や乱流などでエネルギーが散逸するため、系に加えた熱量が全て系の状態変化に使われるわけではありません。可逆過程という理想的な状況を考えることで、純粋に「系の状態変化に対応する分」だけを取り出せるのです。
有限のエントロピー変化
状態1から状態2への有限のエントロピー変化は、微小変化の積分として得られます。
$$ \begin{equation} \Delta S = S_2 – S_1 = \int_1^2 \frac{\delta Q_{\text{rev}}}{T} \end{equation} $$
この積分は可逆な経路に沿って行う必要がありますが、エントロピーが状態量であるため、結果は経路によらず始状態と終状態だけで決まります。これは一見矛盾しているように聞こえるかもしれませんが、「計算には可逆経路を使う必要があるが、答えはどの可逆経路を選んでも同じ」という意味です。
エントロピーが状態量であることの証明
エントロピーが本当に状態量であること、つまり $dS = \delta Q_{\text{rev}} / T$ が完全微分であることは、カルノーサイクルから確認できます。
カルノーサイクルでは、高温熱源 $T_H$ から熱 $Q_H$ を受け取り、低温熱源 $T_L$ に熱 $Q_L$ を放出します。カルノーサイクルの効率から $Q_H / T_H = Q_L / T_L$ が成り立つため、1サイクルまわったときのエントロピー変化は次のようになります。
$$ \oint \frac{\delta Q_{\text{rev}}}{T} = \frac{Q_H}{T_H} – \frac{Q_L}{T_L} = 0 $$
この式は、任意の閉じた可逆サイクルに対して成り立ちます。なぜなら、任意の可逆サイクルは微小なカルノーサイクルの集まりとして表現できるからです。閉経路の積分がゼロということは、$\delta Q_{\text{rev}} / T$ が完全微分であることを意味し、したがって $S$ は経路によらない状態量です。
これは位置エネルギーとの類推で考えるとわかりやすいでしょう。重力場の中で物体を動かすとき、始点と終点が同じなら経路によらず仕事は同じです。それと同様に、エントロピーも始状態と終状態だけで決まるのです。
ここまでで、エントロピーの定義とそれが状態量であることを確認しました。次に、私たちがよく知っている理想気体に対してエントロピーの変化を具体的に計算してみましょう。理想気体は状態方程式がシンプルなので、エントロピーの計算も見通しよく進みます。
理想気体のエントロピー変化
一般式の導出
理想気体のエントロピー変化を求めるために、熱力学第1法則の式から出発します。理想気体に対する第1法則は次のように書けます。
$$ \delta Q = dU + p \, dV $$
ここで $dU$ は内部エネルギーの変化、$p \, dV$ は系が外部にする仕事です。理想気体の状態方程式 $pV = nRT$ と、理想気体の内部エネルギー $U = nC_v T$ を使うと、上式は次のように書き直せます。
$$ \delta Q = nC_v \, dT + \frac{nRT}{V} dV $$
$nC_v \, dT$ の項は温度変化に伴う内部エネルギーの変化を表し、$nRT / V \cdot dV$ の項は体積変化に伴う仕事を表しています。
可逆過程のエントロピーの定義 $dS = \delta Q_{\text{rev}} / T$ を適用するために、両辺を $T$ で割ります。
$$ \begin{align} dS &= \frac{\delta Q_{\text{rev}}}{T} = \frac{nC_v \, dT}{T} + \frac{nR \, dV}{V} \end{align} $$
右辺の第1項 $nC_v \, dT / T$ は温度変化によるエントロピー変化で、第2項 $nR \, dV / V$ は体積変化によるエントロピー変化です。温度が上がるとエントロピーは増加し、体積が増えるとエントロピーは増加することが、この式から直接読み取れます。
この式を状態1($T_1, V_1$)から状態2($T_2, V_2$)まで積分すると、理想気体のエントロピー変化の一般式が得られます。
$$ \begin{equation} \Delta S = nC_v \ln\frac{T_2}{T_1} + nR \ln\frac{V_2}{V_1} \end{equation} $$
この式はとても重要です。理想気体のエントロピー変化は、温度比の対数と体積比の対数の2つの項で完全に決まります。対数関数が登場するのは、$dT/T$ や $dV/V$ を積分したためで、「温度が2倍になったときのエントロピー変化」は初期温度によらず同じであるという性質を反映しています。
なお、$C_p = C_v + R$ の関係(比熱と比熱比を参照)と状態方程式を使うと、同じ式を温度と圧力で表すこともできます。
$$ \Delta S = nC_p \ln\frac{T_2}{T_1} – nR \ln\frac{p_2}{p_1} $$
これは、$V_2/V_1 = (T_2 p_1) / (T_1 p_2)$ を一般式に代入して整理することで得られます。圧力の増加がエントロピーを減少させるのは、圧縮により体積が減少してミクロ状態数が減るためと解釈できます。
各過程のエントロピー変化
熱力学の各種過程において、エントロピーがどのように変化するかを具体的に見てみましょう。上で導いた一般式 $\Delta S = nC_v \ln(T_2/T_1) + nR \ln(V_2/V_1)$ に各過程の条件を代入するだけです。
| 過程 | 条件 | エントロピー変化 | 物理的意味 |
|---|---|---|---|
| 等温過程 | $T = \text{const}$ | $\Delta S = nR \ln(V_2/V_1)$ | 体積が増えると分子が動ける空間が広がり、エントロピーが増加する |
| 定容過程 | $V = \text{const}$ | $\Delta S = nC_v \ln(T_2/T_1)$ | 加熱で分子の運動エネルギーが増え、エネルギーの分配の仕方が増える |
| 定圧過程 | $p = \text{const}$ | $\Delta S = nC_p \ln(T_2/T_1)$ | 加熱で温度上昇と体積膨張の両方が起こるため、$C_p > C_v$ の分だけ変化が大きい |
| 断熱可逆過程 | $\delta Q = 0$ | $\Delta S = 0$ | 熱のやり取りがなく可逆なので、エントロピーは変化しない(等エントロピー過程) |
定圧過程で $C_p$ が使われるのは、定圧で加熱すると温度が上がるだけでなく体積も膨張するため、定容過程よりも多くの熱が必要になることを反映しています。具体的には、$C_p = C_v + R$ なので、定圧過程のエントロピー変化は定容過程のそれより大きくなります。
断熱可逆過程(等エントロピー過程)は、$T$-$S$ 線図上で垂直な線として表されます。これはカルノーサイクルの断熱膨張・断熱圧縮に相当し、エントロピーを一定に保ったまま温度だけを変える過程です。
ここまでで、理想気体の各過程におけるエントロピーの計算方法がわかりました。では、エントロピーは増えることも減ることもあるのでしょうか? 実は、個々の物体のエントロピーは減少することがありますが、孤立系全体で見るとエントロピーは決して減少しないという深い法則があります。これがエントロピー増大の法則です。
エントロピー増大の法則
クラウジウスの不等式
熱力学第2法則は、さまざまな表現がありますが、エントロピーを使った最もエレガントな表現がクラウジウスの不等式です。
イメージとしては、実際の(不可逆な)過程では、摩擦や乱流や有限温度差の熱伝導など、エネルギーが「使える形」から「使えない形」へ変わる現象が必ず伴うということです。このような散逸により、実際の過程では可逆過程よりも多くの熱が必要になるか、あるいは同じ熱量でも仕事として取り出せる量が少なくなります。
クラウジウスの不等式は、任意のサイクルに対して次の式が成り立つことを主張します。
$$ \begin{equation} \oint \frac{\delta Q}{T} \leq 0 \end{equation} $$
ここで等号が成立するのは可逆サイクルの場合のみです。$\delta Q$ はサイクルの各段階で系が受け取る熱量、$T$ はそのときの温度です。この不等式はカルノーサイクルが最も効率の良いサイクルであることから導かれます。
孤立系でのエントロピー増大
クラウジウスの不等式から、孤立系のエントロピーは決して減少しないことが示されます。
孤立系では外部との熱のやり取りがないため $\delta Q = 0$ ですが、系の内部でさまざまな不可逆過程が起こり得ます。系の内部で起きる過程(例えば仕切りの除去、温度差のある物体同士の接触、化学反応など)によるエントロピー変化を考えると、次が成り立ちます。
$$ \begin{equation} \Delta S_{\text{total}} \geq 0 \end{equation} $$
- 等号: 可逆過程(理想的な極限。無限にゆっくり、摩擦なし、温度差なし)
- 不等号: 不可逆過程(自然に進む現実の過程。自発的に進む過程は全てこちら)
これが熱力学第2法則のエントロピー表現です。「自然界の全ての自発的な変化は、宇宙全体のエントロピーを増加させる方向に進む」ということを述べています。冒頭で述べた「コーヒーが冷める」「水が低いところへ流れる」といった現象は、全てエントロピーが増大する方向への変化なのです。
ここで注意すべきなのは、エントロピーは局所的には減少しうるということです。例えば冷蔵庫の中では食品の温度が下がりエントロピーが減少しますが、その代わり冷蔵庫の外部(放熱部)でより大きなエントロピー増大が起こるため、全体としてはエントロピーが増大しています。「孤立系」全体で見なければならないという点が重要です。
具体例1: 熱伝導によるエントロピー生成
最も基本的な不可逆過程として、温度差のある2つの物体間の熱伝導を考えましょう。温度 $T_H$ の高温物体から温度 $T_L$ の低温物体に熱量 $Q$ が移動する場合を計算します。
高温物体は熱を失うのでエントロピーが減少し、低温物体は熱を受け取るのでエントロピーが増加します。
$$ \Delta S_{\text{hot}} = -\frac{Q}{T_H} < 0 $$
高温物体のエントロピーは減少しています。符号がマイナスなのは、熱を放出しているためです。
$$ \Delta S_{\text{cold}} = +\frac{Q}{T_L} > 0 $$
低温物体のエントロピーは増加しています。ここで重要なのは、同じ熱量 $Q$ でも温度 $T_L$ が低い分だけ、$Q/T_L$ は $Q/T_H$ より大きくなるという点です。
系全体のエントロピー変化は、両者の和として次のように計算されます。
$$ \Delta S_{\text{total}} = \Delta S_{\text{hot}} + \Delta S_{\text{cold}} = Q\left(\frac{1}{T_L} – \frac{1}{T_H}\right) > 0 \quad (\because T_H > T_L) $$
$T_H > T_L$ であるかぎり括弧内は正なので、全体のエントロピーは必ず増加します。温度差が大きいほどエントロピー生成も大きくなり、$T_H = T_L$ の場合のみ $\Delta S_{\text{total}} = 0$(可逆的な熱伝導の極限)です。
この結果は直感とも合致します。高温から低温への熱の流れは自然に起こる(不可逆な)過程であり、エントロピーが増大するのは当然です。逆に、低温から高温への熱移動は $\Delta S_{\text{total}} < 0$ となるため自発的には起こりません。これを実現するには外部から仕事を加える必要があり、それが冷蔵庫やヒートポンプの仕組みです。
具体例2: 理想気体の自由膨張
自由膨張(free expansion)は、真空への膨張とも呼ばれる典型的な不可逆過程です。断熱された容器を仕切りで半分に分け、片側に理想気体を入れ、もう片側を真空にします。仕切りを取り除くと、気体は全体に広がります。
この過程の特徴は次のとおりです。
- 真空への膨張なので外部に仕事をしない: $W = 0$
- 断熱されているので熱のやり取りがない: $Q = 0$
- 熱力学第1法則より $\Delta U = Q – W = 0$ なので、理想気体では温度が変化しない: $T_1 = T_2$
温度が変わらないのに体積が $V$ から $2V$ に増加するので、エントロピーの一般式から次のように計算されます。
$$ \Delta S = nC_v \ln\frac{T_2}{T_1} + nR \ln\frac{V_2}{V_1} = nC_v \ln 1 + nR \ln 2 = nR \ln 2 $$
第1項の $nC_v \ln(T_2/T_1)$ は温度が変わらないのでゼロになり、第2項の $nR \ln(V_2/V_1)$ は体積が2倍になるので $nR \ln 2$ となります。
1 mol の理想気体の場合、$\Delta S = 8.314 \times \ln 2 \approx 5.76$ J/K と具体的な数値が得られます。このエントロピー増加は、気体の分子が動ける空間が広がり、取りうるミクロ状態の数が増加したことを反映しています。
自由膨張が不可逆であることは、逆過程を考えるとわかります。容器全体に広がった気体が、何もしなくても自然に片側に集まることは、経験上ありえません。この直感的な不可逆性が、$\Delta S > 0$ として定量化されているのです。
具体例3: 理想気体の混合
もう一つの重要な不可逆過程として、2種類の理想気体の混合を考えましょう。温度・圧力が同じ2つの容器に、それぞれ異なる種類の理想気体が入っているとします。容器の間の仕切りを取り除くと、2つの気体は自発的に混合します。
$n_A$ mol の気体Aが体積 $V_A$ の容器に、$n_B$ mol の気体Bが体積 $V_B$ の容器に入っているとき、混合によるエントロピー変化は次のようになります。
気体Aについて考えると、混合後に気体Aが占める体積は $V_A$ から $V_A + V_B$ に増加します。同様に気体Bの体積は $V_B$ から $V_A + V_B$ に増加します。温度は変わらない(理想気体の混合なので)ため、エントロピー変化は体積変化の項だけになります。
$$ \Delta S_{\text{mix}} = n_A R \ln\frac{V_A + V_B}{V_A} + n_B R \ln\frac{V_A + V_B}{V_B} $$
各気体のモル分率 $x_A = n_A / (n_A + n_B)$, $x_B = n_B / (n_A + n_B)$ を使い、混合前の各気体の温度・圧力が等しいという条件($V_A / n_A = V_B / n_B$)を適用すると、次のように書き直せます。
$$ \Delta S_{\text{mix}} = -R\left(n_A \ln x_A + n_B \ln x_B\right) $$
$x_A, x_B < 1$ なので $\ln x_A, \ln x_B < 0$ であり、$\Delta S_{\text{mix}} > 0$ です。つまり混合は常にエントロピーを増大させます。混合は不可逆過程であり、一度混合した気体は自発的には分離しません。
この結果は、情報理論とも深いつながりがあります。混合エントロピーの式 $-R \sum_i n_i \ln x_i$ は、シャノンエントロピー $-\sum_i p_i \ln p_i$ と同じ数学的形をしています。この対応については、後のセクションで詳しく見ていきます。
ここまでで、エントロピー増大の法則が具体的な現象でどのように現れるかを見てきました。しかし、ここで自然な疑問が生じます。エントロピーが増大するとは、ミクロな視点で見ると何が起きているのでしょうか? この問いに答えたのが、ボルツマンの統計力学的アプローチです。
ボルツマンのエントロピー
ミクロ状態数という考え方
ここまでの議論は、熱や温度といったマクロな量だけを使ったものでした。しかし気体は膨大な数の分子で構成されており、各分子はそれぞれ位置と速度を持っています。ボルツマンは、マクロな状態(温度・圧力・体積で特定される状態)に対応するミクロな状態の数に注目しました。
イメージとしては、サイコロを10個同時に振ったとき、合計が35になる組み合わせと合計が10になる組み合わせを考えてみてください。合計35はちょうど平均的な値なので非常に多くの組み合わせで実現できますが、合計10はかなり小さい値で、実現できる組み合わせは限られます。ボルツマンのエントロピーは、「あるマクロ状態を実現するミクロな組み合わせがどれだけあるか」の対数に比例します。
大雑把に言うと、「ありそうな状態」はエントロピーが大きく、「ありそうもない状態」はエントロピーが小さいのです。
ボルツマンの定義式
ボルツマンは、エントロピーをミクロ状態数 $\Omega$ を使って次のように定義しました。
$$ \begin{equation} S = k_B \ln \Omega \end{equation} $$
ここで $k_B = 1.381 \times 10^{-23}$ J/K はボルツマン定数で、ミクロの世界(ジュールのスケール)とマクロの世界(ケルビンのスケール)をつなぐ変換定数の役割を果たしています。対数をとる理由は、エントロピーが示量性(系の大きさに比例する性質)を持つためです。2つの独立な系を合わせると、ミクロ状態数は積になります($\Omega_{\text{total}} = \Omega_1 \times \Omega_2$)が、対数をとることで和になります($S_{\text{total}} = S_1 + S_2$)。
この式はボルツマンの墓碑にも刻まれている有名な式で、熱力学と統計力学を結びつける橋渡しとなっています。
- $\Omega$ が大きい: 実現可能な微視的状態が多い → エントロピーが大きい → マクロに見ると「乱雑」な状態
- $\Omega$ が小さい: 実現可能な微視的状態が少ない → エントロピーが小さい → マクロに見ると「秩序ある」状態
エントロピー増大の法則は、統計力学的には次のように解釈されます。「系は、より多くの微視的状態に対応するマクロ状態へ自発的に移行する。なぜなら、単純に確率的にそちらのほうが圧倒的に起こりやすいからである。」
自由膨張の統計力学的解釈
前のセクションで扱った自由膨張を、ボルツマンの立場から考えてみましょう。
仕切りで分けた容器の片側に $N$ 個の分子が入っているとします。仕切りを取り除いた後、ある瞬間に全ての分子が元の左半分にいる確率を考えましょう。
各分子が左半分にいる確率は $1/2$ です。$N$ 個の分子が全て独立に動いているとすると、全分子が左半分にいる確率は次のようになります。
$$ P(\text{全て左}) = \left(\frac{1}{2}\right)^N $$
1個の分子なら $P = 1/2$(50%)で、十分あり得ます。10個の分子では $P = 1/1024 \approx 0.1$%で、かなり珍しいですが不可能ではありません。しかし、$N = 10^{23}$(実際の気体の分子数のオーダー、アボガドロ数)では $P = 2^{-10^{23}}$ という途方もなく小さい数になります。これは実質的にゼロであり、「自然に片側に集まる」ことは事実上ありえないのです。
体積が2倍になると各分子が取りうる位置の数が2倍になるため、ミクロ状態数の比は次のようになります。
$$ \frac{\Omega_f}{\Omega_i} = 2^N $$
ボルツマンのエントロピーの定義を使って、エントロピー変化を計算します。
$$ \Delta S = k_B \ln \Omega_f – k_B \ln \Omega_i = k_B \ln\frac{\Omega_f}{\Omega_i} = k_B \ln 2^N $$
$\ln 2^N = N \ln 2$ と変形すると、次の結果が得られます。
$$ \Delta S = N k_B \ln 2 $$
ここで $N k_B = n N_A k_B = nR$($N_A$ はアボガドロ定数)を代入すると、最終的に次のようになります。
$$ \Delta S = nR \ln 2 $$
これは、先ほど熱力学的に計算した結果と完全に一致します。全く異なるアプローチ(マクロな熱力学とミクロな統計力学)から同じ答えが得られたことは、ボルツマンの定義の正当性を強く裏付けています。
サイコロで理解する「自発的な秩序崩壊」
ボルツマンのエントロピーをもう少し身近な例で理解するために、サイコロの例を使って考えてみましょう。
6面のサイコロを4個振るとします。出た目の合計が4(つまり全て1)になるミクロ状態数は $\Omega = 1$ です。これは非常に「秩序ある」状態であり、エントロピーは $S \propto \ln 1 = 0$ と最小です。
一方、合計が14(平均値に近い)になるミクロ状態数は非常に多く、$\Omega = 146$ 通りあります。エントロピーは $S \propto \ln 146 \approx 4.98$ と大きくなります。
サイコロを何度も振り直すと、合計が14付近の値が頻繁に出る一方、合計4や合計24はほとんど出ません。これは「エントロピーの大きいマクロ状態ほど実現されやすい」というエントロピー増大の法則の日常版です。
実際の気体分子($\sim 10^{23}$ 個)では、「平均的な状態」と「偏った状態」のミクロ状態数の比が天文学的に大きくなるため、事実上「エントロピーは必ず増大する」と言い切ることができるのです。
ボルツマンのエントロピーは熱力学と統計力学を見事に橋渡ししましたが、実はこの「対数をとった確率」という構造は、物理学を超えて情報理論にもつながっています。次のセクションでは、シャノンエントロピーとの接続を見ていきましょう。
情報理論との接続
シャノンエントロピーとは
1948年、クロード・シャノンは情報理論の基礎を築く中で、「メッセージに含まれる情報量」を定量化する概念としてシャノンエントロピーを導入しました。離散的な確率変数 $X$ が値 $x_i$ を確率 $p_i$ でとるとき、シャノンエントロピーは次のように定義されます。
$$ \begin{equation} H(X) = -\sum_{i} p_i \ln p_i \end{equation} $$
大雑把に言うと、シャノンエントロピーは「次にどの値が出るかの予測しにくさ」を表しています。公平なコイン投げ(表と裏が等確率)では予測が最も難しいため $H$ は最大になり、イカサマのコイン(片方しか出ない)では予測が容易なため $H = 0$ になります。
この式の構造は、ボルツマンのエントロピー $S = k_B \ln \Omega$ と深くつながっています。ミクロ状態が全て等確率($p_i = 1/\Omega$)の場合を考えてみましょう。
シャノンエントロピーに $p_i = 1/\Omega$ を代入すると、次のように変形できます。
$$ H = -\sum_{i=1}^{\Omega} \frac{1}{\Omega} \ln \frac{1}{\Omega} $$
$\sum_{i=1}^{\Omega}$ は $\Omega$ 個の同じ項の和なので、$\Omega \times (1/\Omega)$ でまとめると次のようになります。
$$ H = -\ln\frac{1}{\Omega} = \ln \Omega $$
したがって、$S = k_B H$ という関係が成り立ちます。つまり、ボルツマンのエントロピーは、ミクロ状態の確率分布のシャノンエントロピーに $k_B$ をかけたものと見なすことができるのです。
物理学と情報理論の架け橋
この対応関係をもう少し深く見てみましょう。
物理学でのエントロピーは「系がどれだけ多くのミクロ状態を取りうるか」を表し、情報理論でのエントロピーは「メッセージがどれだけ予測困難か(=情報量が多いか)」を表します。一見すると全く異なる概念ですが、数学的には同じ構造を共有しています。
| 観点 | 熱力学的エントロピー | シャノンエントロピー |
|---|---|---|
| 対象 | 物理系のミクロ状態 | メッセージ・データ |
| 意味 | 系の乱雑さ・不確定性 | 情報の不確定性 |
| 最大 | 全ミクロ状態が等確率(熱平衡) | 全記号が等確率 |
| 増大則 | 孤立系で増大(第2法則) | データ処理で情報は失われる(データ処理不等式) |
2つの分布の「違い」を測るKLダイバージェンスも、エントロピーを基盤として構築される重要な概念です。機械学習や統計的推論で広く使われるKLダイバージェンスは、「ある分布が別の分布からどれだけ離れているか」を情報理論的に測る尺度であり、エントロピーの概念を拡張したものと捉えることができます。
より詳しい情報理論的エントロピーの解説については、情報量とエントロピーの記事を参照してください。
物理的エントロピーと情報論的エントロピーの関係は、単なるアナロジーにとどまりません。マクスウェルの悪魔の議論やランダウアーの原理(ビットの消去には最低 $k_B T \ln 2$ のエネルギーが必要)は、情報と熱力学が本質的に同じものであることを示唆しています。
ここまでで、エントロピーの理論的な全体像を描くことができました。次のセクションでは、これらの概念をPythonで実装し、数値計算と可視化を通じて理解を深めていきましょう。
Pythonでの実装と可視化
T-S線図による各種過程の可視化
まず、理想気体の各種過程を $T$-$S$(温度-エントロピー)線図上にプロットします。$T$-$S$ 線図では、等温過程は水平線、断熱可逆過程は垂直線として表れ、曲線の下の面積が可逆過程で系が授受する熱量に対応します。
import numpy as np
import matplotlib.pyplot as plt
# 理想気体の基本パラメータ
n = 1.0 # mol数
R = 8.314 # 気体定数 [J/(mol·K)]
Cv = 1.5 * R # 定容比熱(単原子理想気体)
Cp = Cv + R # 定圧比熱
T0 = 300 # 基準温度 [K]
S0 = 0 # 基準エントロピー変化 [J/K]
fig, ax = plt.subplots(figsize=(10, 7))
# 定容過程: ΔS = nCv ln(T/T0)
T_v = np.linspace(200, 600, 300)
S_v = n * Cv * np.log(T_v / T0)
ax.plot(S_v, T_v, 'r-', linewidth=2.5, label='Constant V')
# 定圧過程: ΔS = nCp ln(T/T0)
T_p = np.linspace(200, 600, 300)
S_p = n * Cp * np.log(T_p / T0)
ax.plot(S_p, T_p, 'b-', linewidth=2.5, label='Constant p')
# 等温過程: T = T0 (水平線)
S_T = np.linspace(-20, 20, 300)
T_T = np.ones_like(S_T) * T0
ax.plot(S_T, T_T, 'g-', linewidth=2.5, label=f'Isothermal (T={T0}K)')
# 断熱可逆過程: ΔS = 0 (垂直線)
T_ad = np.linspace(200, 600, 300)
S_ad = np.zeros_like(T_ad)
ax.plot(S_ad, T_ad, 'm-', linewidth=2.5, label='Adiabatic (rev.)')
ax.set_xlabel(r'Entropy change $\Delta S$ [J/K]', fontsize=14)
ax.set_ylabel('Temperature $T$ [K]', fontsize=14)
ax.set_title('T-S diagram for ideal gas processes', fontsize=16)
ax.legend(fontsize=12, loc='upper left')
ax.grid(True, alpha=0.3)
ax.set_xlim(-25, 25)
ax.set_ylim(150, 650)
plt.tight_layout()
plt.show()
上の $T$-$S$ 線図から、4つの過程の特徴が視覚的に読み取れます。
- 定容過程(赤線)と定圧過程(青線)の傾きの違い: 定圧過程の方が緩やかな傾きになっています。これは $C_p > C_v$ であるため、同じ温度変化に対して定圧過程の方がより大きなエントロピー変化を伴うことを反映しています。物理的には、定圧過程では温度上昇と体積膨張の両方が起こるため、エントロピーの増加が大きくなるのです。
- 等温過程(緑の水平線)と断熱可逆過程(紫の垂直線)の直交性: この直交関係はカルノーサイクルの $T$-$S$ 線図が長方形になることの基盤です。カルノーサイクルは「等温膨張→断熱膨張→等温圧縮→断熱圧縮」の4ステップからなり、$T$-$S$ 線図上で長方形を描きます。
- $T$-$S$ 線図の面積が熱量: 可逆過程では $\delta Q_{\text{rev}} = T \, dS$ なので、$T$-$S$ 線図の曲線の下の面積が系が授受する熱量に対応します。これは $p$-$V$ 線図で面積が仕事に対応するのと類似した関係です。
熱伝導のエントロピー生成
次に、温度差のある2物体間の熱伝導でどれだけのエントロピーが生成されるかを、高温側の温度 $T_H$ を変化させながらプロットします。
import numpy as np
import matplotlib.pyplot as plt
T_L = 300 # 低温側の温度 [K]
Q = 1000 # 移動する熱量 [J]
T_H_range = np.linspace(301, 1500, 500)
# 全エントロピー変化: ΔS = Q(1/T_L - 1/T_H)
dS_total = Q * (1/T_L - 1/T_H_range)
fig, ax = plt.subplots(figsize=(10, 6))
ax.plot(T_H_range, dS_total, 'b-', linewidth=2.5)
ax.axhline(y=0, color='k', linestyle='--', alpha=0.3)
# T_H → ∞ の極限値を示す
dS_limit = Q / T_L
ax.axhline(y=dS_limit, color='r', linestyle=':', alpha=0.5,
label=f'Limit ($T_H \\to \\infty$): {dS_limit:.2f} J/K')
ax.set_xlabel('$T_H$ [K]', fontsize=14)
ax.set_ylabel(r'$\Delta S_{\mathrm{total}}$ [J/K]', fontsize=14)
ax.set_title(f'Entropy generation in heat transfer ($T_L$={T_L}K, Q={Q}J)',
fontsize=14)
ax.legend(fontsize=12)
ax.grid(True, alpha=0.3)
plt.tight_layout()
plt.show()
このグラフから、以下の重要な特徴が読み取れます。
- $T_H$ が $T_L$ に近いほどエントロピー生成は小さくなる: $T_H \to T_L$ の極限で $\Delta S_{\text{total}} \to 0$ です。温度差がなくなれば過程は可逆に近づき、エントロピー生成はゼロに近づきます。これは「温度差を限りなく小さくしてゆっくり熱を移す」のが最も効率的な(無駄のない)方法であることを意味します。
- $T_H$ が大きくなるほどエントロピー生成は増加する: 温度差が大きいほど過程の不可逆性が強く、エントロピー生成も大きくなります。$T_H \to \infty$ の極限では $\Delta S_{\text{total}} \to Q/T_L$(赤い点線)に漸近します。これは高温物体のエントロピー減少 $Q/T_H$ がゼロに近づくためです。
- 曲線の形状は双曲線的: $\Delta S_{\text{total}} = Q(1/T_L – 1/T_H)$ は $T_H$ に関して単調増加であり、増加率は $T_H$ が大きくなるにつれて緩やかになります。
自由膨張の確率とエントロピー変化
粒子数 $N$ を変化させたとき、自由膨張後に全粒子が自発的に元の片側に戻る確率と、エントロピー変化がどのように振る舞うかを可視化します。
import numpy as np
import matplotlib.pyplot as plt
N_particles = np.arange(1, 81)
kB = 1.381e-23 # ボルツマン定数 [J/K]
# 全粒子が左半分に戻る確率
prob = (0.5) ** N_particles
# エントロピー変化(kB単位)
dS_over_kB = N_particles * np.log(2)
fig, (ax1, ax2) = plt.subplots(1, 2, figsize=(14, 6))
# 左: 自発的圧縮の確率(対数スケール)
ax1.semilogy(N_particles, prob, 'r-', linewidth=2.5)
ax1.set_xlabel('Number of particles $N$', fontsize=13)
ax1.set_ylabel('Probability (all in left half)', fontsize=13)
ax1.set_title('Probability of spontaneous compression', fontsize=14)
ax1.grid(True, alpha=0.3)
# 特定の点にラベルを付ける
for N_mark in [10, 20, 40, 60]:
p_mark = 0.5**N_mark
ax1.annotate(f'N={N_mark}\nP={p_mark:.1e}',
xy=(N_mark, p_mark),
fontsize=9, ha='left',
xytext=(N_mark+3, p_mark*10),
arrowprops=dict(arrowstyle='->', color='gray'))
# 右: エントロピー変化
ax2.plot(N_particles, dS_over_kB, 'b-', linewidth=2.5)
ax2.set_xlabel('Number of particles $N$', fontsize=13)
ax2.set_ylabel(r'$\Delta S / k_B$', fontsize=13)
ax2.set_title('Entropy change in free expansion', fontsize=14)
ax2.grid(True, alpha=0.3)
plt.tight_layout()
plt.show()
# 具体的な数値
print("=== 粒子数と自発的圧縮の確率 ===")
for N in [1, 10, 20, 50, 100]:
p = 0.5**N
print(f" N = {N:>3d}: P = {p:.2e}")
この2つのグラフから、エントロピー増大の法則の統計力学的基盤が明確に読み取れます。
- 左のグラフ(確率の対数プロット): 粒子数 $N$ に対して確率が指数関数的に減少しています。$N = 10$ で約 $10^{-3}$、$N = 20$ で約 $10^{-6}$、$N = 60$ では $10^{-18}$ を下回ります。実際の気体($N \sim 10^{23}$)ではこの確率は $10^{-10^{22}}$ 程度の途方もなく小さい数になり、事実上ゼロです。
- 右のグラフ(エントロピー変化): $\Delta S / k_B = N \ln 2$ なので $N$ に対して線形に増加しています。これはエントロピーの示量性を反映しています。系の大きさ(粒子数)を2倍にすると、エントロピー変化も2倍になります。
- 確率とエントロピーの対応: $P = 2^{-N}$ の対数をとると $\ln P = -N \ln 2 = -\Delta S / k_B$ なので、自発的に「低エントロピー状態」に戻る確率は $P \propto e^{-\Delta S / k_B}$ です。エントロピー変化が大きいほど、逆過程は指数関数的にありえなくなります。
数値計算による確認
最後に、各種エントロピー変化の数値例を計算し、理論式の結果を確認します。
import numpy as np
R = 8.314 # 気体定数 [J/(mol·K)]
Cv_mono = 1.5 * R # 単原子理想気体の定容比熱
Cp_mono = Cv_mono + R # 単原子理想気体の定圧比熱
print("=" * 55)
print(" エントロピー変化の計算例(n = 1 mol)")
print("=" * 55)
# 1. 等温膨張
print("\n[1] 等温膨張(V → 2V, T = 300K)")
dS_iso = R * np.log(2)
print(f" ΔS = nR ln(V2/V1) = {dS_iso:.4f} J/(mol·K)")
print(f" (体積が2倍になると、ΔS ≈ {dS_iso:.2f} J/(mol·K))")
# 2. 定容加熱
print("\n[2] 定容加熱(300K → 600K, 単原子理想気体)")
dS_cv = Cv_mono * np.log(600/300)
print(f" ΔS = nCv ln(T2/T1) = {dS_cv:.4f} J/(mol·K)")
# 3. 定圧加熱
print("\n[3] 定圧加熱(300K → 600K, 単原子理想気体)")
dS_cp = Cp_mono * np.log(600/300)
print(f" ΔS = nCp ln(T2/T1) = {dS_cp:.4f} J/(mol·K)")
print(f" (定容の場合の {dS_cp/dS_cv:.2f} 倍 = Cp/Cv = γ)")
# 4. 熱伝導
print("\n[4] 熱伝導(T_H = 500K → T_L = 300K, Q = 1000J)")
T_H, T_L, Q = 500, 300, 1000
dS_hot = -Q / T_H
dS_cold = Q / T_L
dS_total = dS_hot + dS_cold
print(f" ΔS_hot = -Q/T_H = {dS_hot:.4f} J/K")
print(f" ΔS_cold = +Q/T_L = {dS_cold:.4f} J/K")
print(f" ΔS_total = {dS_total:.4f} J/K > 0 (不可逆)")
# 5. 自由膨張(統計力学的計算との比較)
print("\n[5] 自由膨張(V → 2V, n = 1 mol)")
dS_thermo = R * np.log(2)
N_A = 6.022e23
kB = 1.381e-23
dS_boltzmann = N_A * kB * np.log(2)
print(f" 熱力学的: ΔS = nR ln2 = {dS_thermo:.4f} J/(mol·K)")
print(f" 統計力学: ΔS = NkB ln2 = {dS_boltzmann:.4f} J/(mol·K)")
print(f" 差: {abs(dS_thermo - dS_boltzmann):.6f} J/(mol·K)")
print(f" (NkB ≈ R の精度で一致)")
# 6. 2種気体の混合
print("\n[6] 2種理想気体の等モル混合(n_A = n_B = 1 mol)")
x_A, x_B = 0.5, 0.5
dS_mix = -R * (x_A * np.log(x_A) + x_B * np.log(x_B)) # per mol
dS_mix_total = -R * (1 * np.log(x_A) + 1 * np.log(x_B)) # total (2 mol)
print(f" ΔS_mix = -R(n_A ln x_A + n_B ln x_B)")
print(f" = {dS_mix_total:.4f} J/K")
print(f" 1 mol あたり: {dS_mix:.4f} J/(mol·K)")
この数値計算の結果から、いくつかの重要な点を確認できます。
- 等温膨張と自由膨張のエントロピー変化が同じ: 体積が $V$ から $2V$ に変わる場合、等温膨張でも自由膨張でも $\Delta S = nR \ln 2 \approx 5.76$ J/(mol·K) です。エントロピーが状態量であるため、始状態と終状態が同じなら過程によらず同じ値になります。ただし、等温膨張では系が外部に仕事をする(可逆過程)のに対し、自由膨張では仕事をしない(不可逆過程)という違いがあります。
- 定圧加熱のエントロピー変化は定容加熱より大きい: $\Delta S_p / \Delta S_v = C_p / C_v = \gamma$(比熱比)です。定圧過程では体積膨張も伴うため、エントロピーの増加が大きくなります。
- 熱力学的計算と統計力学的計算の一致: 自由膨張のエントロピー変化 $nR \ln 2$ と $Nk_B \ln 2$ が($R = N_A k_B$ の関係を通じて)一致します。数値的にわずかな差があるのは、$k_B$ と $N_A$ の値の精度に起因するもので、本質的な違いではありません。
シャノンエントロピーの可視化
最後に、シャノンエントロピーと熱力学的エントロピーの対応関係を、2値分布(コイン投げ)を例にとって可視化します。
import numpy as np
import matplotlib.pyplot as plt
# 2値分布のシャノンエントロピー: H(p) = -p ln(p) - (1-p) ln(1-p)
p = np.linspace(0.001, 0.999, 500)
H = -(p * np.log(p) + (1 - p) * np.log(1 - p))
fig, (ax1, ax2) = plt.subplots(1, 2, figsize=(14, 6))
# 左: シャノンエントロピー
ax1.plot(p, H, 'b-', linewidth=2.5)
ax1.axvline(x=0.5, color='r', linestyle='--', alpha=0.5, label='p = 0.5 (max)')
ax1.set_xlabel('Probability $p$', fontsize=14)
ax1.set_ylabel('Shannon entropy $H$ [nat]', fontsize=14)
ax1.set_title('Shannon entropy of binary distribution', fontsize=14)
ax1.legend(fontsize=12)
ax1.grid(True, alpha=0.3)
# 右: 離散分布のエントロピーの例
# n面サイコロ(一様分布)のエントロピー
n_faces = np.arange(2, 101)
H_uniform = np.log(n_faces)
ax2.plot(n_faces, H_uniform, 'g-', linewidth=2.5)
ax2.set_xlabel('Number of equally likely states $\\Omega$', fontsize=14)
ax2.set_ylabel('Entropy $H = \\ln\\Omega$ [nat]', fontsize=14)
ax2.set_title('Entropy of uniform distribution', fontsize=14)
ax2.grid(True, alpha=0.3)
plt.tight_layout()
plt.show()
これらのグラフから、情報理論的エントロピーの特徴を確認できます。
- 左のグラフ(2値分布のシャノンエントロピー): $p = 0.5$(公平なコイン)で最大値 $H = \ln 2 \approx 0.693$ nat をとり、$p = 0$ または $p = 1$(結果が確定)で $H = 0$ になります。この形は完全に対称で、「不確実性が最大のとき、エントロピーも最大」という直感と一致しています。
- 右のグラフ(一様分布のエントロピー): 等確率な状態数 $\Omega$ に対してエントロピーは $H = \ln \Omega$ で対数的に増加します。これはまさにボルツマンのエントロピー $S = k_B \ln \Omega$ と同じ構造です。状態数が増えるほどエントロピーは大きくなりますが、その増加率は緩やかになっていきます。100状態の系のエントロピーは2状態の系の約6.6倍($\ln 100 / \ln 2 \approx 6.6$)であり、状態数の比(50倍)ほど大きくはなりません。対数の性質により、「系を2つ合わせたときのエントロピーは和になる」という示量性が自然に満たされます。
エントロピーの意味の多面性
ここまでの議論を踏まえて、エントロピーの持つ多面的な意味を整理しておきましょう。
「使えないエネルギー」の指標としてのエントロピー: エントロピーが増大すると、系のエネルギーのうち仕事として取り出せる部分が減少します。自由エネルギーの定義(ヘルムホルツ: $F = U – TS$、ギブス: $G = H – TS$)からわかるように、エントロピー $S$ が増大すると $TS$ の項が大きくなり、自由エネルギー(仕事として利用可能なエネルギー)は減少します。エントロピー増大は、エネルギーが「質の低い形態」へと変換されることを意味しています。
時間の矢としてのエントロピー: ニュートン力学や量子力学の基本方程式は時間反転に対して対称です。つまり、ミクロな法則だけからは「時間の方向」を区別できません。しかしマクロな世界では、映画を逆再生すればすぐに「おかしい」とわかります。割れたコップが自然に元に戻ることはありません。この「時間の矢」を与えるのがエントロピー増大の法則です。エントロピーが増大する方向が「未来」であり、これが巨視的な時間の非対称性の起源です。
不可逆性の度合いとしてのエントロピー生成: ある過程で生成されるエントロピーの量($\Delta S_{\text{gen}} = \Delta S_{\text{total}}$)は、その過程がどれだけ不可逆であるかの定量的な指標です。エントロピー生成がゼロなら過程は可逆(理想的)であり、エントロピー生成が大きいほど過程は非効率的(不可逆的)です。工学的には、エントロピー生成を最小化することが、装置やプロセスの効率を最大化する方針となります。
まとめ
本記事では、エントロピーについて、クラウジウスの熱力学的定義からボルツマンの統計力学的定義、さらには情報理論との接続までを解説しました。
- 熱力学的定義: $dS = \delta Q_{\text{rev}} / T$。「熱を温度で割る」ことで、同じ熱量でも低温ほど大きなエントロピー変化をもたらすことが表現されます。エントロピーは経路によらない状態量です
- 理想気体のエントロピー変化: $\Delta S = nC_v \ln(T_2/T_1) + nR\ln(V_2/V_1)$。温度の上昇と体積の増加がエントロピーを増大させます。各過程(等温・定容・定圧・断熱)の物理的意味を $T$-$S$ 線図で理解できます
- エントロピー増大の法則: 孤立系で $\Delta S_{\text{total}} \geq 0$(熱力学第2法則)。熱伝導、自由膨張、気体の混合など、あらゆる自発的過程でエントロピーは増大します
- ボルツマンの統計力学的定義: $S = k_B \ln \Omega$。エントロピーはミクロ状態数の対数であり、「確率的に最もありそうな状態に向かう」ことがエントロピー増大の本質です
- 情報理論との接続: シャノンエントロピー $H = -\sum p_i \ln p_i$ は、ボルツマンのエントロピーと同じ数学的構造を持ちます。物理的不確定性と情報的不確定性は根底でつながっています
- 多面的な意味: エントロピーは「乱雑さの尺度」「不可逆性の指標」「使えないエネルギーの量」「時間の矢の起源」として、さまざまな文脈で重要な役割を果たします
エントロピーは熱力学の最も深遠な概念であると同時に、統計力学・情報理論・化学・工学を横断する普遍的な概念です。エントロピーを理解することで、カルノーサイクルの効率限界、自由エネルギーによる反応の自発性判定、熱伝導の不可逆性など、熱力学のさまざまなトピックがつながりを持って見えてきます。
次のステップとして、以下の記事も参考にしてください。
- 熱力学第2法則 — エントロピー増大則のより詳しい議論
- 自由エネルギー — エントロピーを使った平衡条件と化学反応の自発性
- カルノーサイクル — エントロピーの起源となった可逆サイクル
- 情報量とエントロピー — 情報理論からのエントロピーの導入
- KLダイバージェンス — エントロピーに基づく分布間の距離尺度