과학, 알고싶다(206) — 열역학 관련: 엔트로피와 확률의 관계와 H-정리(H-theorem)

[엔트로피와 확률의 관계]

시스템을 구성하는 물질이 가지는 특정 성질의 평균값은 각 가능한 값에 확률을 곱한 후 그 값들을 합해서 구할 수 있다. 예를 들어, 시스템의 평균 에너지는 다음과 같이 주어진다.

U(average) = Σ_i ε_i e^–bεi / Σ_i e^–bε} = Σ_i ε_i P_i

총 분자 수가 일정하게 유지되는 조건에서 위 식을 미분하고 지난 글(과학, 알고싶다(205))에서 살펴봤던 식 {P_i = n_i / N = e^–bεi / Σ_i e^–bεi = e^–bεi / Z }에 자연로그를 취한 후 이용하면, 아래와 같은 관계식을 얻는다.

dU(average) = Σ_i ε_i dP_i + Σ_i P_i dε_i = – (1 / b) Σ_i (lnP_i + lnZ) dP_i + Σ_i P_i (∂ε_i / ∂V)_N dV

그런데, 모든 확률 함수에 대해서, {Σ_i P_i = 1}, 즉 {Σ_i dP_i = 0}이므로, 위 식에서 Z와 관련된 항의 값은 0이 된다. 그리고, 부피에 대한 에너지의 변화는 압력과 음의 비례 관계를 가지고 여기에 확률 함수가 곱해지면 그 평균값이므로, 즉 {P_i (∂ε_i / ∂V)_N = – p(average)}이기 때문에, 위 식은 {dU(average) = – (1 / b) Σ_i (lnP_i) dP_i – p(average) dV  = – (1 / b) d (Σ_i P_i lnP_i) – p(average) dV }가 된다.

이제, {dU = T dS – p dV}임을 고려하면, {T dS = – (1 / b) d (Σ_i P_i lnP_i)}임을 알 수 있다.

그리고 상수 b는, 아래에서 보는 것처럼, {1 / k T}로 밝혀졌는데, 여기서 k는 지난 글(과학, 알고싶다(205))에서도 언급되었던 볼츠만 상수(Boltzmann’s constant)로 알려진 범용 상수(universal constant)이며, 이상 기체 상수 R을 아보가드로 수 N_A로 나눈 값이다.

시스템을 dQ만큼 가역적으로 가열하는 경우, 지난 글(과학, 알고싶다(205))에서 살펴봤던 식 {(모든 i에 대해서) {(∂lnW / ∂n_i – a – b ε_i) = 0}은 {dlnW = Σ_i (a + b ε_i) dn_i = a Σ_i dn_i + b Σ_i ε_i dn_i = 0 + b dQ }를 의미함을 알 수 있고, 따라서 {b = dlnW / dQ }이다. 그런데, {dQ = T dS}라는 엔트로피에 대한 정의와 볼츠만의 유명한 방정식 {S = k lnW}(즉, {dS = d(k lnW) = k dlnW })를 이용하면, {dQ = k T dlnW }임을 알 수 있으므로, b는, 위에서 언급했던 것처럼, {1 / k T}인 것이다.

그리고, 중요하게도, 이 b를 위의 식 {T dS = – (1 / b) d (Σ_i P_i lnP_i)}에 대입하면, {dS = – k d (Σ_i P_i lnP_i)}, 즉, {S = – k Σ_i P_i lnP_i}임을 알 수 있는데, 바로 이 식이 확률 측면에서 엔트로피에 대한 표현을 제공한다.

엔트로피에 대한 이 표현은 맥스웰이나 볼츠만에 의해 유도되지 않았지만 아래에서 설명될 볼츠만의 유명한 H-정리(H-theorem)와 매우 유사하다. 그런데 그전에 분할 함수(partition function)와 다른 열역학적 변수 사이의 관계 일부에 대해 먼저 살펴본다.

[분할 함수]

분할함수는, n_i개의 분자가 에너지 상태 ε_i에의 평형 상태에 있을 때(그리고, 당연히, 기체 분자의 특정 에너지 분포에 대한 총 경우의 수 W가 최대값을 가질 때), 열역학에서 등장하는 U, S, G, 그리고 F와 같은 상태 함수(state function)와 관련이 있음이 알려져 있다. 시스템에 총 N개의 물질 분자가 존재한다면, 즉 N = Σ_i n_i이라면, 일정한 온도 T와 일정한 부피 V 조건에서 내부 에너지 U 및 분할 함수 Z(T, V, N)는, 지난 글(과학, 알고싶다(205))에서 살펴봤던 바와 같이, 다음과 같이 표현된다.

U = Σ_i n_i ε_i

Z(T, V, N) = Σ_i e^–bεi

(참고로, 여기서는 주어진 에너지 준위를 가진 하나의 상태만 있다고 가정했지만 실제로는 동일한 에너지를 가진 여러 상태가 있을 수 있다. 이러한 상태를 축퇴(degenerate)라고 하며 에너지 수준 또는 준위 i의 축퇴는 종종 g_i로 표현되기도 한다.)

그리고, 에너지 ε_i를 갖는 분자의 수 n_i는 {n_i = N e^–bεi / Z}이므로, U에 대한 식에서 n_i를 대체하면 {U = Σ_i (N e^–bεi ε_i / Z) = – (N / Z) (∂Z / ∂b)_V = – N (∂lnZ / ∂b)_V}임을 알 수 있고, b가 {1 / k T}이므로 {U = N k T² (∂lnZ / ∂T)_V }이다.

그런데, N_A k = R이므로 분자가 1몰인 시스템의 경우 그 내부 에너지는 {U = R T² (∂lnZ / ∂lnT)_V}이다. 그리고, 식 {W = N! / (n₁! x n₂! x …)}에 자연로그를 취한 후 스털링의 근사치를 직접 적용하면, {lnW = N lnN – N + Σ_i n_i  – Σ_i n_i lnn_i = N lnN – Σ_i n_i lnn_i}이고, 앞에서 살펴본 바와 같이 {n_i = N e^–bεi / Z}이므로 {Σ_i n_i lnn_i = N lnN – N lnZ – b Σ_i n_i ε_i = N lnN – N lnZ – b U }임을 알 수 있기 때문에, {lnW = N lnN – Σ_i n_i lnn_i = N lnZ +b U }이다. 그리고 분자가 1몰인 시스템의 경우 N = N_A이기 때문에, 이 식을 볼츠만의 방정식 {S = k lnW}에 대입하면 {S = N_A k lnZ +U / T = R lnZ + R T (∂lnZ / ∂lnT)_V}이다.

내부 에너지와 엔트로피에 대한 이러한 표현을 분할 함수 관점에서 사용하면 분자가 1몰인 시스템의 헬름홀츠 자유 에너지가 {F = U − T S = – R T  lnZ}임을 알 수 있고, 지난 글(과학, 알고싶다(204))에서 살펴본 바와 같이 헬름홀츠 자유 에너지 양의 변화에 대해 완전 미분 방정식(exact differential functions)로 설명할 수 있으므로, {dF = (∂F / ∂T)_V dT + (∂F / ∂V)_T dV}이다. 그런데 {dF = – S dT – p dV}이므로 두 식에서 {p = – (∂F / ∂V)_T = N_A k T (∂lnZ / ∂V)_T}라는 식을 유도할 수 있다.

그리고 분할 함수 관점에서 엔탈피는 다음과 같이 표현된다.

H = U + p V

= N_A k T² (∂lnZ / ∂T)_V – N_A k T V (∂lnZ / ∂V)_T

= N_A k T (∂lnZ / ∂lnT)_V – N_A k T (∂lnZ / ∂lnV)_T

= R T [(∂lnZ / ∂lnT)_V – (∂lnZ / ∂lnV)_T]

따라서 깁스 자유 에너지는 다음과 같이 표현된다.

G = H – T S

= R T [(∂lnZ / ∂lnT)_V – (∂lnZ / ∂lnV)_T] – R T lnZ – R T (∂lnZ / ∂lnT)_V

= – R T [lnZ + (∂lnZ / ∂lnV)_T]

깁스 함수와 헬름홀츠 함수의 차이는 시스템의 부피 변화가 클 때 중요하게 된다.

[H-정리(H-theorem)]

위에서 설명한 “엔트로피는 확률이 증가하기 때문에 증가”한다는 볼츠만의 엔트로피 해석은 과학 역사상 확률을 자연의 특징을 설명하기 위해 사용된 첫 번째였다. 그런데 볼츠만에 대해 많은 사람들이 물리학자로서 그의 탁월함을 인정하지만 삶에서 일반적으로 인정되는 기준에 따르면 그는 패배자라고 할 수 있다는 평가가 있다. 볼츠만은 자신의 H-정리를 마무리하는 데 결코 성공하지 못했기 때문이다. 정확한 증명은 아니지만 열역학 제2법칙과 깊은 연관 있으며 시간의 비대칭성에 대한 가장 초기의 수학적 기술 중 하나인, 그리고 간략하게 정리하면 ‘기체 분자가 볼츠만 방정식에 따라 계속 충돌하면 특정 물리량 H는 시간이 흐르면서 점점 감소한다’라고 할 수 있는 볼츠만의 H-정리 대해서 살펴본다.

볼츠만은 비평형 상태에서 평형 상태로 가는 과정을 설명할 수 있어야 비로소 평형 상태의 기체 분자 속도의 분포 법칙에 대한 완전한 이해를 할 수 있다고 생각했다. 이러한 사고를 바탕으로 1872년에 [기체 분자의 열평형에 대한 추가 연구]라는 제목의 논문에서 외부의 힘이 시스템에 작용하는 경우 무작위로 운동하는 입자들이 서로 충돌하면서 시간에 따라 그 속도 분포가 어떻게 변하는지를 알게 해주는, 보다 일반적인 볼츠만 수송 방정식(transport equation)을 유도했다. 이전까지의 분포 법칙은 열적 평형 상태에 있는 기체 분자들에 대하여 유도된 것이었으나 볼츠만은 이러한 가정을 배제하고 비평형 상태에 있는 기체 분자가 어떻게 평형 상태로 변화해 가는가를 논의했던 것이다. 기체 운동론 역사에서 가장 의미가 있는 논문으로 평가되는 이 논문에서 일반적인 수송 방정식으로부터 기체 분자의 확산, 점성, 열전도 계수를 계산할 수 있음을 보여주려 한 것인데, 볼츠만의 수송 방정식은 두 입자 간의 충돌로 분자 간 상호작용을 고려하는 이상 기체의 비평형계의 방정식이다. 볼츠만은 충돌의 문제를 다루기 위해서 분자 혼돈(molecular chaos)이라는 통계적 가정을 추가하게 되는데, 독일어로는 ‘Stoßzahlansatz(쉬토스찰안자츠, SZA)’라고 한다. 이를 통해 볼츠만의 수송 방정식은 비선형 방정식으로 그 일반해를 구할 수는 없지만 열적 평형 상태로 수렴하는 극한에서는 맥스웰 분포 함수를 따른다는 것이 밝혀진다.

볼츠만의 방정식은 그 일반해를 구할 수는 없는 방정식이지만 열역학 제2법칙의 역학적인 해석을 가능하게 했다는 점에서 의의가 있다. 열역학 법칙들은 경험을 바탕으로 구축된 현상학적인 법칙들이어서 어떠한 이론적인 근거를 가지지 않는 법칙들이었으며, 열역학 제2법칙은 엔트로피를 비가역성의 척도로 삼지만 볼츠만 이전의 엔트로피는 원자라는 개념 없이 정의된 것이다. 볼츠만은 기체 분자들의 통계적 속도 분포를 이용하여 그 분포에 대한 수학적 함수 H를 정의하여 볼츠만 방정식에 의해 기체 분자가 계속 충돌하여 변화하는 비평형계의 H 값은 시간에 흐름에 따라 감소하는 방향으로 변한다는 것을 보였는데, 볼츠만은 그 함수 H를 어떻게 정의했고 비평형계에서의 H 값이 시간에 흐름에 따라 감소하는 방향으로 변한다는 것이 어떤 의미일까?

지난 글(과학, 알고싶다(205))에서 살펴본 바와 같이, 평형 상태에 있는 기체 분자의 속도 분포를 설명하는 맥스웰-볼츠만 분포를 도출한 볼츠만은, 순수한 단원자 기체 분자(즉, 네온, 아르곤 같이 원자 자체가 분자인 비활성기체, 이하 기체 분자)가 비평형 상태에서 평형 상태로 접근하는 방법을 이해하는 데 관심이 있었다. 그 작업의 결과가 1872년에 발표된 그의 가장 유명한 논문 중 하나이다. 이전과 마찬가지로 그는 기체 분자를 6차원 공간의 점, 좌표의 3차원, 속도의 3차원으로 나타낼 수 있는 단단한 구체로 간주했다(참고 – 점 입자의 동적 상태는 위치(세 가지 구성 요소가 있는 벡터)와 운동량(역시 세 가지 구성 요소가 있는 벡터)으로 지정되는데, 이 상태를 각각 3차원 공간의 두 점으로 나타내거나 좌표와 운동량으로 형성된 6차원 공간의 단일 점으로 나타낼 수 있다. 이것이 좌표 공간이다. 이와 같은 기하학적 표현은 n개의 입자로 구성된 임의의 시스템으로 확장될 수 있다. 그런 다음 시스템의 상태를 지정하기 위해 n x 6 숫자가 필요하거나 아니면 6n차원 좌표 공간의 단일 지점으로 이 시스템의 상태를 지정할 수 있다. 이와 같은 시스템의 시간에 따른 변화는 좌표 공간의 궤적에 의해 설명될 수 있다.). 따라서 그는 기체 분자의 위치와 속도는 6개의 구성 요소가 있는 벡터 z로 나타냈다. z가 시간 t에서 좌표 공간의 영역 D 내에 있을 확률 P는 D에 대한 확률 밀도 함수(probability density function)를 적분함으로써 구할 수 있다. 이상 기체인 기체 분자가 순전히 기계적인 방식으로 행동한다고 ​​가정하면 이 확률 밀도 함수는 시간에 대해 불변(time-invariant)이어야 한다. 참고로 이것은 역학에서 ‘리우빌(Liouville) 방정식’이라고 하는 방정식과 관련이 있다. 그런데 아주 작은 부피의 기체에도 너무 많은 분자가 있기 때문에 그들 각각에 대해 6개의 매개변수로 작업하는 것은 불가능했기 때문에 맥스웰과 볼츠만은 N개의 기체 분자 내에서 움직이는 단일 분자만을 고려했다(참고로 이러한 접근법은 6차원 공간의 N 시스템이 아닌 6 N 차원 공간의 하나의 시스템을 연구한 깁스의 접근법과 대조된다.). 이 경우 확률 밀도 함수 f(x, v, t)는 기체 분자가 시간 t에서 위치 x와 속도 v를 가짐을 의미한다(x와 v는 모두 3개의 구성요소를 가진 벡터이다.). 볼츠만에 따르면, 기체 분자 사이에 충돌이 없다면 f는 시간에 대해 불변이지만, 시간에 따른 f의 변화는 일반적으로 {df / dt = 이득(gains) – 손실(losses)}라는 식으로 표현할 수 있으며, 여기서 이득과 손실은 시간 변화 dt 동안 좌표 공간 x + dx, v + dv의 부피 안팎으로 얼마나 많은 분자가 이동하는지 보여주는 함수이다.

볼츠만은, 앞에서 언급한 바와 같이, 비평형계에서의 기체 분자의 충돌의 문제를 다루기 위해서 분자 혼돈이라는 통계적 가정을 추가하여, 두 개 이상의 기체 분자 간의 충돌 가능성과 용기 벽으로부터의 영향을 무시함으로써 위 식의 이득과 손실에 대해 f 함수만으로 표현될 수 있음을 발견했다. 기체의 단일 분자는 전체 부피에 비해 매우 작기 때문에 한 기체 분자의 확률 밀도 함수는 다른 기체 분자의 확률 밀도 함수와 독립적인 것으로 간주할 수 있다는 것이다. 그렇지만, 이것은 사실과는 다르다. 방금 충돌한 두 기체 분자는 관련된 위치와 운동량을 각각 갖기 때문이다. 따라서 볼츠만의 분자 혼돈과 관련된 이러한 가정은 엄밀히 말하면 사실이 아니다. 그러나 선택한 두 기체 분자 사이의 충돌이 더 드물어짐에 따라 볼츠만의 가정이 더 타당해질 수 있다.

사실 실내 온도에서도 열 운동을 하는 유체의 분자는 극도로 혼란스러운 궤적을 보인다. 이것은 모두 뉴턴의 법칙에 따라 움직이고 지속적으로 서로 충돌하는 수천 개의 분자에 대한 컴퓨터 시뮬레이션으로도 쉽게 입증할 수 있다. 특정 초기 조건(initial conditions)으로 시뮬레이션을 수행하면 공간 r에서 시간 t 이후의 각 분자의 위치를 계산할 수 있다. 그리고 초기 조건에서 작은 변화 δ로 시뮬레이션을 반복하면 개별 분자는 빠르게 서로 간에 관계가 전혀 없는 위치를 가지도록 할 수 있을 것이다. 이 이후의 변화 δ가 더욱 작다면 개별 분자가 가지게 되는 새로운 궤적은 매우 짧은 시간 동안 대략적으로 선형의 관계를 가질 것이다. 그런데 이 경우 Δr이라고 할 수 있는 두 시뮬레이션에서의 분자 좌표 간의 차이는 ‘리아푸노프 불안정성’이라고 불리는 {Δr(t) ≈ δe^λt}(여기서 λ는 리아푸노프 지수)라고 라는 식에서 볼 수 있듯이 기하급수적으로 발산하게 된다고 한다. 따라서, 일반적으로 단 하나 또는 두 개의 분자의 초기 위치 또는 속도의 아주 작은 변화는 수천 개의 시뮬레이션에서 몇 나노초(nanoseconds) 내라는 조건에서 본질적으로 기체 분자 상호 간에 관계가 없는 운동의 궤적을 제공한다고 하며, 이러한 조건에서 분자 혼돈은 너무 작아서 강력한 현미경으로도 볼 수 없는 분자 시스템에 대해서도 적용이 가능한 가정으로 밝혀졌다.

이러한 조건에서, 각 기체 분자가 다른 기체 분자와의 충돌 전까지 이동할 수 있는 예상 거리인 기체 분자의 평균 자유 경로(mean free path, l)는 {l = V / (N π σ²)}(여기서 V는 전체 부피, N은 존재하는 단원자분자인 기체 분자의 수, σ는 단원자분자인 기체 분자의 직경)이다. 그런데 실온 및 1 기압의 압력에서 기체 1밀리리터에는 약 10²⁰개의 분자가 있고 σ는 약 10^-8cm라고 할 수 있기 때문에, 기체 분자의 평균 자유 경로는 대력적으로 3 × 10^-5cm이라고 할 수 있다. 위에 언급한 {df / dt = 이득(gains) – 손실(losses)}라는 볼츠만의 식은, N σ²이 제한된 값을 가진다면N → ∞ 및 σ → 0일수록 더 정확해진다. 볼츠만의 가정은 따라서 기체 분자의 부피가 시스템의 전체 부피에 비해 아주 작은 이상 기체 등에 대해서는 유효하고, 실제 기체의 경우에는 매우 낮은 압력이라는 조건에서 유효하다고 할 수 있다.

1865년에 로슈미트가 액체 상태와 기체 상태의 물질 밀도를 비교하여 분자 크기를 상당히 정확하게 계산했으며, 평균 자유 경로 l은 맥스웰의 원자 모델을 사용하여 점도(viscosity) 데이터에서 추정할 수 있었다. 따라서 볼츠만은 이러한 원자 가설이 실제로 옳다면 부피가 작은 거시적 시스템에도 정말 엄청난 수의 분자가 포함되어 있다고 확신할 수 있었다. 그리고, 일련의 복잡한 논증과 수학을 통해(자세한 수학적 내용은 그에 대한 pdf 파일을 다운로드 받을 수 있는 여기를 참조) 볼츠만은 그가 H라고 부르는 확률 밀도 함수 f의 함수를 아래와 같이 유도했다. 사실 볼츠만은 이에 대한 함수로 기호 E를 사용했지만 버버리라는 영국인이 독일어 문자를 “H”로 착각했고, 이후 이를 볼츠만의 H-정리라고 부르게 되었다고 한다.

H = ∫_space f lnf dv

이 식은 앞에서 살펴본 식 {S = – k Σ_i P_i lnP_i}과 매우 유사해 보이며, 음수인 상수만 누락된 것으로 보인다. 함수 f는 각 개별 기체 분자의 거동으로 정의되기 때문에 분자 간의 상호 작용은 무시된다. 즉, 이상 기체에 대한 것일 수 있다. 볼츠만은 H가 더 이상 시간에 따라 변하지 않는 조건에서 f가 맥스웰의 분포를 보이는 함수가 아니라면, 함수 f가 맥스웰의 분포를 보이기 때문에H는 시간에 따라 감소해야 한다는 것을 보여주었다고 믿었다(여기에 대한 해석이 분분한데, 쉽게 명제 논리(propositional logic)적으로 본다면 볼츠만은 ‘~p이면 ~q이다’라고 한다면 ‘q이면 p이다’라고 판단한 것이다.). 따라서 H는 그 부호로 인해 시간이 지남에 따라 증가하는 것이 아니라 감소하는 경향이 있지만 엔트로피 함수의 역할을 한다는 것이다. H-정리의 유도는 전적으로 기계적인 추론에 기반을 두고 있기 때문에 볼츠만은 뉴턴의 법칙에서 예상한 대로 행동하는 기체 분자 시스템에서 엔트로피가 자연스럽게 발생해야 한다고 주장했다. 그러나 로슈미트는 이 결론이 논리적으로 불가능하다고 지적했다.

로슈미트는 역학 법칙이 의미하는 바는 시간에 대해 가역할 수 있으며(즉, time-inversion이 가능하며) 시간이 거꾸로 흐르더라도 역학 법칙은 완벽하게 기능한다고 주장했다. 그런데, 특정 시스템에 대해 H가 시간에 따라 감소한다면 시간이 거꾸로 흐를 경우 H는 그 값이 증가해야 한다. 하지만, 이는 H가 어떤 경우이든 항상 최소값을 향해 감소해야 한다는 볼츠만의 정리와 모순된다. 이 ‘가역성의 역설(reversibility paradox)’은 이미 1867년에 맥스웰이 테이트와 켈빈과 논의한 바 있다. 하나의 당구공이 정지해 있는 다른 당구공과 충돌하여 모든 당구공이 움직이는 경우를 생각해 볼 수 있는데, 이 경우 뉴턴 역학적인 관점에서 볼 때 시간을 거꾸로 돌림으로써 역방향 속도로 경로를 되돌아가는 이러한 당구공들 중 하나를 제외한 나머지가 완벽하게 정지 상태로 되돌아오지 않아야 할 이유는 없다. 그렇지만, 분명히 시스템의 모든 운동 에너지가 단 하나의 당구공으로 전달될 가능성은 거의 없으며(!) 그 운동 에너지가 많은 다른 당구공에 훨씬 더 고르게 분포될 가능성이 훨씬 더 높다. 따라서 로슈미트 주장의 요점은 열역학 제2법칙이 본질적으로 확률적이며 이는 1874년 논문에서 켈빈이 도달한 것과 동일한 결론이다.

볼츠만은 1877년에 그 점을 매우 명확하게 밝혔다. 불균일한 분포가 가능하긴 하지만 균일한 분포보다는 그 가능성이 적다는 것이다. 따라서 기체 분자의 속도는 맥스웰-볼츠만 분포를 따르는 경향이 있는데, 이는 기체 분자가 다른 속도 분포를 가지는 것보다 맥스웰-볼츠만 분포가 실현될 수 있는 더 많은 방법이 있기 때문이다. 볼츠만은 이 생각을 더욱 발전시켜 같은 해에 관찰 가능한 거시 상태는 수많은 미시 상태 중 어느 하나에 해당할 수 있으나 평형 상태의 거시 상태는 단순히 가장 많은(즉, 그 경우의 수가 가장 많은) 미시 상태를 가진 것이라고 지적한 추가 논문을 발표했다. 이 통찰은 수십 년 후 플랑크의 빛에 관한 연구에 매우 중요한 역할을 하게 된다.

볼츠만이 열역학 제2법칙이 절대적이지는 않다(즉, 시간을 거꾸로 돌렸을 때 확률적으로 초기 상태로 돌아갈 가능성이 0은 아니다.)는 견해로 쉽게 전환하기는 했지만, 다른 많은 사람들, 특히 플랑크와 체르멜로는 여전히 이에 대해 완전히 확신하지는 못했다. 1893년에 푸앙카레는 기계 시스템이 (비록 그 시간이 “수백만, 수백만 세기”일지라도) 그 일정 시간이 지나면 초기 상태에 매우 가까운 상태를 거쳐야 함을 보여주는 정리를 증명했는데(소위 ‘푸앙카레의 회귀 정리’), 체르멜로는 3년 후인 1896년에 푸앙카레의 재귀 정리가 역학으로부터 열역학 제2법칙을 도출하는 것이 불가능하다는 것을 보여주었다고 말하면서 볼츠만을 더욱 강력하게 공격했다. 체르멜로와 플랑크는 그러한 시스템이 시작점으로 돌아가야 한다는 푸앙카레의 재귀 정리로 인해 볼츠만의 원자 가설에 기반한 H-정리를 지지할 수 없었던 것이다. 열역학 제2법칙을 절대적인 것으로 믿었던 그들에게는 엔트로피가 아무리 순간적으로 또는 아무리 그 확률이 낮다고 하더라고 자발적으로 감소할 수 있다는 것을 도저히 받아들일 수 없었던 것이다. 체르멜로에 대한 볼츠만의 대답은, 아무리 작은 시스템이라도 열역학 제2법칙에 대해 경우에 따라 측정 가능할 정도의 편차를 보일 수 있다는 점을 강조하면서, “수백만, 수백만 세기”의 시간이라는 푸앙카레의 말을 강조할 뿐이었다. 이 시기, 체르멜로와 같은 수학자들은 이와 같은 볼츠만의 주장에 확신을 갖지 못했지만, 많은 물리학자들은 원자 모델이 기체 분자의 실제로 알려진 많은 거동을 설명할 수 있다는 점을 점점 인정하게 된다.

이후 H-정리는 열역학과 관련된 아이디어의 개발에서 그 중요성이 입증되었지만. 최근까지도 제인스와 걸 등에 의해 다소 논쟁적인 성격의 공격을 받은 바 있다. 그들은 160K의 온도와 45기압의 산소가 H-정리를 위반하며 이 정리가 한 종류의 단원자 기체 분자의 확률 밀도 함수를 기반으로 한다는 이유로 볼츠만을 강력하게 공격했다. 그러나 이들의 주장이 혁명적이라고 할 수는 없는데(볼츠만과 깁스의 방법에 대해서는 다른 글에서 비교하고자 한다.), H-정리가 실제 기체 시스템에 대한 것이 아니라 이상 기체의 거동을 설명하기 위해 개발되었기 때문이다. 실제 기체는 저압 및 고온 조건일 경우에, 즉 개별 분자 간의 상호 작용이 무시할 수 있을 만큼 충분히 작아질 경우에 보다 “이상적인” 방식으로(즉, 이상 기체의 경우와 비슷하게) 거동하는 경향이 있다. 볼츠만의 H-정리는 이상적인 거동을 설명하기 위해 제안되었기 때문에 실제 기체의 엔트로피를 반영하는 것이 아니라 밀도가 매우 낮은 기체와 같은 극한 조건에 있다고 할 수 있는 (이상) 기체의 엔트로피를 반영한다. 사실 H-정리와 관련된 볼츠만의 목적은 원자 가설을 이용함으로써 실제로 알려진 대규모 물질의 거동을 설명할 수 있음을 입증하는 것이었다. 즉, 원자가 존재한다는 것이다. 실제 기체 분자가 더 높은 압력과 더 낮은 온도에서는 이상적인 거동에서 벗어난다는 사실을 감안할 때, 제인스 등은 H-정리에 대해 비판적이려면 이러한 극한 조건을 찾아야 했다.

참고로, 마이크로상태에 대한 계수 통계의 개발, 스테판-볼츠만 방정식의 유도, 엔트로피가 위상 부피의 로그에 비례한다는 발견은 양자역학 발견의 세 가지 필수 요소였다. H-정리로부터 파생된 볼츠만의 수송 방정식은 현대 플라즈마 및 중성자 물리학에서 많이 사용되고 있으며 특히 비평형 변화 과정을 모델링하는 데 유용하다. 그리고, 슬프게도 볼츠만은 자살을 선택했는데, 그 이유가 동료 물리학자들이 원자의 실재성을 믿도록 설득하지 못했기 때문이라고 한다.

개념의 실재성, 수학적 허점이나 이론적 모순성의 극복, 그리고 검증을 힘들게 요구하는 독일권 학계의 실증주의 분위기 속에서, 볼츠만과 같이 자존심이 센 과학자는 점점 에너지가 고갈되어 갔을 것임이 분명하다. 로슈미트의 시간 가역성에 대한 공격은, 볼츠만으로 하여금 자신의 이론을 확률적 관점에서 더욱 정교하게 다듬어 엔트로피 개념을 확립하게 되는 좋은 자극제가 되긴 했고, 푸앙카레 정리와의 합치성 역시 엔트로피의 증가와 비평형 열역학 법칙에 확류류 개념을 도입하는 것으로 해결의 실마리가 보였기 때문에 돌파구가 없었던 것도 아니었다. 하지만 마흐와의 실재론다툼은 볼츠만이 죽을 때까지 끊임없이 볼츠만을 괴롭히던 문제였다. 10년이 넘은 마흐와의 논쟁은 ‘원자’에 대한 실재성이 증명되지 않는 한, 볼츠만에게는 영원히 풀 수 없는 숙제였기 때문이었다. 1897년 톰슨에 의해 처음 실험적으로 그 존재가 증명된 전자 역시, 당시의 물리학자들에게는 원자가 실재하는지에 대한 실험적 증거로서는 불충분하다고 여겨졌을 정도였다.

1905년에 출판된 아인슈타인의 브라운 운동(Brownian dynamics)에 관한 논문 역시, 볼츠만을 구해 주기에는 역부족이었던 것 같다. 이 논문에서 아인슈타인은 원자의 실재를 가정하여 입자의 통계적 요동을 해석함으로써, 입자의 열적 요동(thermal fluctuation)으로 인한 임의 걷기(random walk)에 의한 확산을 설명했는데, 지금은 볼츠만 상수라고 불리게 되는 열적 요동에 관여하는 특별한 상수를 사용했다. 그렇지만 이러한 아인슈타인의 이론도 바로 다음 해에 일어나게 되는 볼츠만의 불행을 막을 수는 없었던 것이다. 아인슈타인의 브라운 운동에 관한 논문이 원자론을 가정하여 입자의 확산을 설명할 수 있고 그 확산 계수는 입자 각각의 열적 운동의 평균 운동 에너지로부터 유도할 수 있다는 결론이었기 때문에, 여전히 실험적인 직접 증거가 없었다는 점에서 볼츠만에게 결정적인 도움으로까지는 여겨지지는 힘들지 않았을까. 이런 측면에서, 1909년에 발표된 아인슈타인의 브라운 운동 모형에 기반한 패랭의 아보가드로 수 측정, 그리고 1911년에 발표된 러더포드의 원자핵 존재에 대한 실험적인 증명 등은 볼츠만에게 실질적인 도움이 되었을 것이기 때문에, 볼츠만이 5년만 더 버텨주었다면 어땠을까 하는 아쉬움이 남는다.

맥스웰은 통계 역학에 대한 첫 번째 시도를 포함하여 열역학에 몇 가지 엄청난 공헌을 했다. 기체의 운동론에 대한 관심에서 그는 원자론적 모델이 실제 시스템의 관찰된 동작을 재현할 수 있음을 보여 주었고 열역학 제2법칙이 확률적이라는 것도 이해하게 되었다. 그는 1870년에 레일리에게 보낸 편지에 “열역학 제2법칙은 한 컵의 물을 바다에 던지면 같은 컵의 물을 다시 꺼낼 수 없다는 진술과 같은 수준의 진리를 가지고 있습니다.”라고 쓴 바 있다. 이것은 엔트로피에 대한 가장 단순하고 명확한 표현 중 하나이며, 열역학 제2법칙이 항상 참인 것은 아니지만 대규모 시스템의 경우 훨씬 더 그럴 가능성이 있음을 보여준다. 맥스웰은 불행하게도 1879년 48세의 나이로 세상을 떠났고, 볼츠만은 맥스웰이 시작한 통계 분석을 확장하게 되었다. 기계적 모델과 가장 단순한 가정을 기반하여 연구하면서 볼츠만은 아래의 방정식을 사용하여 완벽한 구형 분자(즉, 일원자 분자)의 경우 클라우지우스의 엔트로피가 기체 분자의 측정 가능한 매개변수와 관련될 수 있음을 보여주었다.

∫ dQ / T = (3 / 2) (R m / M) (ln(T / ρ)) + 상수

(여기서 m은 기체의 총 질량, M은 분자량, ρ는 밀도, 볼츠만은 약간 다른 기호를 사용했으며 위의 식은 비구형 분자를 설명하는 요소를 제거하여 단순화된 형태이다.)

이것은 기계적(원자) 모델이 기체의 엔트로피에 대한 물리적 설명을 제공할 수 있으며 다소 애매한 열 개념을 측정 가능한 명확한 양으로 대체할 수 있다는 첫 번째 근거를 제공했다. 볼츠만은 계속해서 구형 분자를 가정하여 방정식의 오른쪽에 있는 첫 번째 항이 – H와 같다는 것을 보여주었으며, 잘 알려진 바와 같이, 이는 이상 기체의 엔트로피이기도 하다.

나중에 플랑크와 아인슈타인이 엔트로피 S를, 아래와 같이, 현대적 형식으로 재구성하게 된다.

S = k lnW