비평형열역학(非平衡熱力學, 영어: non-equilibrium thermodynamics)은 열역학적 평형 상태에 있지 않은 물리적 계(system)를 다루는 열역학의 한 분야이다. 이 분야는 열역학적 평형 상태에서 계를 규정하는 데 사용되는 변수들의 외삽으로 얻어지는 거시적 양, 즉 비평형 상태 변수로 설명할 수 있는 계를 연구 대상으로 한다. 비평형열역학은 주로 수송 과정(transport processes)과 화학 반응 속도와 관련된다.
자연에서 발견되는 거의 모든 계는 엄밀한 의미에서 열역학적 평형 상태에 있지 않다. 계는 시간이 흐르면서 변화하거나 변화하도록 촉발될 수 있으며, 다른 계와의 물질 및 에너지 흐름과 화학 반응의 영향에 지속적으로 노출되기 때문이다. 그럼에도 불구하고, 일부 계와 과정은 국지적 평형(local equilibrium)으로 간주하여 기존 평형열역학의 방법으로 유용한 정확도로 기술할 수 있다. 그러나 자유 에너지(free energy) 개념이 성립하지 않는 비변동(non-variational) 역학이 존재하는 일부 자연계와 과정은 여전히 비평형열역학적 방법의 적용 범위를 넘어선다.
평형열역학과 비평형열역학의 가장 근본적인 차이는 시간 과정(time-course)의 취급에 있다. 평형열역학은 초기 상태와 최종 상태가 모두 열역학적 평형에 있는 과정만을 대상으로 하며, 과정의 시간적 진행은 의도적으로 무시한다. 이에 반해 비평형열역학은 물리적 과정의 시간적 진행을 연속적으로 기술하려고 시도한다. 이를 위해 비평형열역학의 상태 변수는 평형열역학의 상태 변수와 매우 밀접한 관련을 가져야 하며, 이는 비평형열역학의 적용 범위를 크게 제한한다.
비평형 상태에 있는 계의 엔트로피를 거시적 용어로 정의하는 것은 평형 상태에서보다 일반적으로 어렵거나 불가능하다. 이는 국부적 열역학적 평형(local thermodynamic equilibrium)이라는 특별한 경우에서만 유용한 근사값으로 가능하다. 국부 열역학적 평형은 계를 공간적·시간적으로 작은 '세포' 또는 '미시상'으로 나누었을 때, 각 세포 내부에서는 고전적 열역학적 평형 조건이 좋은 근사로 충족된다는 가정을 말한다. 이 가정은 최근 수십 년간 점점 더 극한 조건(예: 격렬한 폭발의 충격파 전면, 반응 표면, 극심한 온도 기울기 하에서)에서도 성립하는 것으로 검증되어 왔다.
비평형열역학의 중요한 기본 개념으로는 에너지 소산의 시간 변화율, 엔트로피 생성률(Onsager 1931), 열역학적 힘(thermodynamic forces), 소산 구조(dissipative structure), 비선형 동역학 구조 등이 있다. 국소적으로 정의된 강성(intensive) 거시 변수들의 공간 기울기는 '열역학적 힘'이라고 불리며, 이 힘들은 물질·에너지·운동량의 흐름(flux)을 유발한다. 힘과 흐름의 관계는 통계역학의 문제로 다루어지며, 특히 안정적인 준정상(near-steady) 상태에서 힘과 흐름이 선형 관계에 있을 때 이 관계를 기술하는 방정식 체계가 성립한다.
1931년 라스 온사거(Lars Onsager)는 흐름이 작고 열역학적 힘이 느리게 변하는 영역에서 엔트로피 생성률이 흐름에 선형적으로 관련된다는 것을 보였고, 흐름과 힘의 기울기를 연결하는 계수 행렬이 양의 정부호(positive definite)이며 미시적 가역성(microscopic reversibility)으로 인해 대칭적이라는 사실을 증명하였다. 이는 온사거 상반 관계(Onsager reciprocal relations)로 알려져 있다.
이 분야의 발전에 중요한 기여를 한 인물로는 온사거 외에도 캐시미르(H. B. G. Casimir), 마이스너(J. Meixner), 그리고 소산 구조 이론으로 1977년 노벨 화학상을 수상한 일리아 프리고진(Ilya Prigogine)이 있다. 프리고진은 화학 반응이 일어나는 개방계의 비평형 정상 상태에 관한 연구에서 엔트로피 생성에 기여하는 요소들을 구분하고, 개방계가 안정적인 비평형 정상 상태에 도달할 수 있는 조건에서 전체 엔트로피 생성을 최소화하도록 스스로 조직화한다는 원리를 제시한 것으로 알려져 있다.
비평형열역학에는 여러 접근법이 존재한다. 국소 평형 가정에 기반한 '고전적 비가역 열역학(classical irreversible thermodynamics)'이 가장 기본적인 접근으로 간주되며, 이 외에 지역 평형 가정을 벗어나 흐름을 상태 변수에 포함시키는 '확장 비가역 열역학(extended irreversible thermodynamics)', 일반화 열역학, 일반화 유체역학 등의 접근법이 있다.
비평형열역학의 응용 분야로는 생물학적 과정(단백질 접힘/풀림, 막을 통한 수송), 나노입자의 동역학, 촉매 및 전기화학 변환을 수반하는 계, 열 대류, 경제 시스템의 기술 등이 있다. 한편, 비평형열역학의 이론 체계는 아직 완전히 확립되지 않은 측면이 있으며, 특히 비평형 상태에서의 일반적인 극값 원리(extremal principle)의 존재와 관련해서는 많은 논의가 진행 중이고, 엔트로피 생성률의 극값 원리가 모든 경우에 성립하지 않는다는 실험적·이론적 증거도 존재한다. 이 때문에 물리학 일각에서는 비평형열역학의 완전한 이론 체계가 수립되지 않은 점을 미해결 문제로 지적하기도 한다.
