В 1877 году Людвиг Больцман установил связь энтропии с вероятностью данного состояния. Позднее эту связь представил в виде формулы Макс Планк:

где константа
1,38·10−23 Дж/К названа Планком постоянной Больцмана, а
— статистический вес состояния, является числом возможных микросостояний (способов) с помощью которых можно перейти в данное макроскопическое состояние. Этот постулат, названный Альбертом Эйнштейном принципом Больцмана, положил начало статистической механике, которая описывает термодинамические системы, используя статистическое поведение составляющих их компонентов. Принцип Больцмана связывает микроскопические свойства системы (
) с одним из её термодинамических свойств (
).
Рассмотрим, например, идеальный газ в сосуде. Микросостояние определено как позиции и импульсы (моменты движения) каждого составляющего систему атома. Связность предъявляет к нам требования рассматривать только те микросостояния, для которых: (I) месторасположения всех частей расположены в рамках сосуда, (II) для получения общей энергии газа кинетические энергии атомов суммируются.
Согласно определению, энтропия является функцией состояния, то есть не зависит от способа достижения этого состояния, а определяется параметрами этого состояния. Так как
может быть только натуральным числом (1, 2, 3, …), то энтропия Больцмана должна быть неотрицательной — исходя из свойств логарифма.