Přeskočit na obsah

Užití principu maximální entropie ve statistické fyzice

Z Wikiknih

Účelem tohoto článku je demonstrovat použití variačního principu (viz článek Stručné shrnutí variačního počtu) a principu maximální entropie při odvození normálního rozdělení ve statistice a Maxwellova rozdělení ve statistické fyzice.

Princip maximální entropie

[editovat | editovat zdroj]

Entropie daného náhodného rozdělení se v informačním slova smyslu

Zde suma probíhá přes všechny možné stavy, pi jsou přitom pravděpodobnosti daných stavů.

Princip maximální entropie říká, že pokud o daném rozdělení máme jen částečnou informaci - známe jen některé jeho charakteristiky (např. střední hodnotu, střední kvadratickou odchylku, poměr pravděpodobností padnutí některých stavů, apod.), potom nejpravděpodobnější tvar daného rozdělení je takový, který splňuje požadavky, které o rozdělení známe a má nejvyšší možnou entropii.

Z tohoto principu můžeme jednoduše odvodit např. proč se v přírodě velmi pravděpodobně realizuje normální rozdělení, nebo proč termodynamika vypadá tak, jak vypadá.

Význačnost normálního rozdělení

[editovat | editovat zdroj]

Mějme náhodné rozdělení s hustotou pravděpodobnosti danou funkcí f(x) takové, že

a jinak o něm neměli žádnou informaci.

Funkcionál entropie je

navíc však splňuje vazby výše. Zavedeme tedy trojici lagrangeových multiplikátorů κ, μ, ν a maximalizujeme funkcionál

Euler-Lagrangeova rovnice nabývá tvaru

tedy

Podmínky tedy nabývají tvaru

Řešením této soustavy rovnic získáme hodnoty lagrangeových multiplikátorů

Což přesně odpovídá tvaru normálního rozdělení - jde tedy právě o takové rozdělení

, které maximalizuje entropii při známé hodnotě střední hodnoty a střední kvadratické odchylky.