De mate van wanorde of willekeur in een systeem wordt entropie genoemd. Entropie is een fundamenteel concept in de thermodynamica, informatietheorie, statistische mechanica en vele andere gebieden. Simpel gezegd kwantificeert entropie de mate van willekeur of onvoorspelbaarheid in een systeem. Hoe hoger de entropie, hoe wanordelijker of onvoorspelbaarder het systeem is. Omgekeerd is een systeem met een lage entropie meer geordend en voorspelbaarder.