Massimizzare l'entropia con i moltiplicatori di Lagrange

Question

Questo è un problema che ho visto in un libro di testo di stat mech e penso che sia un problema abbastanza comune.

Data la funzione di entropia: $$S = - \sum_{i=1}^N p_i \log p_i$$ Massimizza $S$ soggetto a vincoli:

$$ \sum_{i=1}^N p_i = 1 \\ \sum_{i=1}^N p_i e_i = c$$

È stato suggerito di risolvere questo problema utilizzando i moltiplicatori di Lagrange. Quindi questo è come l'ho fatto:$$L(p,\lambda, \mu) = - \sum_{i=1}^N p_i \log p_i - (\lambda \sum_{i=1}^N p_i -1)- (\mu \sum_{i=1}^N p_i e_i - c) $$

$$\frac{\partial L}{\partial p_k} = -(\log p_i +1) - \lambda - \mu e_i = 0$$ Un po 'di aritmetica dà:

$$p_i = e^{-\lambda - \mu e_i -1}$$

Quindi ho usato i vincoli di cui sopra per risolvere $p_i$.

$$\sum_{i=1}^N p_i = \frac{\sum e^{-\mu e_i}}{e^{\lambda+1}} = 1 \implies e^{\lambda +1} = \sum e^{-\mu e_i} $$

E

$$\sum_{i=1}^N e_i p_i = \frac{\sum_{i=1}^N e_i e^{-\mu e_i}}{e^{\lambda +1}} = c$$

Dal momento che non sono sicuro di come risolvere questo vincolo finale e ottenere un valore per $\mu$, Ho detto

$$p_i = \frac{e^{-\mu e_i}}{\sum_i e^{-\mu e_i}}$$

La mia domanda è: come risolvo per $\mu$?

Answer 1

Si può applicare un trucco seguente, lascia $f(\mu) = \sum e^{-\mu e_i}$, poi: $$ \frac{\partial f}{ \partial\mu} = -\sum e_i e^{-\mu e_i} $$ i vincoli portano alla seguente equazione differenziale: $$ \frac{\partial f}{ \partial\mu} = -cf \qquad f(0) = N $$ Dove $N$ è il numero di operandi in $e_i$. Che ha una soluzione:$$ f(\mu) = N e^{-c \mu} $$ Tuttavia, in generale, non è possibile risolvere l'equazione per $\mu$ in una forma chiusa: $$ \sum e^{-\mu e_i} = N e^{-c \mu} $$ Si può ottenere una soluzione con qualche tecnica numerica.

Answer 2

Non puoi risolvere per $\mu$ a meno che tu non conosca il $e_i$'S. Ma questo non dovrebbe disturbarti, perché nel contesto dell'ensemble canonico,$\mu$ è definita come la temperatura (inversa) e tutte le quantità sono scritte in termini di essa. $c$ è l'energia attesa per un dato $\mu$.