Maximum de vraisemblance à données complètes

Tout ce qui précède prenait un modèle probabiliste comme donné : un réseau avec ses tables remplies, une gaussienne avec sa moyenne et sa variance. Quelqu’un a bien dû fournir ces nombres. Cette leçon porte sur leur provenance lorsque chaque variable du modèle est observée - le cas qui se révèle presque gênant de facilité, et dont il vaut la peine de comprendre la facilité avant que la leçon suivante ne la retire.

La vraisemblance d’un jeu de données

Fixons un modèle de paramètres $\theta$. La vraisemblance d’un jeu de données $\mathbf{d} = d_1, \ldots, d_N$ est la probabilité que le modèle attribue exactement à ces observations. Si les exemples sont indépendants sachant les paramètres, cette probabilité est un produit :

$$P(\mathbf{d} \mid h_\theta) = \prod_{j=1}^{N} P(d_j \mid h_\theta).$$

L’estimation par maximum de vraisemblance est le $\theta$ qui rend cette quantité maximale. Notez ce qui a été évacué : aucun a priori sur $\theta$ n’apparaît, chaque valeur du paramètre est donc jugée également plausible avant l’arrivée des données. C’est un choix délibéré, et la leçon suivante porte sur ce qu’il coûte.

Trois temps

Un confiseur vend des sachets contenant une proportion inconnue $\theta$ de bonbons à la cerise, le reste au citron. Vous en déballez 25 et en trouvez 18 à la cerise. Que vaut $\theta$ ?

Premier temps, écrire la vraisemblance. Avec $c = 18$ cerises et $\ell = 7$ citrons,

$$P(\mathbf{d} \mid h_\theta) = \theta^{c} \, (1 - \theta)^{\ell} = \theta^{18} (1 - \theta)^{7}.$$

Deuxième temps, passer au logarithme et dériver. Le logarithme change le produit en somme, ce qui rend la dérivée maniable :

$$L(\mathbf{d} \mid h_\theta) = c \log \theta + \ell \log(1 - \theta), \qquad \frac{dL}{d\theta} = \frac{c}{\theta} - \frac{\ell}{1 - \theta}.$$

Troisième temps, annuler. On obtient $c(1-\theta) = \ell\theta$, donc

$$\theta = \frac{c}{c + \ell} = \frac{c}{N} = \frac{18}{25} = 0{,}72 .$$

L’hypothèse du maximum de vraisemblance affirme que la proportion de cerises dans le sachet égale la proportion observée. Une recherche sur grille couvrant deux millions de valeurs de $\theta$ concorde à six décimales, et la log-vraisemblance y vaut $-14{,}823833$, contre $-14{,}847959$ en $\theta = 0{,}70$ et $-14{,}849407$ en $\theta = 0{,}74$.

On peut légitimement se sentir floué : un appareillage considérable a produit la réponse que toute personne sensée aurait écrite d’emblée. L’essentiel n’est pas la réponse ; c’est que les trois mêmes temps continuent de fonctionner là où aucune réponse sensée ne s’impose.

Pourquoi passer au logarithme est sans danger

Deux justifications, toutes deux importantes. Mathématiquement, $\log$ est strictement croissant : il ne déplace donc pas la position d’un maximum, sa hauteur seulement. Numériquement, un produit de milliers de probabilités s’effondre à zéro en virgule flottante, ce que ne fait pas une somme de milliers de logarithmes. Les implémentations réelles travaillent en espace logarithmique pour la seconde raison longtemps après avoir oublié la première.

Plusieurs paramètres à la fois

Supposons maintenant que les bonbons portent aussi un emballage, rouge ou vert, choisi avec une probabilité dépendant du parfum. Le modèle compte trois paramètres : $\theta$ pour le parfum, $\theta_1 = P(\text{rouge} \mid \text{cerise})$ et $\theta_2 = P(\text{rouge} \mid \text{citron})$. Nos 25 bonbons se répartissent en 12 cerise-rouge, 6 cerise-vert, 2 citron-rouge et 5 citron-vert.

La vraisemblance est un produit sur quatre sortes de bonbons, et son logarithme vaut

$$L = 12 \log(\theta\theta_1) + 6 \log(\theta(1 - \theta_1)) + 2 \log((1 - \theta)\theta_2) + 5 \log((1 - \theta)(1 - \theta_2)).$$

Développez les logarithmes des produits et il se passe quelque chose d’utile : tout terme mentionnant $\theta_1$ ne mentionne rien d’autre. Les trois dérivées partielles forment donc des équations indépendantes, et chacune est le problème à un paramètre résolu de nouveau :

$$\theta = \frac{18}{25} = 0{,}72, \qquad \theta_1 = \frac{12}{18} = 0{,}666667, \qquad \theta_2 = \frac{2}{7} = 0{,}285714 .$$

Nelder–Mead appliqué à la vraisemblance complète à trois paramètres tombe à $1{,}4 \times 10^{-8}$ près de ces valeurs, pour une log-vraisemblance de $-30{,}468975$.

Ce découplage explique le faible coût de l’apprentissage d’un réseau bayésien à données complètes. Chaque table de probabilités conditionnelles s’ajuste en comptant à l’intérieur de son propre cas de conditionnement, indépendamment de toutes les autres, sans recherche ni itération. Il vaut la peine de nommer la condition qui rend cela vrai : les données doivent être complètes, chaque variable observée dans chaque exemple. Brisez-la et les termes cessent de se séparer, ce qui est précisément la difficulté qu’affronte la troisième leçon.

La séparation se croit plus aisément une fois affichée en trois nombres. La figure ci-dessous montre la log-vraisemblance découpée en ses trois termes, un par paramètre. Poussez theta1 à l’un ou l’autre extrême : le terme de parfum ne bouge pas d’un chiffre, et c’est pourquoi le theta qui maximise le total ne peut pas bouger non plus.

Le second préréglage est l’échec qui clôt cette leçon, et il casse de deux façons plutôt qu’une. Après un seul bonbon cerise, l’estimation du parfum vaut 1, donc le citron vert est impossible. Mais theta2 est plus mal loti encore : son terme vaut zéro pour toute valeur, si bien qu’un cas conditionnant jamais observé laisse une ligne entière de la table indéterminée plutôt que mal déterminée. Partir de un pour chaque compte répare les deux, et c’est là que commence la leçon suivante.

Le cas continu

La recette se moque du caractère discret de la variable. Pour $N$ observations issues d’une gaussienne de moyenne $\mu$ et d’écart-type $\sigma$ inconnus,

$$L = N\left(-\log\sqrt{2\pi} - \log\sigma\right) - \sum_{j=1}^{N} \frac{(x_j - \mu)^2}{2\sigma^2},$$

et annuler les deux dérivées partielles donne

$$\mu = \frac{\sum_j x_j}{N}, \qquad \sigma = \sqrt{\frac{\sum_j (x_j - \mu)^2}{N}} .$$

La moyenne empirique et - notez le dénominateur - l’écart quadratique moyen autour d’elle. Sur dix mesures de somme 51,0 dont les écarts quadratiques somment à 3,98, cela donne $\mu = 5{,}1$ et $\sigma = 0{,}630872$, là où diviser par $N - 1$ aurait donné $0{,}664998$. Les deux diffèrent du facteur $\sqrt{N/(N-1)} = 1{,}054093$.

Lequel est le bon ? Les deux, pour des questions différentes. Diviser par $N$ maximise véritablement la vraisemblance ; diviser par $N-1$ donne véritablement un estimateur sans biais de la variance de la population. On n’a jamais demandé au maximum de vraisemblance d’être sans biais, et il ne l’est pas. Savoir quel critère est en vigueur épargne beaucoup de confusion.

Cette dérivation offre un bonus. Ajustez un modèle gaussien linéaire - $y$ normal autour de $\theta_1 x + \theta_2$ à variance fixée - et la seule part de la log-vraisemblance qui dépende des paramètres est $-\sum_j (y_j - \theta_1 x_j

• \theta_2)^2$. La maximiser, c’est minimiser la somme des carrés des erreurs. Les moindres carrés ne sont pas une perte commode consacrée par l’usage : ce sont le maximum de vraisemblance sous bruit gaussien.

L’échec qui s’annonce

Déballez un seul bonbon, trouvez-le à la cerise, et la recette annonce $\theta = 1/1 = 1$ : le sachet est entièrement à la cerise, et un bonbon au citron est impossible. Non pas improbable - impossible, de probabilité exactement nulle, affirmation dont aucune preuve ultérieure ne permettra de ressortir par multiplication.

Ce n’est pas un artefact des petits échantillons en général ; c’est ce que fait le maximum de vraisemblance de tout événement qu’il n’a pas encore vu. Il lit « non observé » comme « ne peut pas se produire ». Le remède usuel sur le terrain consiste à initialiser chaque effectif à un plutôt qu’à zéro, ce qui a l’air d’un bricolage et se révélera, à la leçon suivante, être un a priori déguisé.

Avant le quiz

Trois temps : écrire la vraisemblance, dériver le logarithme, annuler. À données complètes les paramètres se séparent : ajuster tout un réseau est un ensemble de problèmes de comptage indépendants. Le cas gaussien donne la moyenne empirique et un écart-type divisé par $N$, et il explique pourquoi les moindres carrés sont la bonne perte sous bruit gaussien. Et tout cet appareillage attribue une probabilité nulle à ce qu’il n’a pas encore vu.