Étiquetés « overfitting »

3 articles.

14 septembre 20265 min de lectureStatistical Learning Theory

Un paramètre, une capacité infinie

Un classifieur à un seul paramètre réel réalise les 1 048 576 étiquetages de vingt points, à chaque fois, et prédit un vingt et unième avec une exactitude de 0,5038 sur vingt mille essais. Compter les paramètres ne borne la capacité d’une classe de modèles ni par le haut ni par le bas, et c’est pourquoi la capacité doit se mesurer autrement.

Apprentissage automatiqueMathématiques

11 septembre 20267 min de lectureStatistical Learning Theory

Pourquoi apprendre à partir de données fonctionne

L'écart entre l'erreur mesurée et l'erreur subie, pourquoi choisir la meilleure de mille hypothèses identiques la fait paraître 0,1149 meilleure que le hasard, comment se compte la capacité d'une classe infinie, et le théorème qui égalise tous les apprenants - avec l'hypothèse qui le rend vrai.

Apprentissage automatiqueMathématiques

27 août 20267 min de lectureFondements de l’apprentissage statistique

Le compromis biais-variance

La décomposition exacte de l’erreur de test espérée en biais au carré, variance et bruit irréductible, démontrée numériquement par une simulation de 2 000 tirages où les trois termes sont mesurés séparément et vérifiés comme s’additionnant.

StatistiqueApprentissage automatiqueMathématiques