Paramètre d’un modèle

Un paramètre est une valeur numérique apprise par un modèle pendant l’entraînement. Dans un réseau de neurones, les poids et biais constituent l’essentiel de ces paramètres.

Deux modèles ayant un nombre proche de paramètres peuvent présenter des performances très différentes selon les données, l’architecture, le post-entraînement et la qualité de l’optimisation.

L’optimisation ajuste ces valeurs pour que le modèle produise de meilleures sorties sur les exemples observés. Le nombre de paramètres donne une idée de la taille du modèle, mais pas à lui seul de sa qualité.

Cette notion fait partie des briques techniques à connaître pour comprendre comment les systèmes d’IA modernes apprennent, traitent un contexte et produisent une sortie. L’enjeu n’est pas seulement théorique : elle influence la qualité, le coût, la latence ou la manière de concevoir une application.

Les paramètres sont appris. Les hyperparamètres, comme un taux d’apprentissage, sont choisis pour configurer l’entraînement ou l’inférence.