Pourquoi le score de confiance d'un LLM n'est pas une mesure

Si vous demandez à un LLM « à quel point es-tu sûr ? », il répondra quelque chose comme 0,85. Ça a l'air précis. L'article d'Amrut Joshi du 20 octobre 2026 dit une chose simple sur ce nombre : rien ne justifie qu'on lui fasse confiance. J'ai vu le même schéma dans des conceptions d'agents, où un score écrit par le modèle décide si une réponse part directement ou passe d'abord par une personne. Voici l'argument, et ce qu'il faut faire à la place.

Ce que doit vouloir dire un score de confiance

Joshi prend l'exemple d'un prévisionniste météo. « 70 % de risque de pluie demain » ne se vérifie pas sur une seule journée : il pleut ou il ne pleut pas. On ne peut le vérifier que sur beaucoup de jours. Prenez tous les jours où il a dit 70 % et regardez combien de fois il a plu. Si c'est environ 70 % d'entre eux, le nombre a un sens. C'est ce qu'on appelle la calibration.

Son exemple de relevé sur un an :

Deux détails de l'article comptent. D'abord, la calibration seule ne suffit pas : un prévisionniste qui dit toujours 30 %, le taux habituel de la saison, est lui aussi calibré, et il ne vous apprend rien. Un score utile est calibré et bouge avec l'information dont il dispose. Ensuite, rien de tout cela ne fonctionne si personne ne note chaque prévision et ce qui s'est passé. Sans relevé, aucun moyen de savoir.

Pourquoi le nombre du LLM échoue aux deux tests

Un LLM écrit du texte un token à la fois. Quand il répond « 0,85 », il ne lit pas une jauge : il écrit une suite plausible de la conversation. Le pré-entraînement a bien noté le modèle sur des résultats, mais ce résultat était le token suivant, pas l'accord entre sa confiance affichée et sa fréquence de réussite. Pour reprendre Joshi, le modèle a appris à quoi ressemblent des scores de confiance dans du texte.

Le nombre ne reflète donc pas les éléments disponibles, et il n'a jamais été vérifié contre des résultats. Les symptômes qu'il cite se voient facilement :

• Posez la même question une deuxième fois et le nombre change : 0,85 une fois, 0,7 la suivante.
• Demandez « tu es sûr ? » et le score bouge en général, alors que rien n'a changé dans le problème.
• Si le modèle a déjà écrit « c'est clairement la bonne réponse », un score élevé est simplement la suite naturelle.

Un nombre faux ressemble exactement à un nombre juste. La seule façon de savoir est d'en noter beaucoup contre un corrigé, étape que la plupart sautent.

Construire le score à partir de vos propres relevés

L'alternative de Joshi laisse le LLM faire la tâche et tire la confiance d'une règle construite sur des relevés. Son exemple : un agent de support qui cherche dans un centre d'aide et rédige des réponses, les réponses incertaines devant passer par une personne :

1. Choisir des signaux observables. La recherche a-t-elle trouvé un article correspondant ? L'agent a-t-il déjà traité ce type de question ? Deux exécutions de la même question concordent-elles ?
2. Partir du taux de base. Si quelqu'un a vérifié 200 réponses passées et que 150 étaient correctes, chaque réponse démarre à 75 %.
3. Tout enregistrer. Les signaux, le score donné par la règle, et si la réponse s'est révélée correcte.
4. Mettre la règle à jour depuis le relevé. Si les réponses avec un article correspondant et deux réponses concordantes étaient justes 95 % du temps, la règle dit 95 % pour la suivante du même genre.
5. Continuer à vérifier. Chaque semaine environ, refaites le tableau du prévisionniste. Si les réponses à 90 % n'étaient justes que 70 % du temps, la règle est trop confiante, et le relevé montre où.

La vérification hebdomadaire tient en quelques lignes. Cet exemple est illustratif et ne vient pas de la source : il regroupe les réponses enregistrées par score attribué et renvoie le taux de réussite de chaque groupe.

// records: [{ said: 0.9, correct: true }, ...]
function calibrationTable(records) {
  const groups = new Map();
  for (const r of records) {
    const key = Math.round(r.said * 10) / 10;
    const g = groups.get(key) ?? { n: 0, right: 0 };
    g.n += 1;
    if (r.correct) g.right += 1;
    groups.set(key, g);
  }
  return [...groups]
    .sort((a, b) => a[0] - b[0])
    .map(([said, g]) => ({ said, n: g.n, rate: g.right / g.n }));
}

Si rate est nettement sous said dans un groupe qui compte assez de réponses, ce groupe est trop confiant.

Prochaine étape : si quelque chose dans votre système décide sur la base d'un score annoncé par le modèle, commencez dès aujourd'hui à enregistrer ce score et le résultat réel. Un mois de relevés suffit pour le premier tableau, et pour voir si ce nombre a jamais voulu dire quelque chose. Source : Amrut Joshi, Asking LLM for confidence.