Une petite expérience
Pourquoi l’IA répond-elle différemment à la même question?
Une des raisons est la manière de choisir le prochain mot. Gardez les trois mêmes choix, essayez un autre tirage et voyez ce qui change. Pas besoin de connaître les maths pour commencer.
Un petit exemple pédagogique avec des scores inventés. Ce n’est pas un modèle de langage. Les mots servent à nommer trois choix; ce ne sont pas de véritables prédictions.
Tirages de démonstration prédéfinis, répétés dans cet ordre : 0,1 → 0,7 → 0,95 → 0,1.
La suite choisie
On pourrait commencer aujourd’hui.
Tirage 1/3 · Valeur: 0,1
Le tirage tombe ici: 0 ≤ 0,1 < 0,6652
La borne inférieure est incluse; la borne supérieure est exclue. Les intervalles suivent l’ordre des choix ci-dessous.
| Choix | Score | Probabilité |
|---|---|---|
| aujourd’huiSélectionné | 2 | 66,5 % |
| plus tard | 1 | 24,5 % |
| jamais | 0 | 9,0 % |
Les pourcentages et les bornes affichés sont arrondis. Le calcul utilise toute la précision disponible; les pourcentages arrondis peuvent ne pas totaliser exactement 100 %.
Comment les nombres sont calculés
Divisez chaque score par la température positive, appliquez l’exponentielle, puis divisez par la somme. Dans le code, nous soustrayons d’abord le score maximal pour stabiliser le calcul. Les probabilités restent les mêmes.
pᵢ = exp((scoreᵢ − max(score)) / T) / Σⱼ exp((scoreⱼ − max(score)) / T)
softmax([2, 1, 0] / 1) = [0,6652; 0,2447; 0,09]
Garder cet exemple
Copiez les réglages et le résultat actuels pour les comparer à un autre tirage. Le texte se met à jour avec l’expérience.
Les mêmes possibilités peuvent mener à des choix différents
Un modèle de langage attribue différentes probabilités aux suites possibles. L’échantillonnage est une façon de choisir parmi elles. Dans cet exemple, une température plus élevée répartit ces probabilités plus uniformément : les choix moins bien notés occupent donc plus de place. Un vrai modèle répète le choix sur plusieurs jetons, qui peuvent être des mots ou des morceaux de mots.
Ce que cela change dans votre utilisation de l’IA
Vous pouvez demander une autre version pour explorer un angle ou une formulation différente. La version du modèle, la conversation, les consignes et les outils peuvent aussi influencer la réponse. Certaines applications ne proposent pas de réglage de température. Une température plus basse ne garantit pas l’exactitude des faits.
Explorer le fonctionnement réel
Ces sources expliquent de vrais modèles et le décodage. Les trois scores ci-dessus ont été inventés pour la leçon; ils ne proviennent ni d’un modèle de langage ni d’une couche d’attention.
Donnez un point de départ plus clair à votre prochaine tâche
Essayez une invitation pour voir comment les détails, le public et la forme aident à préparer un premier brouillon.
Obtenir un premier brouillon utile