Modèles
Il n'existe pas de meilleur modèle unique. Comment associer des niveaux aux tâches, quand l'acheminement est rentable et pourquoi la voix est un problème à part.
1 oct. 2026 · 6 min de lecture
Le schéma et les sources sont en anglais.
Il n'existe pas de meilleur modèle unique. Dans un sondage de Dataiku et de Harris Poll mené auprès de 600 directeurs de l'information, 81 % s'attendaient à recourir à au moins deux fournisseurs de LLM en 2026, et 55 % avaient déjà changé au moins une fois, principalement pour réduire les coûts. Les noms de modèles changent tous les quelques mois : cet article porte donc sur la façon de choisir, pas sur un palmarès.
Un routeur envoie chaque tâche, ou sous-tâche, au plus petit modèle capable de la traiter. Les résultats publiés sont encourageants, mais propres à un banc d'essai ou à un fournisseur : l'étude RouteLLM a rapporté qu'on conservait environ 95 % de la qualité de GPT-4 tout en réduisant les coûts de plus de 85 % sur un banc d'essai, et des fournisseurs font état d'économies de 80 à 95 % sur des charges conversationnelles. Considérez ces chiffres comme des plafonds et mesurez sur votre propre trafic. L'acheminement est rentable lorsque la plupart des requêtes sont simples et que le volume est élevé. À faible volume, séparer la classification de la génération permet d'obtenir une bonne part du gain.
Les chaînes en continu, où la reconnaissance vocale, le modèle et la synthèse vocale transmettent en flux, peuvent descendre sous la seconde de bout en bout. Les modèles de parole à parole en temps réel peuvent atteindre moins d'une demi-seconde avec une prosodie plus naturelle, au prix d'un moindre contrôle sur chaque composant. Visez moins d'environ 800 millisecondes lors d'appels téléphoniques, et confiez à une personne les tours réellement complexes plutôt que de faire attendre l'appelant.
Parlez-nous d'un processus. Nous vous montrerons comment un agent pourrait le prendre en charge et quoi mesurer pour savoir qu'il fonctionne.