Combien un agent devrait-il réfléchir? Les quatre niveaux de raisonnement de DCode

Avant de répondre, un modèle peut réfléchir : décortiquer le problème, peser les options et planifier sa prochaine étape. Cette réflexion prend du temps, et elle s'écrit en jetons avant la réponse. Un agent appelle le modèle encore et encore au cours d'une même tâche : la quantité de réflexion détermine donc la vitesse de la tâche et la part de votre allocation qu'elle consomme. Dans DCode, c'est vous qui choisissez.

Quels sont les quatre niveaux de raisonnement de DCode?

DCode 2.0.3 a fait du raisonnement une échelle de quatre niveaux : Désactivé, Faible, Standard et Élevé (Off, Low, Standard et High dans l'application en anglais). L'effort de raisonnement règle combien le modèle réfléchit avant de répondre.

Vous choisissez le niveau pour chaque conversation, dans l'application de bureau et dans la CLI, et vous pouvez le changer en tout temps. Dans la CLI, /model est un sélecteur aux touches fléchées avec une barre de réflexion, et la ligne d'état montre le modèle et son niveau pendant que vous travaillez.

Où DCode commence-t-il?

À Standard. Depuis 2.0.3, Standard est le niveau par défaut, pour un meilleur équilibre entre vitesse et profondeur, et un modèle que vous choisissez commence là. C'est un bon niveau pour le travail de tous les jours : assez de réflexion pour planifier un changement et le vérifier, sans faire attendre chaque petite étape.

Quand le niveau Élevé en vaut-il la peine?

Élevé donne le plus de réflexion, pour les problèmes difficiles. Un effort plus élevé est généralement plus fiable, mais plus lent : Élevé en vaut donc la peine quand une mauvaise étape coûte plus cher que l'attente, comme le débogage difficile, une décision d'architecture, une longue refactorisation ou un travail où une erreur coûte cher. Ce sont aussi les travaux pour lesquels Raven Max est le plus indiqué : les deux vont bien ensemble quand un changement doit être juste.

Quand un niveau plus bas suffit-il?

Faible donne un peu de réflexion, et Désactivé répond sans réflexion préalable, pour les réponses les plus rapides. Ils conviennent au travail dont la prochaine étape est simple : modifications rapides, boucles d'agent rapides, travail à haut volume. C'est le travail quotidien pour lequel Raven Flash est le plus indiqué, et un niveau plus bas le garde rapide.

Que consomme une réflexion plus poussée?

Plus de raisonnement veut dire plus de jetons de sortie et plus de temps. Les jetons de raisonnement sont des jetons de sortie : un niveau plus élevé en écrit davantage avant la réponse. Avec un plan, les longues conversations et un effort de raisonnement plus élevé consomment davantage vos fenêtres de 6 heures et hebdomadaires. Avec les crédits d'API, DCode paie aux prix par jeton de l'API, et le raisonnement est facturé au prix en sortie :

Sur les deux modèles, un jeton de sortie coûte plus cher qu'un jeton d'entrée : voilà pourquoi la réflexion vaut d'être dépensée là où elle compte. Notre article sur le coût d'une tâche d'IA calcule de vraies tâches au cent près, raisonnement compris.

Comment choisir?

Commencez à Standard. Passez à Élevé pour la partie difficile d'une tâche, et redescendez quand le travail redevient routinier. Le modèle compte autant que le niveau : Raven Max ou Raven Flash? explique lequel convient à quel travail. Le sélecteur et la barre de réflexion de la CLI sont présentés dans notre article sur la CLI DCode 2.0.