jules/nav-carte
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix(bifrost): retire cerebras/gemma-4-31b du fallback tier RAPIDE (JSON invalide ~75% du temps)

Browse Source
This commit is contained in:
Jules Neny
2026-07-15 22:53:54 +02:00
parent 4291fe7529
commit d06c09a476
1 changed files with 7 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files

8
server/utils/bifrost.ts
View File

@@ -9,12 +9,18 @@
* *
* ⚠ openrouter-oai exclu (bug Bifrost confirmé — 404 HTML sur modèles avec slash) * ⚠ openrouter-oai exclu (bug Bifrost confirmé — 404 HTML sur modèles avec slash)
* ⚠ gemini-oai exige le préfixe "models/" (sinon 403 silencieux) * ⚠ gemini-oai exige le préfixe "models/" (sinon 403 silencieux)
* ⚠ cerebras/gemma-4-31b RETIRÉ du tier RAPIDE (M4, 15/07) : en JSON mode avec un contexte
* réel (prompt + ~20 fiches), le modèle part en boucle de répétition dégénérée ("1 1 1...")
* dans ~75% des cas où il sert de fallback, produit un JSON invalide, et Bifrost ne bascule
* PAS plus loin dans la chaîne (HTTP 200 côté provider = pas une erreur pour Bifrost). Bug
* constaté en prod sur chatbot-reseaux (1 échec/3), reproduit 3/4 sur appel direct Bifrost.
* Cerebras reste configuré dans Bifrost (dispo pour tier CODE ou reconfiguration future),
* juste plus dans cette chaîne tant que ce n'est pas fiabilisé.
*/ */
export const BIFROST_TIER_RAPIDE = { export const BIFROST_TIER_RAPIDE = {
model: 'groq/llama-3.1-8b-instant', model: 'groq/llama-3.1-8b-instant',
fallbacks: [ fallbacks: [
'cerebras/gemma-4-31b',
'gemini-oai/models/gemini-2.5-flash-lite', 'gemini-oai/models/gemini-2.5-flash-lite',
'cohere/command-r-08-2024', 'cohere/command-r-08-2024',
], ],