4291fe7529
Les 3 routes chatbot (chatbot.post.ts, chatbot-reseaux.post.ts, chatbot-taff.post.ts)
appellent désormais ${bifrostUrl}/v1/chat/completions (header x-bf-vk) au lieu de
api.mistral.ai direct. Tier RAPIDE par défaut (groq/llama-3.1-8b-instant + fallbacks
cerebras/gemini-flash-lite/cohere), tier APPROFONDI si body.mode === 'approfondi'
(prêt pour un futur toggle UI, hors-scope ici).
- server/utils/bifrost.ts (nouveau) : mutualise les 2 tiers pour les 3 routes.
- nuxt.config.ts : ajoute bifrostUrl/bifrostVk au runtimeConfig (mistralApiKey
conservé, juste plus utilisé par ces 3 routes).
- chatbot.post.ts : garde son circuit breaker + logging stats_usage tels quels,
mais logUsage reflète maintenant le provider/modèle réel ayant répondu
(extra_fields de Bifrost) et ne calcule un coût que si ce provider est Mistral
(les autres tiers Bifrost sont free-tier — cout_eur=0 sinon, pour ne pas fausser
le circuit breaker budget).
- chatbot-reseaux.post.ts / chatbot-taff.post.ts : aucun circuit breaker/logging
avant, aucun ajouté (asymétrie pré-existante préservée telle quelle).
- chatbot-v2.post.ts (orphelin) et chatbot-pensees.post.ts (proxy LightRAG,
config runtime séparée) non touchés.
Testé en dev local contre Bifrost (IP Tailscale) : 1 appel réel par route,
réponses conformes, provider réel confirmé dans les logs de test.
Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com>
42 lines
1.4 KiB
TypeScript
42 lines
1.4 KiB
TypeScript
/**
|
|
* Bifrost — gateway LLM (remplace les appels directs Mistral)
|
|
* Endpoint OpenAI-compatible : POST {bifrostUrl}/v1/chat/completions
|
|
* Auth : header x-bf-vk
|
|
*
|
|
* 2 tiers validés (Mission M3, build Bifrost) :
|
|
* RAPIDE — défaut, pas de toggle UI mode rapide/approfondi sur le site actuellement
|
|
* APPROFONDI — activable via body.mode === 'approfondi' (prêt pour un futur toggle front)
|
|
*
|
|
* ⚠ openrouter-oai exclu (bug Bifrost confirmé — 404 HTML sur modèles avec slash)
|
|
* ⚠ gemini-oai exige le préfixe "models/" (sinon 403 silencieux)
|
|
*/
|
|
|
|
export const BIFROST_TIER_RAPIDE = {
|
|
model: 'groq/llama-3.1-8b-instant',
|
|
fallbacks: [
|
|
'cerebras/gemma-4-31b',
|
|
'gemini-oai/models/gemini-2.5-flash-lite',
|
|
'cohere/command-r-08-2024',
|
|
],
|
|
}
|
|
|
|
export const BIFROST_TIER_APPROFONDI = {
|
|
model: 'groq/llama-3.3-70b-versatile',
|
|
fallbacks: [
|
|
'gemini-oai/models/gemini-2.5-flash',
|
|
'mistral/mistral-large-latest',
|
|
'cohere/command-r-plus-08-2024',
|
|
],
|
|
}
|
|
|
|
/** Sélectionne le tier selon le param optionnel body.mode. */
|
|
export function pickBifrostTier(mode?: string) {
|
|
return mode === 'approfondi' ? BIFROST_TIER_APPROFONDI : BIFROST_TIER_RAPIDE
|
|
}
|
|
|
|
export interface BifrostChatResponse {
|
|
choices: { message: { content: string } }[]
|
|
usage?: { prompt_tokens: number; completion_tokens: number }
|
|
extra_fields?: { provider?: string; resolved_model_used?: string }
|
|
}
|