feat(chatbot-pensees): garde-fou serveur des citations (guillemets retirés si introuvables)

La route demande include_references + include_chunk_content à LightRAG et vérifie
chaque segment >= 6 mots entre « » / "…" / “…” dans les chunks réellement
récupérés (normalisation accents, casse, apostrophes, ponctuation, élisions [...]).
Un segment introuvable perd ses guillemets (texte conservé) ; champ optionnel
citations: { gardees, retirees }. Fonction pure dans server/utils/citations.ts,
réutilisée par scripts/verif-citations.mjs (qui gagne --max-total-tokens) ;
scripts/test-citations.mjs couvre les cas limites.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_015vcVGz8i4WpZm2dixKUiSD
This commit is contained in:
Jules Neny
2026-10-09 03:59:32 +02:00
co-authored by Claude Opus 5.5
parent 52b79e1e8e
commit 85cd31d201
4 changed files with 154 additions and 21 deletions
+8 -20
View File
@@ -6,16 +6,18 @@
* Usage :
* node scripts/verif-citations.mjs --rag http://HOTE:9621 --query "Cite ..." \
* [--route http://localhost:3334/api/chatbot-pensees] [--mode hybrid] [--auteur slug] \
* [--response-file reponse.txt] [--ctx-query-file autre-query.txt] [--min-mots 6] [--json]
* [--response-file reponse.txt] [--ctx-query-file autre-query.txt] [--min-mots 6] [--max-total-tokens 40000 (mode approfondi)] [--json]
*
* - Sans --response-file : la réponse est demandée à --route (POST {query, mode, auteur_slug}).
* - Contexte : POST {rag}/query {query, mode, only_need_context:true}. --ctx-query-file ajoute
* un second contexte (ex. la requête telle qu'envoyée avant amendement, préambule inclus) ;
* un segment est « trouvé » s'il figure dans l'un ou l'autre.
* - Segment >= min-mots (6) absent du contexte = inventé. Plus court : signalé, non compté.
* - Segment >= min-mots (6) absent du contexte = inventé (algorithme : server/utils/citations.ts, partagé avec la route). Plus court : signalé, non compté.
* Lecture seule côté LightRAG. Réutilisable pour l'instance 9623 (--rag http://HOTE:9623).
*/
import { readFileSync } from 'node:fs'
// Node >= 22.18 charge le .ts directement (syntaxe effaçable uniquement dans citations.ts).
import { verifierCitations } from '../server/utils/citations.ts'
const args = Object.fromEntries(process.argv.slice(2).reduce((a, x, i, arr) => {
if (x.startsWith('--')) a.push([x.slice(2), arr[i + 1] && !arr[i + 1].startsWith('--') ? arr[i + 1] : true])
@@ -25,18 +27,13 @@ if (!args.rag || !args.query) { console.error('--rag et --query requis'); proces
const mode = args.mode || 'hybrid'
const minMots = Number(args['min-mots'] || 6)
// Normalisation : sans accents ni ponctuation/apostrophes/antislashs (le contexte LightRAG est du JSON échappé).
const norm = s => s.normalize('NFD').replace(/[\u0300-\u036f]/g, '').toLowerCase()
.replace(/[^\p{L}\p{N}]+/gu, ' ')
.replace(/\s+/g, ' ').trim()
async function post(url, body, timeout = 120000) {
const r = await fetch(url, { method: 'POST', headers: { 'content-type': 'application/json' }, body: JSON.stringify(body), signal: AbortSignal.timeout(timeout) })
if (!r.ok) throw new Error(`${url} -> HTTP ${r.status}`)
return r.json()
}
async function contexte(q) {
const j = await post(`${args.rag}/query`, { query: q, mode, only_need_context: true })
const j = await post(`${args.rag}/query`, { query: q, mode, only_need_context: true, ...(args['max-total-tokens'] ? { max_total_tokens: Number(args['max-total-tokens']) } : {}) })
return typeof j.response === 'string' ? j.response : JSON.stringify(j)
}
@@ -51,18 +48,9 @@ else {
const ctxs = [await contexte(args.query)]
if (args['ctx-query-file']) ctxs.push(await contexte(readFileSync(args['ctx-query-file'], 'utf8')))
const ctxNorm = norm(ctxs.join('\n'))
// « » d'abord (les "..." imbriqués ne doivent pas casser l'appariement), puis "..." et “...” sur le reste.
const segs = []
let reste = reponse.replace(/«s*([^»]+?)s*»/g, (_, s) => { segs.push(s); return ' ' })
for (const re of [/"([^"]+?)"/g, /“([^”]+?)”/g]) {
for (const m of reste.matchAll(re)) segs.push(m[1])
}
const lignes = segs.map(s => {
const n = norm(s); const mots = n ? n.split(' ').length : 0
return { segment: s, mots, trouve: n.length > 0 && ctxNorm.includes(n) }
})
// Même fonction pure que la route (server/utils/citations.ts) : un seul algorithme, deux usages.
const v = verifierCitations(reponse, ctxs, minMots)
const lignes = v.segments.map(l => ({ segment: l.segment, mots: l.mots, trouve: l.trouve }))
const longs = lignes.filter(l => l.mots >= minMots)
const res = {
query: args.query, mode,