Premier banc
Un agent RAG juridique répond-il sans inventer ?
Évaluation hors ligne sur un sous-ensemble figé du Code de la consommation : 180 questions, rappel@5 0,483, fidélité hors abstentions, fausse abstention ~0,61.
Nicolas Merli, ingénieur NLP/ML. Je mesure ce que les systèmes de langage savent vraiment faire, puis je l'écris.
Un blog technique, des bancs d'expériences que l'on peut rejouer, et Halt : quatre expériences autonomes qui tournent encore.
Trois entrées, une seule règle : montrer comment on a mesuré.
Premier banc
Évaluation hors ligne sur un sous-ensemble figé du Code de la consommation : 180 questions, rappel@5 0,483, fidélité hors abstentions, fausse abstention ~0,61.
Notes techniques sur l'évaluation, la recherche d'information et les agents. Du code, des tableaux, des limites.
Articles d'exemple
Un registre public de quatre expériences autonomes. Personne n'a appelé l'arrêt.
Pourquoi une courbe risque-couverture apprend plus qu'un seul pourcentage de refus. Exemple