ModelVerdict

Constance Martin – Rédactrice (EI) · FAC25080663

FrenchScan13 fields

Document fr-p0012 · layout fr-L06 · 13 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Constance Martin – Rédactrice (EI) · FAC25080663

Verdict

Cheapest without an error: DeepSeek V4.1 Flash at $0.45 per 1,000 documents.

  • GPT-6 Sol is also error-free but 23.5× more expensive.
  • Gemma 4 31B is 2.4× cheaper, but: wrong value (Bank account).

Prompt given to every model

Extrayez du document joint les informations suivantes et renvoyez uniquement du JSON avec ces clés :

supplier_name      Nom de l'émetteur de la facture (exactement comme sur le document, accents et forme juridique compris)
supplier_id        Numéro SIRET de l'émetteur (14 chiffres ; ni le numéro de TVA intracommunautaire ni le seul numéro RCS)
vat_id             Numéro de TVA intracommunautaire de l'émetteur
invoice_number     Numéro du document
payment_reference  Référence à rappeler lors du paiement
issue_date         Date d'émission (YYYY-MM-DD)
tax_point_date     Date de la livraison ou de la prestation de services (YYYY-MM-DD)
due_date           Date d'échéance / « à payer avant le » (YYYY-MM-DD)
net_by_rate        Montant HT par taux de TVA, p. ex. {"20": 18450.00, "5.5": 1200.00}
vat_by_rate        Montant de la TVA par taux, p. ex. {"20": 3690.00}
total              Montant total TTC / net à payer (nombre, négatif pour un avoir)
currency           Devise selon ISO 4217 (EUR, GBP, …)
bank_account       IBAN de l'émetteur

Règles :
- Ne renvoyez aucune information concernant le client, uniquement celles de l'émetteur.
- Si une information ne figure pas sur le document, renvoyez null. N'inventez rien.
- Si le document ne comporte pas de ventilation de la TVA (micro-entreprise, demande d'acompte), renvoyez net_by_rate et vat_by_rate à null.
- Montants sous forme de nombres avec un point décimal, sans séparateur de milliers et sans devise.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B12 / 13 fieldsDeepSeek V4.1 Flash13 / 13 fieldsMistral Small 412 / 13 fieldsGPT-6 Luna13 / 13 fieldsQwen3.8 Flash13 / 13 fieldsGemini 3.5 Flash Lite12 / 13 fieldsGemini 3.8 Flash13 / 13 fieldsMistral Medium 3.512 / 13 fieldsClaude Sonnet 513 / 13 fieldsGPT-6 Sol13 / 13 fields
SupplierConstance Martin – Rédactrice (EI)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct) Constance Martin - Rédactrice (EI)wrong valueConstance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)Constance Martin – Rédactrice (EI) (correct)
Supplier ID (EIN, IČO…)5984543950023059845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)59845439500230 (correct)
VAT ID—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Invoice numberFAC25080663FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)
Payment referenceFAC25080663FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)FAC25080663 (correct)
Invoice date2025-08-132025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)2025-08-13 (correct)
Tax point—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Due date2025-08-202025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)2025-08-20 (correct)
Net by tax rate—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tax by rate—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Total2238.272238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)2238.27 (correct)
CurrencyEUREUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)
Bank accountFR7617515032370002547824404 FR76 1751 3032 3700 8254 7824 404wrong valueFR76 1751 5032 3700 0254 7824 404 (correct) FR761751503237000254782404wrong valueFR7617515032370002547824404 (correct)FR7617515032370002547824404 (correct)FR7617515032370002547824404 (correct)FR7617515032370002547824404 (correct) FR7617515032378002547824404wrong valueFR76 1751 5032 3700 0254 7824 404 (correct)FR7617515032370002547824404 (correct)
Tokensinput / output717 / 2251,771 / 3052,610 / 1813,127 / 2692,916 / 1,3081,529 / 2181,529 / 5952,610 / 1823,466 / 2183,127 / 287
of which hidden reasoningbilled as output016001501,128037700168
of which from cacheinput billed at a discount36400064000000
Cost of this documentthis run$0.0002$0.0005$0.0005$0.0005$0.0010$0.0010$0.0034$0.0053$0.0091$0.0107
Per 1,000 documentsfor the same kind of document$0.19$0.45$0.50$0.53$0.97$1.00$3.38$5.28$9.11$10.69
Latencythis run8.8 s3.5 s2.3 s3.8 s20.5 s1.4 s3.4 s2.5 s3.7 s6.1 s