ModelVerdict

Lena Seip

GermanText7 fields

Document de-p0036 · layout email · 7 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Text (the model got exactly this text)

Guten Tag,

anbei die versprochenen Unterlagen zur Bestellung BE-2026-41238. Den Liefertermin bestätigen wir für den 24.04.2026.
In Kopie ist meine Kollegin Doris Mies, die sich bei Ihnen melden wird.

Mit freundlichen Grüßen
Lena Seip
Löwer Käster OHG mbH, Amtsgericht Stuttgart, HRB 146333, USt-IdNr.: DE789818821
Mobil: +49 152 75060720
E-Mail: lena.seip@mail.example
Allgemeine Anfragen: office@loewer-kaester.example

Verdict

Cheapest without an error: Mistral Small 4 at $0.08 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 60.4× more expensive.

Prompt given to every model

Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON
mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt):

person_names       vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben
email_addresses    E-Mail-Adressen von Personen
phone_numbers      Telefonnummern von Personen, wie im Text geschrieben
postal_addresses   Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ)
birth_dates        Geburtsdaten (YYYY-MM-DD)
national_ids       nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer)
bank_accounts      Bankkontonummern (IBAN) von Personen, wie im Text geschrieben

Regeln:
- Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von
  Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine
  personenbezogenen Daten: lassen Sie sie weg.
- Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten.
- Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueMistral Small 47 / 7 fieldsGemma 4 31B7 / 7 fieldsGPT-6 Luna7 / 7 fieldsDeepSeek V4.1 Flash7 / 7 fieldsGemini 3.5 Flash Lite7 / 7 fieldsQwen3.8 Flash7 / 7 fieldsMistral Medium 3.57 / 7 fieldsGPT-6 Sol7 / 7 fieldsGemini 3.8 Flash7 / 7 fieldsClaude Sonnet 57 / 7 fields
NamesLena Seip; Doris MiesDoris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Lena Seip; Doris Mies (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)Doris Mies; Lena Seip (correct)
Email addresseslena.seip@mail.examplelena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)lena.seip@mail.example (correct)
Phone numbers+49 152 75060720+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)+49 152 75060720 (correct)
Addresses—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Dates of birth—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
National IDs—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Bank accounts—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Tokensinput / output477 / 78484 / 79550 / 123731 / 266472 / 113775 / 1,094477 / 81550 / 89472 / 5801,382 / 195
of which hidden reasoningbilled as output0058197098802450293
of which from cacheinput billed at a discount29933004760512267000
Cost of this documentthis run$0.0001$0.0001$0.0001$0.0002$0.0004$0.0006$0.0013$0.0020$0.0025$0.0047
Per 1,000 documentsfor the same kind of document$0.08$0.10$0.12$0.23$0.42$0.56$1.32$1.99$2.53$4.71
Latencythis run0.6 s4.5 s2.3 s2.7 s0.8 s22.1 s0.8 s2.4 s3 s3.8 s