Ludwina Süßebier
Text (the model got exactly this text)
Guten Tag, anbei die versprochenen Unterlagen. Den Liefertermin bestätigen wir so bald wie möglich. Mit freundlichen Grüßen Ludwina Süßebier Klemmgasse 8373, 75640 Saulgau Mobil: 0152/4824 2538 Allgemeine Anfragen: office@kensy-weihmann.example
Verdict
Cheapest without an error: Mistral Small 4 at $0.07 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 51.8× more expensive.
Prompt given to every model
Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt): person_names vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben email_addresses E-Mail-Adressen von Personen phone_numbers Telefonnummern von Personen, wie im Text geschrieben postal_addresses Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ) birth_dates Geburtsdaten (YYYY-MM-DD) national_ids nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer) bank_accounts Bankkontonummern (IBAN) von Personen, wie im Text geschrieben Regeln: - Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine personenbezogenen Daten: lassen Sie sie weg. - Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten. - Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Mistral Small 47 / 7 fields | Gemma 4 31B7 / 7 fields | GPT-6 Luna7 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite7 / 7 fields | Mistral Medium 3.57 / 7 fields | Gemini 3.8 Flash7 / 7 fields | GPT-6 Sol7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Names | Ludwina Süßebier | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) | Ludwina Süßebier (correct) |
| Email addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Phone numbers | 0152/4824 2538 | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) | 0152/4824 2538 (correct) |
| Addresses | Klemmgasse 8373, 75640 Saulgau | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) | Klemmgasse 8373, 75640 Saulgau (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Tokens | input / output | 400 / 85 | 412 / 87 | 499 / 104 | 674 / 286 | 703 / 475 | 400 / 120 | 400 / 88 | 400 / 262 | 499 / 105 | 1,289 / 108 |
| of which hidden reasoning | billed as output | 0 | 0 | 32 | 209 | 359 | 0 | 0 | 186 | 33 | 0 |
| of which from cache | input billed at a discount | 299 | 328 | 0 | 478 | 512 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0001 | $0.0002 | $0.0003 | $0.0004 | $0.0013 | $0.0013 | $0.0020 | $0.0037 |
| Per 1,000 documents | for the same kind of document | $0.07 | $0.09 | $0.10 | $0.24 | $0.26 | $0.42 | $1.26 | $1.28 | $2.05 | $3.66 |
| Latency | this run | 1 s | 1.2 s | 2.8 s | 3.1 s | 14.6 s | 0.8 s | 0.9 s | 2 s | 2.5 s | 2.1 s |