Gertraud Lachmann
Text (the model got exactly this text)
Besprechungsprotokoll vom 05.08.2026 Anwesend: Gertraud Lachmann, Nelly Weihmann Für den Lieferanten: Klapp, Amtsgericht Köln, HRB 58396, USt-IdNr.: DE255183654 1. Das Budget für das nächste Quartal wurde ohne Einwände genehmigt. 2. Gertraud Lachmann erstellt bis zur nächsten Besprechung einen Angebotsvergleich. Bei Rückfragen erreichbar unter +49 152 19093196. 3. Nelly Weihmann prüft die Liefertermine. Protokoll auch versendet an support@klapp.example.
Verdict
Cheapest without an error: Gemma 4 31B at $0.10 per 1,000 documents.
- Claude Sonnet 5 is also error-free but 50.6× more expensive.
Prompt given to every model
Finden Sie im Text unten alle personenbezogenen Daten natürlicher Personen (zur Anonymisierung) und geben Sie nur JSON mit diesen Schlüsseln zurück, jeweils als Liste von Zeichenketten (eine leere Liste, wenn es keine gibt): person_names vollständige Namen von Personen, jede Person einmal, wie im Text geschrieben email_addresses E-Mail-Adressen von Personen phone_numbers Telefonnummern von Personen, wie im Text geschrieben postal_addresses Wohn- oder Lieferadressen von Personen, wie im Text geschrieben (Straße, Ort, PLZ) birth_dates Geburtsdaten (YYYY-MM-DD) national_ids nationale Identifikationsnummern (z. B. Steuer-ID, Sozialversicherungsnummer) bank_accounts Bankkontonummern (IBAN) von Personen, wie im Text geschrieben Regeln: - Nur Daten natürlicher Personen. Firmennamen, Handelsregisternummern, USt-IdNr. und andere Nummern von Firmen, allgemeine Firmenadressen wie info@ oder support@, Bestell- und Ticketnummern sind keine personenbezogenen Daten: lassen Sie sie weg. - Daten, die kein Geburtsdatum sind (Besprechungen, Lieferungen, Eintritt), sind keine personenbezogenen Daten. - Erfinden oder ergänzen Sie keine Werte; übernehmen Sie sie aus dem Text.
How we score
Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.
What each model extracted
| Field | Correct value | Gemma 4 31B7 / 7 fields | GPT-6 Luna7 / 7 fields | DeepSeek V4.1 Flash7 / 7 fields | Qwen3.8 Flash7 / 7 fields | Gemini 3.5 Flash Lite7 / 7 fields | Mistral Medium 3.57 / 7 fields | GPT-6 Sol7 / 7 fields | Gemini 3.8 Flash7 / 7 fields | Claude Sonnet 57 / 7 fields |
|---|---|---|---|---|---|---|---|---|---|---|
| Names | Gertraud Lachmann; Nelly Weihmann | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) | Gertraud Lachmann; Nelly Weihmann (correct) |
| Email addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Phone numbers | +49 152 19093196 | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) | +49 152 19093196 (correct) |
| Addresses | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Dates of birth | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| National IDs | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Bank accounts | — | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) | — (correct) |
| Tokens | input / output | 482 / 73 | 556 / 99 | 739 / 174 | 773 / 503 | 470 / 101 | 472 / 75 | 556 / 86 | 470 / 561 | 1,395 / 210 |
| of which hidden reasoning | billed as output | 0 | 40 | 109 | 405 | 0 | 0 | 27 | 460 | 113 |
| of which from cache | input billed at a discount | 317 | 0 | 466 | 512 | 0 | 0 | 0 | 0 | 0 |
| Cost of this document | this run | $0.0001 | $0.0001 | $0.0002 | $0.0003 | $0.0004 | $0.0013 | $0.0020 | $0.0025 | $0.0049 |
| Per 1,000 documents | for the same kind of document | $0.10 | $0.11 | $0.18 | $0.28 | $0.39 | $1.27 | $1.97 | $2.46 | $4.89 |
| Latency | this run | 1.4 s | 1.9 s | 4.2 s | 11.5 s | 0.8 s | 0.8 s | 2.7 s | 2.7 s | 4.3 s |