ModelVerdict

Hansawerk GmbH · Schreinerei Weber AG

GermanContract text13 fields

Document de-p0005 · layout classic · 13 fields · public part of the dataset · Same invoice in English (US) → · Report an error in this example

Contract text (the model got exactly this text)

WARTUNGSVERTRAG

§ 1 Vertragsparteien

Schreinerei Weber AG
Poststraße 39, 86711 Augsburg
USt-IdNr.: DE687960979
– nachfolgend „Auftraggeber“ genannt –

und

Hansawerk GmbH
Poststraße 178, 28014 Bremen
USt-IdNr.: DE810257236
– nachfolgend „Auftragnehmer“ genannt –

§ 2 Vertragsgegenstand

Der Auftragnehmer übernimmt die regelmäßige Wartung und Instandhaltung der raumlufttechnischen Anlagen in den Liegenschaften des Auftraggebers, einschließlich zweier vorbeugender Inspektionen pro Jahr.

§ 3 Vergütung und Zahlung

(1) Die Wartungspauschale beträgt jährlich 36.930,00 € netto zzgl. 19 % USt. (brutto 43.946,70 €).
(2) Rechnungen sind innerhalb von 14 Tagen nach Rechnungsdatum ohne Abzug zahlbar.
(3) Gerät der Auftraggeber mit einer Zahlung in Verzug, schuldet er eine Vertragsstrafe von 0,01 % des offenen Betrags je Tag des Verzugs.

§ 4 Laufzeit und Kündigung

(1) Dieser Vertrag tritt mit Unterzeichnung durch beide Vertragsparteien in Kraft.
(2) Der Vertrag wird auf unbestimmte Zeit geschlossen.
(3) Jede Vertragspartei kann den Vertrag ohne Angabe von Gründen mit einer Frist von einem (1) Monat zum Monatsende schriftlich kündigen.
(4) Das Recht zur außerordentlichen Kündigung aus wichtigem Grund bleibt unberührt.

§ 5 Vertraulichkeit

(1) Die Vertragsparteien verpflichten sich, alle vertraulichen Informationen der jeweils anderen Partei streng geheim zu halten.
(2) Für jeden Fall der schuldhaften Zuwiderhandlung zahlt die verletzende Partei eine Vertragsstrafe in Höhe von 2.500,00 €.

§ 6 Schlussbestimmungen

(1) Es gilt das Recht der Bundesrepublik Deutschland.
(2) Ausschließlicher Gerichtsstand ist Bogen.
(3) Änderungen und Ergänzungen dieses Vertrages bedürfen der Schriftform.
(4) Sollte eine Bestimmung dieses Vertrages unwirksam sein, bleibt die Wirksamkeit der übrigen Bestimmungen unberührt.


Ort, Datum: Bogen, 17.01.2025

Auftragnehmer: ____________________
Auftraggeber: ____________________

Verdict

Cheapest without an error: GPT-6 Luna at $0.29 per 1,000 documents.

  • Claude Sonnet 5 is also error-free but 29.4× more expensive.
  • Gemma 4 31B is 1.4× cheaper, but: number format (Late-payment penalty (% per day)).
  • Mistral Small 4 is 1.2× cheaper, but: invented value (Provider ID).

Prompt given to every model

Extrahieren Sie die wesentlichen Bedingungen des nachstehenden Vertrages und geben Sie nur JSON mit diesen Schlüsseln zurück:

provider_name         die leistende Partei (Auftragnehmer, Verkäufer, Vermieter, Lizenzgeber),
                      genau wie angegeben, einschließlich der Rechtsform
provider_id           Registernummer dieser Partei (z. B. Handelsregisternummer), sofern angegeben
client_name           die zahlende Partei (Auftraggeber, Käufer, Mieter, Lizenznehmer)
client_id             Registernummer dieser Partei, sofern angegeben
contract_type         einer der Werte: services, supply, lease, license, maintenance
price                 vereinbarter Preis ohne Umsatzsteuer (Zahl)
currency              Währungscode nach ISO 4217 (EUR, CHF, USD, …)
price_period          einer der Werte: one_time, monthly, yearly
effective_date        Datum des Inkrafttretens des Vertrages (YYYY-MM-DD)
end_date              Ende einer festen Laufzeit (YYYY-MM-DD); null, wenn der Vertrag auf
                      unbestimmte Zeit geschlossen ist
notice_period_months  Kündigungsfrist in Monaten (Zahl); null, wenn es keine gibt
penalty_pct_per_day   Vertragsstrafe für Zahlungsverzug in Prozent des offenen Betrags pro Tag
                      (z. B. 0.05 für 0,05 %); null, wenn es keine gibt
governing_law         Ländercode des anwendbaren Rechts nach ISO 3166 (z. B. DE); US-Bundesstaaten
                      als US-XX

Regeln:
- Relative Daten („mit Unterzeichnung“, „zum Ersten des folgenden Monats“) bezogen auf das
  Datum der Unterzeichnung umrechnen.
- Das Datum der Unterzeichnung ist nicht das Datum des Inkrafttretens, sofern der Vertrag dies
  nicht ausdrücklich bestimmt.
- Anzahlung, Kaution und feste Vertragsstrafen für andere Verstöße sind weder der Preis noch die
  Vertragsstrafe für Zahlungsverzug.
- Steht ein Wert nicht im Vertrag, null zurückgeben. Nicht raten.
- Beträge als Zahlen mit Dezimalpunkt, ohne Tausendertrennzeichen und ohne Währungssymbol.

How we score

Exact match per field after normalising dates, amounts and whitespace. Missing diacritics count as an error. Cost is the real token spend of this run, converted at the rate shown in the footer.

What each model extracted

FieldCorrect valueGemma 4 31B12 / 13 fieldsMistral Small 411 / 13 fieldsGPT-6 Luna13 / 13 fieldsGemini 3.5 Flash Lite11 / 13 fieldsDeepSeek V4.1 Flash11 / 13 fieldsQwen3.8 Flash10 / 13 fieldsMistral Medium 3.511 / 13 fieldsGemini 3.8 Flash13 / 13 fieldsGPT-6 Sol13 / 13 fieldsClaude Sonnet 513 / 13 fields
ProviderHansawerk GmbHHansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)Hansawerk GmbH (correct)
Provider ID—— (correct) DE810257236invented value— (correct) DE810257236invented value DE810257236invented value DE810257236invented value DE810257236invented value— (correct)— (correct)— (correct)
ClientSchreinerei Weber AGSchreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)Schreinerei Weber AG (correct)
Client ID—— (correct) DE687960979invented value— (correct) DE687960979invented value DE687960979invented value DE687960979invented value DE687960979invented value— (correct)— (correct)— (correct)
Contract typemaintenancemaintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)maintenance (correct)
Price (net)36930.0036930.00 (correct)36930.00 (correct)36930.00 (correct)36930.00 (correct)36930.00 (correct)36930.00 (correct)36930.00 (correct)36930 (correct)36930.00 (correct)36930.00 (correct)
CurrencyEUREUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)EUR (correct)
Billing periodyearlyyearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)yearly (correct)
Effective date2025-01-172025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)2025-01-17 (correct)
End date—— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)— (correct)
Notice period (months)11 (correct)1 (correct)1 (correct)1 (correct)1 (correct)1 (correct)1 (correct)1 (correct)1 (correct)1 (correct)
Late-payment penalty (% per day)0.01 0.00number format0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)0.01 (correct)
Governing lawDEDE (correct)DE (correct)DE (correct)DE (correct)DE (correct) nullmissing fieldDE (correct)DE (correct)DE (correct)DE (correct)
Tokensinput / output1,123 / 1321,070 / 1471,172 / 2821,111 / 1791,506 / 1,5051,474 / 3,0581,070 / 1471,111 / 9741,172 / 1941,944 / 455
of which hidden reasoningbilled as output0014501,3252,887081894269
of which from cacheinput billed at a discount5170007747680000
Cost of this documentthis run$0.0002$0.0002$0.0003$0.0008$0.0012$0.0016$0.0027$0.0045$0.0049$0.0084
Per 1,000 documentsfor the same kind of document$0.21$0.25$0.29$0.78$1.16$1.56$2.71$4.49$4.87$8.44
Latencythis run1.7 s1.3 s3.5 s1 s18.3 s62 s1.1 s4.1 s6.4 s8 s