Was kostet es, ein PDF an ChatGPT zu senden?
Wie die LLM-API-Abrechnung für PDFs funktioniert, ein durchgerechnetes Kostenbeispiel und warum Token-Schätzungen scheitern.
Jemand aus Ihrem Team möchte 500 Verträge durch GPT-4o laufen lassen, um Verlängerungsdaten herauszuziehen. Klingt einfach. Dann stellt die Finanzabteilung die naheliegende Frage: Was kostet das?
Die Antwort ist berechenbarer als die meisten erwarten, sobald man versteht, wie die Abrechnung funktioniert.
Sie zahlen pro Token, in beide Richtungen
LLM-APIs berechnen Eingabe-Tokens (was Sie senden) und Ausgabe-Tokens (was das Modell antwortet), meist zu unterschiedlichen Preisen. Die Ausgabe ist fast immer teurer pro Token als die Eingabe.
Bei einer PDF-Aufgabe ist die Eingabe meist die große Zahl. Ein 20-seitiger Vertrag kann 12 000 Eingabe-Tokens haben, während die gewünschte Antwort (ein paar Daten) 100 Ausgabe-Tokens hat.
Ein durchgerechnetes Beispiel
Angenommen, jeder Vertrag hat 20 Seiten und durchschnittlich 12 000 Tokens. Beim GPT-4o-Eingabepreis von 2,50 USD pro Million:
- Ein Vertrag: 12 000 Tokens = 0,03 USD Eingabe
- 500 Verträge: 6 000 000 Tokens = etwa 15 USD Eingabe
- Plus Ausgabe (100 Tokens je zu 10 USD pro Million): etwa 0,50 USD
Der gesamte Stapel kostet also rund 15 bis 16 USD. Aber die Token-Rechnung funktioniert nur, wenn Sie Ihre Tokenzahl wirklich kennen.
Wo Kostenschätzungen scheitern
Menschen schätzen die Tokenzahl anhand der Seitenzahl, und PDFs machen das unzuverlässig. Ein Vertrag voller definierter Begriffe und Tabellen kann doppelt so viele Tokens haben wie eine reine Textseite gleicher Größe.
Der Unterschied zählt im Maßstab. Ist Ihre echte Tokenzahl 40% höher als geschätzt, wird aus einem 15-USD-Job ein 21-USD-Job.
Günstigere Modelle ändern die Rechnung
Nicht jede Aufgabe braucht das Flaggschiff. GPT-4o-mini und Claude 3.5 Haiku kosten einen Bruchteil ihrer größeren Geschwister. Für Extraktion reicht ein kleineres Modell oft zu einem Zehntel des Preises.
Prüfen Sie die Zahl vor der Zusage
Bevor Sie einen Batch-Job budgetieren, lassen Sie eine repräsentative Datei durch den Token-Kostenrechner laufen. Er zählt die echten Tokens und zeigt die Eingabekosten nebeneinander.
Für ein volleres Bild schlüsselt der Token Counter es pro Seite auf. Beide laufen im Browser, ohne etwas hochzuladen.