Lesezeit: 1 Min.
Jev im Unternehmen: schnell sortieren, nicht entscheiden
Ein Support-Team bekommt 5.000 Tickets am Tag. Für jedes Ticket ein großes Sprachmodell zu fragen, nur um die Abteilung zu bestimmen, ist Verschwendung. Genau für solche Aufgaben ist Jev gebaut.
Was Jev leistet
Sie stellen eine Frage und legen die Antworten fest. Jev liefert zu jeder Antwort eine Wahrscheinlichkeit, aber nie freien Text 1. Der Aufbau des Modells ist nur grob beschrieben.
Tempo und Preis sprechen dafür
| Messung | Jev | Gemini 3.5 Flash-Lite |
|---|---|---|
| Antwortzeit | rund 300 ms | 2 bis 7 s |
| Eingabe je 1 Mio. Tokens | 0,042 $ | 0,30 $ |
| Ausgabe je 1 Mio. Tokens | kostenlos | 2,50 $ |
Die Werte stammen aus dem Test von inovex 2.
Die Grenzen müssen Sie kennen
Jev ist schwach bei Zählen und Datumsangaben 1 sowie bei doppelter Verneinung 2. Zusammenhängende Fragen können sich widersprechen, und die Werte schwanken zwischen Läufen 2. Eine Wahrscheinlichkeit von 0,9 heißt also nicht, dass neun von zehn Antworten stimmen.
Der Datenschutz gehört an den Anfang
Laut inovex gibt es keinen dokumentierten Betrieb in der EU 2. Klären Sie das, bevor personenbezogene Daten fließen. Nehmen Sie im Zweifel nur Texte ohne Personenbezug.
So setzen Sie Jev sinnvoll ein
Nutzen Sie Jev als Vorsortierung. Eindeutige Fälle laufen automatisch, unsichere gehen an ein LLM oder einen Menschen. Legen Sie die Schwellen mit eigenen Beispielen fest. Endgültige Entscheidungen über Kunden oder Mitarbeitende gehören nicht zu Jev.
Literaturverzeichnis
1. Pydantic AI: TypeSafe (Jev), Dokumentation. https://pydantic.dev/docs/ai/models/typesafe/
2. inovex: TypeSafe AI Jev Review. https://www.inovex.de/en/blog/typesafe-ai-jev-review-how-good-is-the-new-model-for-ai-classification/