Private AI · Kundenergebnis
Von 5.600 € auf 13 € im Monat.
Ein Kunde zahlte für maschinelle Übersetzung pro Aufruf. Die Rechnung lag bei 5.600 € im Monat und stieg weiter. Deshalb begrenzte das Team die Arbeit, um die Kosten zu halten.
Ich habe die Übersetzung und drei weitere KI-Anwendungen auf Infrastruktur verlegt, die der Kunde selbst kontrolliert. Die Übersetzungsrechnung liegt heute bei 13 € im Monat.
01 / Kommt Ihnen das bekannt vor?
Wo Bezahlung pro Aufruf zum Problem wird.
Die Rechnung wächst mit jedem Aufruf.
Übersetzung, Klassifikation, Embeddings: Jedes verarbeitete Element ist eine weitere Zeile auf der Rechnung. Mehr Nutzung heißt mehr Kosten, ohne Obergrenze.
Das Team begrenzt die Arbeit.
Material wird übersprungen, gesammelt oder verschoben, wegen der Rechnung oder eines Rate Limits. Diese liegengebliebene Arbeit hat einen Wert, auch wenn keine Rechnung ihn zeigt.
Manche Daten sollten nicht raus.
Ihre Verträge begrenzen, wer die Daten Ihrer Kunden verarbeiten darf, oder die Daten gehören einem Kunden oder Patienten. Jeder API-Aufruf erzeugt eine weitere Kopie außerhalb.
Niemand weiß, ob sich der Wechsel lohnt.
Eigene Modelle sind nicht grundsätzlich günstiger. Es hängt von der Anwendung ab, und manchmal ist die richtige Antwort, bei der API zu bleiben.
02 / Das Ergebnis
Was sich für den Kunden geändert hat.
Ein Unternehmen der Verteidigungstechnologie verarbeitet große Mengen mehrsprachigen Materials. Jedes Element durchläuft mehrere Modelle für Übersetzung, Klassifikation, Embeddings und Bildanalyse. Ich habe ein privates Inference-Gateway gebaut, das heute alle davon auf Hetzner-Servern mit NVIDIA RTX PRO 6000 GPUs betreibt.
Die Kosten steigen nicht mehr mit jedem Aufruf.
Das Hosting ist ein fester Monatsbetrag statt eines Preises pro Aufruf. Kapazität wächst mit zusätzlichen Servern.
Die Begrenzung ist vorbei.
Das Unternehmen verarbeitet heute das Material, das es wegen der Kosten früher übersprungen hat.
Sensible Daten bleiben im Haus.
Die Modelle laufen auf Infrastruktur, die das Unternehmen kontrolliert. Nur der Fallback schickt Anfragen an eine externe API.
Erstes Jahr: 56.800 € privat gegenüber 313.000 € bis 798.000 € über APIs
Privat: Hosting 36.000 €, Aufbau 10.000 € und 180 Stunden Betreuung. Die API-Spanne bewertet die ruhigste und die stärkste Woche des Kunden zu öffentlichen Listenpreisen mit Caching, umgerechnet aus US-Dollar zum EZB-Kurs vom 28. Oktober 2026.
03 / 30-Sekunden-Check
Passt das zu Ihrer Anwendung?
Nehmen Sie die KI-Anwendung, deren Rechnung Ihnen die meisten Sorgen macht. Sieben kurze Antworten ergeben eine Einschätzung und einen groben Kostenvergleich. Ihre Antworten bleiben in Ihrem Browser.
04 / Kostenlose Prüfung
Soll ich Ihr Setup kostenlos prüfen? Sichern Sie sich einen Platz.
Ich mache diese Prüfungen neben laufenden Kundenprojekten. Die Plätze sind deshalb begrenzt.
- Wir gehen drei Fragen zu Ihrer Anwendung durch: Kann ein eigenes Modell die Aufgabe erledigen, gibt es einen Grund für den Wechsel, und können Sie den Betrieb tragen?
- Danach wissen Sie, ob sich private Inference lohnt und was ein ordentlicher Test umfassen würde.
- Ist die Antwort, bei der API zu bleiben, sage ich Ihnen genau das.
Nando Theessen
Sie sprechen direkt mit mir, und ich mache die Prüfung selbst.
Danke. Ein Schritt fehlt noch.
Wählen Sie im gerade geöffneten Kalender-Tab einen Termin, um Ihren Platz zu bestätigen. Hat er sich nicht geöffnet, nutzen Sie den Button unten.
Lieber schreiben? nando@devwire.technology
Benchmarks mit Ihren Daten, Umsetzung und laufender Betrieb sind bezahlte Arbeit. Den Umfang legen wir fest, sobald wir beide wissen, dass die Anwendung passt.
05 / Häufige Fragen
Bevor Sie sich anmelden
Fehlt Ihre Frage, stellen Sie sie in der Prüfung oder per E-Mail.
Wann sollte ich bei der API bleiben?
Wenn kein Modell, das Sie selbst betreiben können, die Aufgabe gut genug erledigt, wenn die Nutzung in kurzen Spitzen kommt oder wenn niemand den Dienst verantworten kann. Ohne hohes, gleichmäßiges Volumen, Begrenzung der Arbeit oder Einschränkungen bei den Daten ist die API meist das bessere Angebot.
Für welche Anwendungen passt das?
Für klar abgegrenzte Aufgaben, die Ihre Anwendungen immer wieder aufrufen: Übersetzung, Klassifikation, Dokumentextraktion, Embeddings für die Suche sowie Bild- und Sprachverarbeitung. Allgemeine Assistenten für Mitarbeitende, Coding-Tools und autonome Agenten sind eine andere Entscheidung mit anderen Abwägungen.
Wie grob ist der Kostenvergleich?
Grob. Er stellt Ihre heutigen API-Kosten den tatsächlichen Kosten meines Kunden im ersten Jahr gegenüber. Ihre eigenen Server, Modelle und Spitzenlast bestimmen Ihre echte Zahl, und ein Lasttest mit echten Eingabegrößen klärt sie.
Was sollte ich zur Prüfung mitbringen?
Eine kurze Beschreibung der Aufgabe mit einem Beispiel für Eingabe und Ausgabe, Ihre Volumen, was Sie das heute kostet und eventuelle Einschränkungen, wohin die Daten dürfen.