Ignition
All Episodes
Orchestra: Wie KI-Kosten mit Spezialmodellen sinken

Orchestra: Wie KI-Kosten mit Spezialmodellen sinken

0:00|0:00

Diese Folge erklärt, wie Orchestra mit einem erfolgsbasierten Modell KI-Kosten senken will: Statt teure Sprachmodelle direkt zu nutzen, wird aus echten Arbeitsabläufen ein kleines Spezialmodell trainiert. Außerdem ordnen wir die großen Effizienzversprechen, die Vertriebslogik und die offenen Fragen rund um Kunden, Preise und Belege ein.

This show was created with Jellypod, the AI Podcast Studio. Create your own podcast with Jellypod today.


Chapter 1

Die Rechnung, die nur sinkt

Eva Cortex

Willkommen bei IGNITION. Starte mit KI in Dein selbstbestimmtes Leben.

Max Quantum

Heute zerlegen wir ein Geschäft, das durch KI plötzlich anders funktioniert. Stell Dir eine Gründerin vor, die Software für Logistikfirmen betreibt. Jeden Tag laufen bei ihr tausende Mails, Lieferscheine und Rechnungen ein. Eine KI sortiert das: Ist das eine Reklamation, eine Bestellung, eine Rechnung? Immer dieselbe Frage, tausendfach am Tag, gestellt an eines der besten Sprachmodelle der Welt. Am Monatsende öffnet sie die Abrechnung des Anbieters und denkt: Ich bezahle gerade ein Spitzengehalt dafür, dass jemand Post einsortiert. Genau an dieser Stelle setzt Orchestra an. Das ist ein Startup aus San Francisco mit zwei Gründern. Es schaltet sich unsichtbar zwischen die Firma und das teure Modell. Es schaut zu, lernt die Aufgabe und trainiert ein kleines, günstiges Spezialmodell. Sobald das die Arbeit nachweislich genauso gut macht, übernimmt es. Die Rechnung sinkt, und Orchestra bekommt einen Anteil an dem, was gespart wird.

Eva Cortex

Dann ist das erstmal kein Produkt im klassischen Sinn. Der Kunde kauft keine Software mit Monatsabo, sondern bezahlt aus einer Ersparnis. Wenn ich das richtig verstehe: Wer die Rechnung nicht senkt, verdient nichts.

Max Quantum

Genau. Und das ist der Punkt, der das Modell von vielen anderen unterscheidet. Orchestra verkauft nicht Technik, sondern einen niedrigeren Rechnungsbetrag. Die Technik dahinter ist Mittel zum Zweck. Bevor wir tiefer gehen, eine kurze Einordnung, wie wir arbeiten. Für IGNITION analysieren wir aktuelle Entwicklungen aus KI, Technologie, Wirtschaft und Forschung. Wir vergleichen Quellen, prüfen Behauptungen und trennen belastbare Signale von kurzfristigem Hype. Das brauchen wir hier besonders, weil die Firma sehr große Zahlen nennt und die Beweislage noch dünn ist.

Eva Cortex

Dann bleiben wir erst bei der Mechanik. Die Gründer benutzen ein Bild: Man braucht keinen Doktortitel, um in der Poststelle zu arbeiten. Was heißt das?

Max Quantum

Es heißt: Die teuersten Modelle sind für schmale, wiederholte Aufgaben überdimensioniert. E Mails einsortieren, Daten aus Dokumenten ziehen, Einträge im Kundensystem anlegen, Support Tickets klassifizieren. Das sind keine Denkaufgaben auf Forschungsniveau. Es sind Routinen mit klaren Mustern. Trotzdem schicken viele Firmen sie an ein Spitzenmodell von OpenAI oder Anthropic, weil es einfach funktioniert und weil man beim Start nicht lange nachdenkt. Das ist bequem, und bequem ist teuer. Solange das Volumen klein ist, fällt es nicht auf. Wächst die Nutzung, wird aus der Randnotiz der größte variable Kostenblock im Unternehmen. Der Hebel liegt also nicht in einer neuen Fähigkeit, sondern in einer Lücke zwischen dem, was die Aufgabe braucht, und dem, was der Kunde bezahlt.

Eva Cortex

Wie sieht das für den Kunden praktisch aus? Wie kommt er zu Orchestra, und was muss er tun, bevor irgendetwas passiert?

Max Quantum

Zur Entdeckung selbst ist öffentlich wenig belegt. Die Gründer sagen offen, dass sie dorthin gehen, wo Schmerz ist und bereits Geld ausgegeben wird, also zu Firmen mit hohen KI Rechnungen. Der Einstieg selbst ist bestätigt und bewusst klein gehalten: Der Kunde tauscht im Code eine einzige Internet Adresse aus. Statt direkt zum Anbieter des Spitzenmodells zu senden, geht der Verkehr zuerst durch Orchestra. Mehr muss er nicht umbauen. Die Firma sagt ausdrücklich, dass sie keine Berater zum Kunden schickt und selbst keine großen Modelle von Grund auf trainiert. Danach passiert in der ersten Phase erstmal nichts Sichtbares. Orchestra reicht jede Anfrage an das teure Modell weiter, der Kunde bekommt seine Antworten wie vorher. Nebenbei zeichnet Orchestra auf, welche Aufgaben kommen und wie das Spitzenmodell sie löst.

Eva Cortex

Und genau da würde ich nachfragen. Ein billigeres Modell klingt gut, aber der Kunde fürchtet doch vor allem, dass die Qualität leise absackt. Wer garantiert, dass er nicht plötzlich schlechtere Antworten bekommt?

Max Quantum

Das ist der Mechanismus, der das Modell trägt. Aus den aufgezeichneten Arbeitsdaten baut Orchestra automatisch Prüftests. Ein Teil der echten Fälle wird zurückgehalten, also nicht fürs Training benutzt, und dient später als Klassenarbeit. Dann trainiert Orchestra im Hintergrund ein kleines, spezialisiertes Modell auf genau diese Aufgabe. Erst wenn es in den Tests bei Qualität, Kosten und Geschwindigkeit die Schwellen besteht und das teure Modell erreicht oder schlägt, wird es live geschaltet. Ein Satz der Firma bringt es auf den Punkt: kein Rückschritt, der als Ersparnis verkauft wird. Danach läuft der Kreislauf weiter. Je mehr Arbeit durchläuft, desto mehr Material gibt es, und das Modell kann besser werden. Der Kunde merkt idealerweise nur eins: Die Rechnung wird kleiner.

Eva Cortex

Also die Frage an die Technik: Was macht KI hier konkret möglich? Ein Modell zu trainieren war doch früher ein Projekt mit einem Team.

Max Quantum

Ja, und genau das ist die betriebliche Veränderung. Früher hätte ein Unternehmen Datenspezialisten gebraucht, die Beispiele sammeln, Tests schreiben, Modelle trainieren und prüfen. Das lohnt sich nur bei riesigen Volumen. Heute lässt sich ein großer Teil davon automatisieren, und es gibt offene, kleinere Modelle als Ausgangsbasis. Kein Zaubertrick. Ein enger Auftrag ist leichter zu lernen als alles Wissen der Welt. Ein kleines Modell, das nur Post sortiert, muss kein Gedicht schreiben können. Das Spitzenmodell liefert quasi die Musterlösungen, und das kleine Modell lernt, sie zu imitieren. Die tägliche, langweilige Arbeit des Kunden wird damit zu Trainingsmaterial. Aus einer laufenden Ausgabe wird etwas, das bleibt.

Eva Cortex

Gut, dann zum Geld. Wie viel nimmt Orchestra denn?

Max Quantum

Das wissen wir nicht. Bestätigt ist die Logik: Orchestra nimmt einen Anteil, wenn Verkehr auf das günstigere Modell umgeleitet wird. Die genaue Höhe ist öffentlich nicht bekannt. Auch benannte Kunden, Umsätze und Produktionsvolumen kennen wir nicht. Was sich ableiten lässt, ist die Spanne. Das teure Modell kostet vielleicht einen Euro pro Menge Arbeit, das Spezialmodell vielleicht zwanzig Cent. Aus den achtzig Cent Differenz bekommt der Kunde den größeren Teil, Orchestra einen Anteil. Das ist meine Rechnung als Beispiel, keine Preisliste. Es erklärt aber, warum das gut skaliert: Jeder zusätzliche Kunde bringt Verkehr, aber die Firma muss nicht proportional mehr Menschen einstellen, weil Tests und Training weitgehend automatisch laufen.

Eva Cortex

Und die Kundengewinnung? Zwei Gründer können nicht hunderte Firmen einzeln überzeugen.

Max Quantum

Hier wird die Bezahllogik zum Vertriebshebel. Wer nur zahlt, wenn real gespart wird, muss dem Anbieter nicht vertrauen. Er muss nur seine Rechnung lesen. Das Risiko liegt beim Anbieter, nicht beim Kunden. Dadurch entfallen die zähen Gespräche über Budget, Pilotprojekt und Haftung. Die Frage lautet nicht mehr: Glauben wir euch? Sondern: Warum nicht einfach testen? Und der Umbau besteht aus einer Adresse. Das Gründerteam bringt außerdem Vertriebserfahrung mit. Luis Manrique war früh bei Gumloop und hat dort Unternehmenskunden gewonnen, Aamir Poonawalla hat rund zehn Jahre bei Instacart die Werbe Infrastruktur und Machine Learning mitgebaut.

Chapter 2

Muster, Realitätscheck und Lehren

Max Quantum

Dahinter steckt ein Muster, das sich übertragen lässt, und ich will es in einem Satz sagen: erfolgsbasierte Kostenarbitrage auf die größte variable Kostenstelle eines Kunden. Du schaltest Dich zwischen den Kunden und seine teuerste, wiederkehrende Rechnung, senkst sie mit besserer Technik und lässt Dich an der nachgewiesenen Ersparnis beteiligen. Nicht ein Produkt mit Fixpreis, sondern ein Anteil am Ergebnis. Und es zeigt etwas Allgemeines: Jeder teure Boom erzeugt einen zweiten Markt, den Verkauf der Effizienz.

Eva Cortex

Bevor wir zu den Lehren kommen, brauche ich den Realitätscheck, weil die Zahlen hier sehr groß klingen. Die Firma wirbt mit bis zu hundertmal günstiger. Ich würde das gern einordnen.

Max Quantum

Das ist die Behauptung der Firma, unabhängig bestätigt ist sie nicht. Die eigenen Messungen sind bescheidener. Bei einer Aufgabe nennt die Firma rund 83 Prozent weniger Kosten, bei einer Lager Klassifizierung etwa vier bis fünfmal mehr Effizienz. In einer frühen Darstellung aus der Zeit, als die Firma noch Understudy hieß, ist von der 1,13 fachen Leistung eines älteren Claude Modells bei einem Viertel der Kosten die Rede, außerdem von deutlich kürzeren Antwortzeiten. Das stammt aus einer privaten Vorschau, mit ausgewählten Partnern, selbst gemessen und für eine einzelne Aufgabe.

Eva Cortex

Das ist mehr Marketing als Beweis. Es gibt keine unabhängig geprüften Kundenersparnisse, keinen namentlich bekannten Kunden, keine Umsatzzahl. Und die 104 Milliarden Dollar, die die Firma als Marktgröße nennt, sind eine Zahl über den ganzen Markt rund um KI Nutzung, nicht das, was Orchestra bekommen kann. Dazu kommt: Ein kleines Modell muss irgendwo laufen. Auf gemieteten Rechenchips fallen Fixkosten an, für Bereitstellung, Verwaltung, Startzeiten. Schwankt das Volumen, frisst das einen Teil des Vorteils auf, der pro Anfrage so schön aussieht.

Max Quantum

Richtig, und rechnet man den vollen Betrieb ein, schrumpft der Abstand. Das hängt stark davon ab, wie gleichmäßig die Last ist. Dafür spricht, dass die Mechanik nachvollziehbar ist und ein klarer Test vor dem Umschalten steht. Dagegen spricht, dass dieser Test nur so gut ist wie die Daten, aus denen er gebaut wurde.

Eva Cortex

Genau da liegt für mich das nächste Risiko. Ein Spezialmodell kann bei Fällen, die es nie gesehen hat, still versagen. Das Spitzenmodell fängt Ausreißer meist ab. Und dann die Vertrauensfrage: Eine Firma leitet ihre sensiblen Anfragen und Kundendaten durch das Gateway eines Teams aus zwei Personen. Ich kenne viele Compliance Abteilungen, die da sofort Nein sagen. Und der Markt ist voll. Anbieter für Feinabstimmung, Routing und Auswertung gibt es reichlich, etwa OpenPipe, Predibase, Together AI, Fireworks, LangSmith oder Braintrust. Was ist daran schwer zu kopieren?

Max Quantum

Die Technik allein vermutlich wenig. Schwer zu kopieren wird es erst, wenn Orchestra Kundenverkehr und damit Arbeitsdaten besitzt, und wenn der Kunde seinen Verkehr nicht mehr umleiten will, weil das Gateway zuverlässig spart. Das ist eine Wette auf Vertrauen und Geschwindigkeit, nicht auf ein Geheimnis. Und es gibt die größere Gefahr, die Du vorhin angedeutet hast. Die ganze Marge kommt aus den Preisen anderer Leute. Orchestra verdient an der Lücke zwischen dem teuren und dem günstigen Modell. Senken OpenAI, Google oder Anthropic ihre Preise oder bringen sie selbst günstige Mini Modelle, wird die Lücke schmaler. Dann bleibt weniger zu teilen. Das Geschäft hängt an einer Entscheidung, die Orchestra nicht trifft.

Eva Cortex

Also ein Zwei Personen Team gegen die Breite dieser Risiken. Das kann gutgehen, aber es ist keine sichere Sache. Heißt für mich: Was nehme ich mit, ohne Orchestra nachzubauen?

Max Quantum

Drei Dinge. Erstens: Suche Märkte, in denen Kunden sichtbar überzahlen. Nicht dort, wo etwas Neues erfunden wird, sondern dort, wo schon eine große Rechnung existiert und der Kunde weiß, dass sie wehtut. Das kann ein Zahlungsdienst sein, Werbebudget, Software Lizenzen, Energie. Zweitens: Koppel Deinen Preis an das Ergebnis. Wenn der Kunde nur zahlt, wenn er spart, brauchst Du fast keine Überzeugungsarbeit. Er kann es ohne Risiko probieren. Das gilt auch für kleine Anbieter: Überleg, ob Du einen Teil Deines Preises an ein messbares Ergebnis binden kannst. Drittens: Mach aus Routinedaten einen bleibenden Vorteil. Was Deine Kunden täglich tun, ist Material. Wer es beobachten, auswerten und in etwas Besseres verwandeln darf, baut mit jedem Tag mehr auf.

Eva Cortex

Ich würde einen Punkt ergänzen, den ich aus dem Fall mitnehme. Wer so ein Modell baut, sollte die Rechnung vor dem ersten Kunden sauber durchrechnen. Was sind meine vollen Kosten, was passiert, wenn der Preis, an dem ich verdiene, fällt, und was lasse ich mir vom Kunden anvertrauen? Erst testen, ob die Ersparnis nach allen Kosten bleibt. Dann skalieren.

Max Quantum

Das ist die richtige Reihenfolge. Gesichert ist bei Orchestra die Mechanik und das Team. Offen bleibt, ob die Ersparnis im Alltag so groß ist, wie versprochen, und ob sie bleibt, wenn die Preise der Großen fallen. Das ist ein frühes Signal, aber noch kein Beweis. Und trotzdem zeigt es etwas Wertvolles: Gute Geschäfte liegen oft nicht im Hype selbst, sondern in der stillen Effizienz dahinter. Diese Lücke ist offen, auch für kleine Teams, weil KI das Beobachten, Testen und Trainieren so billig macht, dass zwei Leute tun können, wofür früher eine Abteilung nötig war. Wer sie nutzt, kann sich den Preis am Ergebnis messen lassen, und das ist eine ziemlich selbstbestimmte Art, Unternehmer zu sein.

Max Quantum

Das war der Business Case des Tages.

Eva Cortex

IGNITION. Jeden Morgen. Ein echter Business Case. Eine echte Chance für Dich.