Am 12. Oktober hat Microsoft den Maia 300 vorgestellt, den Nachfolger seines Inferenz-Beschleunigers. Das Wichtigste daran steht weniger im Datenblatt als in der Ankündigung: Microsoft will Maia ab 2027 in Multi-Gigawatt-Größenordnung ausrollen und zum primären Inferenzsystem für die eigenen Produkte machen. Nach Microsofts Angaben liefert der Maia 300 rund 40 Prozent mehr Tokens pro Megawatt als führende GPU-basierte Systeme. Der Vorgänger Maia 200 läuft bereits produktiv, unter anderem für Copilot, und kommt laut Microsoft auf bis zu 1,7-mal mehr Tokens pro Watt gegenüber führender GPU-Infrastruktur. Das sind Herstellerangaben, und 40 Prozent sind keine Revolution. Interessant ist die Richtung. Hier baut man sich die Hardware für den Betrieb von Modellen, nicht für deren Training. Und das ist ein Unterschied, der in der bisherigen KI-Materialschlacht kaum eine Rolle gespielt hat.
Training und Inferenz sind zwei verschiedene Lasten. Training braucht die dicksten Beschleuniger, die es gibt. Inferenz – also das Beantworten von Anfragen – braucht vor allem Effizienz: wenig Energie pro Token, viel Speicherbandbreite, niedrige Latenz. Dass dennoch ein großer Teil der Anfragen auf Prozessoren läuft, die für Training optimiert und entsprechend teuer sind, ist meiner Ansicht nach eine der größten Verschwendungen dieses Booms. CNBC schreibt, Nvidias GPUs füllten Microsofts bestehende Rechenzentren und trainierten zugleich die Modelle von OpenAI und Anthropic. Die Hyperscaler investieren allein 2026 rund 800 Milliarden Dollar in Infrastruktur.
Und hier kommt China ins Spiel. Wegen der Exportbeschränkungen kommen chinesische Firmen nicht an Nvidias beste Chips. Das hat sie gezwungen, aus weniger mehr zu machen – bessere Algorithmen, sparsamere Architekturen. Tencents neues Hunyuan-Modell Hy3 hat 295 Milliarden Parameter, aktiviert aber nur 21 Milliarden pro Anfrage. DeepSeek wurde vor gut einem Jahr genau deshalb weltberühmt: Zwei hocheffiziente Modelle haben das Silicon Valley überrascht.
Jetzt folgt die Hardware nach. Reuters berichtete im Juli, DeepSeek entwickle einen eigenen Chip, ausdrücklich für Inferenz und nicht für Training. Laut The Information sondiert Z.ai, der Hersteller der GLM-Modelle, Gespräche mit chinesischen Chipdesignern über einen Prozessor, der auf die eigenen Modelle zugeschnitten ist. Beide Projekte sind nach den vorliegenden Informationen noch in einem frühen Stadium. Parallel baut Huawei seine Ascend-Reihe aus: Der 950DT soll im kommenden Jahr breit für Modelltraining eingesetzt werden, der 960DT soll im ersten, der 960PR im dritten Quartal 2027 folgen. Huawei räumt selbst ein, die Nachfrage im Inland nicht decken zu können, und verkauft deshalb kaum ins Ausland. Auch Alibaba und Baidu entwickeln eigene Chips.
Man sollte das nicht überhöhen. Huaweis Chips liegen hinter Nvidias besten weiterhin deutlich zurück, und ohne Zugang zur modernsten Fertigung dürfte DeepSeek laut einem Analysten kaum außerhalb Chinas verkaufen können. Aber der Punkt ist ein anderer: Wer nicht klotzen kann, lernt zu sparen. Dass Amerika diese Lektion jetzt nachholt, ist bemerkenswert.
Wer als Anbieter mit KI Geld verdienen will, kann das vor allem mit Inferenz. Und muss mit effizienter Software und Hardware versuchen, die für die Probleme der Kunden ausreichende Leistung zu bezahlbaren Preisen anzubieten.
Das zeigt auch der aktuelle Preiskampf im unteren Segment der KI-Modelle. Simon Willison hat die Zahlen im September zusammengetragen: GPT-6 Luna kostet 0,10 Dollar pro Million Eingabe-Token und 0,50 Dollar für die Ausgabe. Der Vorgänger GPT-5.6 Luna lag bei 0,20 und 1,20 Dollar, GPT-6 Sol hat seinen Preis halbiert. Anthropic senkte am selben Tag die Preise: Opus 5.5 wurde um 20 Prozent günstiger, die Preise für Cache-Lesezugriffe sanken um 60 Prozent. Der neue Haiku 5.5 vom 7. Oktober kostet exakt so viel wie Luna – gegenüber 1 und 5 Dollar beim Vorgänger Haiku 4.5 ist das ein Zehntel.
Spannend wird es allerdings beim Vergleich dieser beiden Kleinen. Laut Anthropics eigener Benchmark-Tabelle liegt Haiku 5.5 klar vorn, etwa bei Computer-Nutzung (72,4 zu 48,9 Prozent auf OSWorld). DataCamp hat aber nachgemessen, was die gleiche Arbeit tatsächlich kostet. Bei 24 Rechnungen, die jedes Modell prüfen sollte, lagen beide bei 24 von 24 richtigen Entscheidungen. Luna brauchte dafür 0,0051 Dollar, Haiku 0,0095 Dollar. Der Grund: Haiku zerlegt denselben Text in rund 70 Prozent mehr Tokens und denkt vor der Antwort deutlich länger. Gleicher Tokenpreis heißt also nicht gleicher Preis pro Aufgabe. Das ist ein einzelner, kleiner Test, aber er zeigt die Richtung, in die der Wettbewerb läuft: weg vom besten Modell, hin zum günstigsten Modell, das die Aufgabe zuverlässig erledigt.
Microsofts Schritt legt nahe, dass man in Amerika das Köpfchen-Thema erkannt hat. Auch Amazon, Google, AMD und Cerebras liefern inzwischen Alternativen zu Nvidia. Was fehlt, ist die Zeit: Der Maia 300 geht erst 2027 in Produktion, und das Training der Spitzenmodelle bleibt weitgehend auf Nvidia angewiesen. Ob das Geld für die Aufholjagd reicht, hängt davon ab, wie lange Investoren bereit sind, Verluste im zweistelligen Milliardenbereich zu finanzieren, während die Preise fallen. Das bleibt Spekulation. Ich halte es aber für wahrscheinlich, dass im Inferenzgeschäft künftig oft schon die effizientere Lösung die bessere Wahl ist und nicht die größte. Das ist die (von uns etwas provokant zugespitzte) „Falle des Gut genug“ – und Tokens pro Megawatt werden wohl der neue Benchmark.