Axelera Titania: Chiplet-Architektur für KI-Inferenz in Rechenzentren

Axelera AI hat an diesem Donnerstag (12.) die Details von Axelera Titania enthüllt, seiner Siliziumarchitektur der dritten Generation für die Inferenz künstlicher Intelligenz in Rechenzentren. Die in Eindhoven in den Niederlanden vorgestellte Chiplet-Architektur wird als europäische Alternative zu teuren KI-Servern präsentiert und verspricht bis zu siebenmal mehr Durchsatz pro Watt als die besten derzeit verfügbaren Rechenzentrumsserver — eine Erwartung des Unternehmens, die noch nicht durch unabhängige Benchmarks bestätigt wurde.

Axelera Titania kombiniert die Digital-In-Memory-Computing-Architektur (D-IMC) des Unternehmens mit einem neuen Chiplet-Design, LPDDR6-Speicher mit hoher Kapazität, Scale-up-Konnektivität mit hoher Bandbreite und programmierbarem RISC-V-Computing in einem einzigen Gehäuse. Jedes System-in-Package (SiP) enthält zwei Titania-Chiplets und wird als Standard-PCIe-Karte sowie als OCP-UBB-Baseboard mit acht OAM-Modulen in einem Scale-up-Netzwerk angeboten.

Die versprochenen Zahlen

Laut dem Unternehmen soll Axelera Titania bis zu 7-mal mehr Durchsatz pro Watt und bis zu 20-mal bessere Gesamtbetriebskosten (TCO) liefern als die derzeit führenden Rechenzentrumsserver. Das Unternehmen gibt außerdem an, über mehr als 300 Millionen US-Dollar an bestätigten Zusagen für die Plattform zu verfügen; die Produkte kommen über OEM-Partner in Inferenzserver-Konfigurationen mit Luft- und Flüssigkeitskühlung.

Der Referenzserver AX8 mit acht SiPs soll 20 PFLOPS FP8-Rechenleistung, 1 TB Beschleunigerspeicher und 19,6 TB/s Speicherbandbreite in einem Standard-4U-Server mit Luftkühlung bei typisch 5 bis 6 kW bieten. Laut Unternehmen kann ein einziger AX8-Server ein Modell mit 1,6 Billionen Parametern in FP4 mit Platz für den KV-Cache aufnehmen — und zwei davon passen in ein herkömmliches 15-kW-Rack, während fünf in ein luftgekühltes 30-kW-Rack passen.

LPDDR6 statt HBM-Speicher

Statt auf den knappen High-Bandwidth-Memory (HBM) angewiesen zu sein, nutzt Titania LPDDR6, das 128 GB pro Gehäuse bei geringerem Stromverbrauch bietet und nicht von HBM-Angebot oder -Packaging abhängt. Die Wette ergibt Sinn für spärliche Mixture-of-Experts-Modelle, die insgesamt viele Parameter haben, aber jeweils nur wenige aktive: In diesen Fällen zählen Speicherkapazität und effektive Auslastung mehr als Spitzenbandbreite.

Software und Kompatibilität mit der vorherigen Generation

Die Plattform wird von der Voyager-Toolchain unterstützt und bringt von Anfang an Unterstützung für Tensor-, Experten- und Pipeline-Parallelismus sowie für spekulatives Dekodieren, KV-Cache-Offloading und -Disaggregation mit. Eine einzige Karte bedient LLMs, Vision-Language-Modelle und Video, mit 8K-Dekodierung und 4K-Kodierung in H.265 und AV1 direkt auf dem Chip.

Die Axelera-Titania-PCIe-Karte wurde als direkter Ersatz für den Axelera Server 250p konzipiert, die Vier-Chip-Karte der Europa-Generation — Modelle, die heute auf Europa laufen, können also 2028 auf Titania wechseln, ohne erneut portiert zu werden. Dasselbe Voyager-SDK und dieselbe Sprache AxeleraScript gelten für alle drei Generationen.

Kontext und Zeitplan

Axelera Titania ist die dritte Generation der Axelera-Architektur, nach Metis für die Edge und Europa, das am 15. September 2026 für Unternehmen gestartet wurde. Das Chiplet selbst war bereits zuvor vorgestellt worden, mit Unterstützung der DARE-Initiative des EuroHPC Joint Undertaking, einem europäischen Projekt für digitale Autonomie auf RISC-V-Basis; die heutige Ankündigung liefert die vollständigen technischen Details, Leistungsziele und den kommerziellen Zeitplan.

Die Produktion ist für das dritte Quartal 2027 geplant, mit Kunden-Deployments bis Anfang 2028. Das Unternehmen verspricht einen tieferen technischen Einblick während der SC26, der Supercomputing-Konferenz vom 15. bis 19. November in Chicago.

„Die größte Herausforderung, vor der die meisten Organisationen stehen, wenn Inferenz zur dominierenden KI-Arbeitslast wird, ist die Token-Ökonomie ihrer Infrastruktur“, sagte Fabrizio Del Maffeo, Mitgründer und CEO von Axelera AI. CTO und Mitgründer Evangelos Eleftheriou sagte, die Architektur „wandle bereits 88 Prozent ihrer Speicherbandbreite in Token auf dem heute ausgelieferten Europa-Silizium um“ — eine Aussage des Unternehmens über die aktuelle Generation, keine unabhängige Messung von Titania.

Titelbild: Titania-Chiplet-Architektur. Bildnachweis: Axelera AI.

Quellen

Transparenz: Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt, auf Grundlage öffentlich zugänglicher Quellen im Internet. Die genannten Leistungsziele sind Erwartungen des Herstellers und wurden noch nicht durch unabhängige Benchmarks bestätigt. Bitte konsultieren Sie die Originalquellen zur Bestätigung.

Von Muse