GPU-Cloud-Bursting und Multi-Cloud-GPU-as-a-Service

Open-Source Cozystack (CNCF-Projekt, von uns entwickelt und gepflegt) → Ænix Platform, die unterstützte kommerzielle Distribution → Aenix baut, betreibt und migriert sie.

Cloud Bursting bedeutet, stetige Workloads auf eigener Kapazität zu betreiben und Lastspitzen nur bei Bedarf in externe Clouds auszulagern. Für GPU-Arbeit heißt das: eigene Bare-Metal-Kapazität als Basis nutzen und Inferenz- oder Training-Jobs bei Spitzen in Public-Hyperscaler oder eine souveräne Cloud bursten — und die Zusatzkapazität danach wieder abbauen. Aenix liefert das als GPU-as-a-Service auf Ihrer eigenen Plattform: eine einzige Cluster API spannt Bare Metal, Hyperscaler und souveräne Cloud zusammen, mit fraktionalem GPU-Sharing, Autoscaling und einem WireGuard-Mesh. Es passt für AI/ML-Teams, Forschungseinrichtungen und Plattform-Betreiber, die elastische GPU ohne Hyperscaler-Lock-in brauchen — und senkte in einem realen akademischen Fall die GPU-Kosten in der souveränen Cloud um rund das Fünffache.

Auf einen Blick

Was es ist Basis-GPU-Workloads auf eigener Kapazität betreiben und Spitzen bei Bedarf in externe Clouds bursten
Control Plane Eine Cluster API über Bare Metal, Public-Hyperscaler und souveräne Cloud
GPU-Effizienz Fraktionales GPU-Sharing (HAMi) — mehrere Jobs teilen sich eine physische Karte
Ökonomie ~5x günstigere GPU in einer souveränen Cloud gegenüber dem vorherigen Hyperscaler-Setup (akademischer Multi-Cloud-Fall)
Plattform Cozystack — CNCF-Projekt, Apache 2.0 (keine Lizenz pro GPU oder pro CPU)
Konnektivität WireGuard-Mesh verbindet Standorte und Clouds zu einem Pod- und Service-Netzwerk
Isolation Pro-Tenant Hosted Control Planes (Kamaji) für sichere Multi-Tenancy

Source: Cluster API Doku, Cozystack, akademische Multi-Cloud-GPU-Case-Study

GPU-Cloud-Bursting: Multi-Cloud-GPU-as-a-Service auf Ihrer eigenen Plattform

Die Basis besitzen, nur die Spitzen mieten. Cloud Bursting lässt Sie stetige GPU-Workloads auf selbst kontrollierter Hardware betreiben und Inferenz- oder Training-Spitzen bei Bedarf in Public- oder souveräne Clouds auslagern — und die Zusatzkapazität danach wieder abbauen. Ænix baut das als GPU-as-a-Service auf einer einzigen Kubernetes-Plattform, damit Ihre Teams elastische GPU erhalten — ohne Hyperscaler-Lock-in, ohne intransparente Abrechnung, ohne komplette Migration.

Passt zu: Ænix AI Platform — Multi-Tenant-GPU-Scheduling, fraktionales Sharing und fertige Blueprints für Inferenz und Fine-Tuning. Für die elastische Self-Service-Cloud darunter: kombinieren mit Public Cloud Platform. Rechnen Sie die Zahlen mit den ROI- & TCO-Rechnern durch.

Discovery-Call buchen Case Study ansehen →

Was Sie bekommen

GPU-Cloud-Bursting auf der Ænix-Plattform ist ein elastischer GPU-Pool, verteilt über die Infrastruktur, die Sie bereits haben, und die Clouds, die Sie erreichen wollen.

Bursten in Public- und souveräne Clouds. Basis-Workloads laufen auf eigenem Bare Metal. Bei Lastspitzen wird Kapazität in einem Public-Hyperscaler, einer souveränen Cloud oder beiden ergänzt — und danach freigegeben. Eine souveräne Cloud kann ein vollwertiges Burst-Target sein, wenn ein Regulator GPU-Verarbeitung an eine Jurisdiktion bindet oder ihre GPUs schlicht günstiger sind.
Fraktionales GPU-Sharing. Mit HAMi über dem NVIDIA-GPU-Operator teilen sich mehrere Jobs eine physische Karte. Ein Notebook, ein kleiner Inferenz-Endpoint und ein Batch-Job koexistieren auf einer GPU, statt jeweils ein ganzes Gerät zu belegen.
Eine Cluster API. Bare Metal, Hyperscaler und souveräne Cloud liegen hinter einer einzigen Cluster API. Teams fordern GPU überall gleich an; die Plattform entscheidet, wo sie landet.
GPU-bewusstes Autoscaling. Der Cluster Autoscaler fügt GPU-Nodes hinzu, wenn Pods nicht planbar sind, und entfernt sie nach der Spitze — Sie zahlen Spitzenkapazität nur, solange die Spitze dauert.
Ein verschlüsseltes Mesh über Standorte. Ein WireGuard-Mesh verbindet jeden Standort und jede Cloud zu einem Pod- und Service-Netzwerk, wobei neue Nodes sich beim Hochfahren selbst registrieren.
Pro-Tenant-Isolation. Jeder Tenant erhält eine eigene Hosted Control Plane, sodass beliebiger User-Code und Multi-Tenant-GPU-Sharing die Plattform nicht kompromittieren.

Für wen ist das?

AI/ML-Teams mit sprunghaftem Training- und Inferenz-Bedarf, Forschungseinrichtungen und Universitäten mit geteilten GPU für Kurse und Experimente sowie Plattform-Betreiber, die GPU-as-a-Service anbieten wollen, ohne einen Hyperscaler weiterzuverkaufen. Ist Ihr GPU-Bedarf flach und planbar, brauchen Sie womöglich kein Bursting — kaufen Sie für die Grundlast — mehr braucht es nicht. Springt er, liegt in Bursting die Ökonomie.

Wie es funktioniert

Das Muster besteht aus Standard-Kubernetes-Primitiven, zusammengesetzt und durchgängig betrieben.

Eine Cluster API

CozystackAutoscalingWireGuard-Mesh

betreibt die Basis auf

Eigenes Bare Metal

GrundlastBasis-Workloads

burstet Spitzen in

Public- & souveräne Cloud

Burst-Target

Cluster Autoscaler erkennt GPU-Pods, die nicht geplant werden können, und provisioniert Nodes auf dem richtigen Ziel — Bare Metal, Hyperscaler oder souveräne Cloud — über die Cluster API, Kubernetes’ deklarativen Standard für den Lebenszyklus von Clustern und Maschinen. Leert sich die Warteschlange, werden die Nodes wieder abgebaut.
Cilium plus WireGuard-Mesh (Kilo) liefern die CNI und ein verschlüsseltes Overlay über Clouds hinweg. Frisch autoskalierte Nodes melden sich ins Mesh und erreichen geteilten Storage ohne manuelle Schritte — das Kubernetes-Netzwerkmodell behandelt sie, als wären sie lokal.
NVIDIA-GPU-Operator übernimmt Treiber-Installation, Device-Discovery und Passthrough auf jedem Node, und HAMi ergänzt fraktionales Sharing, sodass eine Karte mehrere Pods bedient.
Talos Linux und Kamaji bilden die Basis: ein immutables, API-verwaltetes OS für die Nodes und Hosted Control Planes für Tenant-Cluster, sodass jeder Tenant von Grund auf isoliert ist.

Das ist dieselbe Klasse offener, CNCF-naher Bausteine, auf die sich das Cloud-Native-Ökosystem stützt — keine proprietäre Orchestrierungsschicht, keine Control-Plane-Abgabe pro GPU.

Vergleichen Sie noch? Preise & Plattformen ansehen →

Die Ökonomie

GPU ist die knappe, teure Ressource, und ihr Preis steht unter Druck: GPU-Preise sind volatil und sind in kurzen Zeiträumen stark gestiegen. Die Basis zu besitzen und die Spitzen zu bursten — statt GPU rund um die Uhr in einem Hyperscaler zu mieten — ist genau der Punkt, an dem dieser Druck aufgefangen wird.

In der akademischen Multi-Cloud-Case-Study verlagerte ein europäischer akademischer Computing-SaaS sein Backend und die User-Workloads von einem Public-Hyperscaler auf eigenes Bare Metal auf Cozystack, behielt eine einzige Cluster API über Bare Metal, einen Hyperscaler und eine souveräne Schweizer OpenStack-Cloud und burstete GPU bei Bedarf. GPU in der souveränen Cloud war rund 5x günstiger als das vorherige Hyperscaler-Setup — bei intaktem fraktionalem Sharing und Pro-Tenant-Isolation und ohne Ausfallzeit für Tausende aktiver Nutzer.

Ihr Mix aus Grundlast, Spitze und Burst-Target entscheidet über die Ersparnis. Modellieren Sie ihn mit den ROI- & TCO-Rechnern, bevor Sie sich auf Hardware oder einen Burst-Target-Vertrag festlegen.

Ænix ist das Team hinter Cozystack — einem CNCF-Projekt (heute Sandbox; Incubating erwartet für Spätsommer 2026), Apache 2.0. Ænix kommerzialisiert es als Ænix Platform — drei Plattformen auf einer Engine: Public Cloud, Private Cloud und AI — kombinierbar statt sich gegenseitig ausschließend. Wir bauen Multi-Cloud-GPU-Plattformen für AI/ML-, Forschungs- und Plattform-Betreiber-Organisationen in der EU und DACH.

Häufig gestellte Fragen

Was ist Cloud Bursting?

Cloud Bursting ist ein hybrides Muster, bei dem eine Anwendung auf privater oder eigener Infrastruktur als Basis läuft und dann in eine externe Cloud burstet, sobald die Nachfrage die lokale Kapazität übersteigt. Bei GPU-Workloads besitzen Sie so die Grundlast-Kosten und zahlen zusätzliche GPU nur während der Spitzen, die danach wieder freigegeben werden.

Wie funktioniert GPU-Bursting auf Kubernetes?

Der Kubernetes Cluster Autoscaler erkennt nicht planbare GPU-Pods und fügt Nodes dort hinzu, wo sie gebraucht werden — Bare Metal, Hyperscaler oder souveräne Cloud — alle hinter einer Cluster API. Eine CNI plus WireGuard-Mesh verbindet die neuen Nodes zu einem Netzwerk, der GPU-Operator macht ihre GPUs planbar, und die Zusatz-Nodes werden nach der Spitze wieder abgebaut.

Kann ich in eine souveräne Cloud bursten?

Ja. Eine souveräne oder regionale Cloud kann wie jedes andere Ziel als Burst-Target dienen — wichtig, wenn ein Regulator GPU-Verarbeitung an eine Jurisdiktion bindet oder wenn souveräne GPU-Kapazität schlicht günstiger ist. In unserem akademischen Multi-Cloud-Fall haben wir eine souveräne OpenStack-Cloud als Burst-Target ergänzt und Tenant-Cluster dort aus einem einzigen Manifest betrieben.

Wieso ist das günstiger als ein Hyperscaler?

Sie besitzen die Grundlast, statt sie rund um die Uhr zu mieten, teilen physische GPUs per fraktionalem Scheduling über Jobs hinweg und bursten in die günstigste Kapazität — inklusive souveräner Clouds. Im akademischen Fall war die GPU in der souveränen Cloud rund 5x günstiger als das vorherige Hyperscaler-Setup. Rechnen Sie Ihre eigenen Zahlen mit den ROI- und TCO-Rechnern durch.

Was bedeutet GPU-as-a-Service in diesem Kontext?

GPU-as-a-Service heißt hier, dass Ihre eigene Plattform GPUs für Teams als elastische Self-Service-Ressource bereitstellt — einen Bruchteil einer Karte oder einen ganzen Node anfordern, geplant bekommen, nach Gebrauch freigeben — statt einen Managed-GPU-Service bei einem Hyperscaler zu kaufen. Control Plane, Ökonomie und Datenresidenz bleiben bei Ihnen.

Muss ich meine bestehende Hardware oder Cloud aufgeben?

Nein. Cloud Bursting ist additiv. Eigenes Bare Metal bleibt die Basis, bestehender Storage (etwa externes Ceph) bleibt an Ort und Stelle, und Public- oder souveräne Clouds werden als Burst-Targets angebunden. Nichts erzwingt eine vollständige Migration — Sie erweitern Kapazität dort und dann, wo Sie sie brauchen.