GPU TEE Marketplace

TEE-ready GPUs for AI builders.

H100, H200, and B300 capacity with CVMs, dual attestation, and TEE-aware operations.

Trial a machine for 24 hours, reserve a slot, or quote dedicated clusters. Phala handles the hard part: confidential GPUs, Intel TDX runtime, NVIDIA attestation, and the DevOps required to keep it working.

Confidential GPU cloud

Capacity first. Proof after the workload runs.

NVIDIA H100 chipNVIDIA H200 chipNVIDIA B300 chip

hardware proof rail

H100, H200, and B300 move through one verifiable GPU path.

GPU TEE

H100

GPU TEE

H200

GPU TEE

B300

Trial

24h minimum

Reserve

slots and clusters

Verify

CVM + GPU evidence

Marketplace inventory

Capacity with proof built in.

Pick a GPU for a 24-hour trial, reserve a slot for sustained jobs, or quote a dedicated cluster. Every path starts from TEE-ready infrastructure instead of a raw GPU box.

Trial ready

NVIDIA H100

NVIDIA H100 chip

Proven confidential inference and fine-tuning capacity.

Memory

80GB HBM3

Bandwidth

3.35 TB/s

Region

US-West

Scale

1-2 GPUs

On-demand

$3.08/GPU/hr

24h minimum

Slot

$2.38/GPU/hr

reserved

Slot ready

NVIDIA H200

NVIDIA H200 chip

High-memory runtime for larger private model jobs.

Memory

141GB HBM3e

Bandwidth

4.8 TB/s

Region

US-West / India

Scale

1-8 GPUs

On-demand

$4.80/GPU/hr

24h minimum

Slot

$3.20/GPU/hr

reserved

Quote now

NVIDIA B300

NVIDIA B300 chip

Blackwell Ultra confidential capacity for frontier inference.

Memory

288GB HBM3e

Bandwidth

8 TB/s

Region

US-East / US-West

Scale

1-8 GPUs

1-month

$6.50/GPU/hr

30d minimum

Slot

$5.60/GPU/hr

reserved

Prices include Intel TDX + NVIDIA confidential computing readiness. Volume and enterprise pricing are quoted by workload.

Quote price

Prestatiegegevens voor planning van private AI-GPU's

relative index

1x

H100

1.9x

H200

3.2x

B300

LLM-inferentie

model + KV cache

80GB

H100

141GB

H200

288GB

B300

GPU-geheugen

feed batches

3.35TB/s

H100

4.8TB/s

H200

8TB/s

B300

Geheugenbandbreedte

NVIDIA H100 chip

NVIDIA H100

80GB HBM3

NVIDIA H200 chip

NVIDIA H200

141GB HBM3e

NVIDIA B300 chip

NVIDIA B300

288GB HBM3e

GPU-vergelijking

H100 vs H200 vs B300

Vergelijk eerst de capaciteitsvorm vóór de offerte. H100 is het snelle proefpad, H200 voegt extra geheugenruimte toe, en B300 is het Blackwell Ultra-pad voor frontier inference en dedicated clusters.

De exacte throughput hangt af van model, batchgrootte, precisie en runtime. Phala vermeldt de GPU samen met het vertrouwelijke VM-pad, GPU CC-gereedheid en attesteringsoperaties.

Mockup van GPU-cloud

Capaciteitslanen met bewijsstatus.

De marketplace-weergave moet de aankoopstroom duidelijk maken: proberen, reserveren, dan opschalen naar een dedicated cluster met TEE-gereedheid erbij.

NVIDIA H100 chip

H100

80GB HBM3
NVIDIA H200 chip

H200

141GB HBM3e
NVIDIA B300 chip

B300

288GB HBM3e

geverifieerd

CVM-runtime

geverifieerd

GPU CC-modus

geverifieerd

Dubbele attestation

GPU TEE-proofpad

Wat Phala afhandelt voor het CVM-pad.

GPU-isolatie is alleen nuttig wanneer het volledige pad — runtime, GPU-modus en evidence-collectie — end-to-end verifieerbaar is. Phala levert alle drie samen.

cvm-enclave · 80×24 · 24fpsdensity: .:-=+*#%@

01

CVM-runtime

Docker-workloads draaien in een Intel TDX-confidential VM met GPU passthrough. De runtime is afgeschermd tegen de operator en wordt vóór start van de workload door firmware gemeten.

gpu-cc · 80×22 · 24fpsdensity: .:-=+*#%@

02

GPU CC-modus

NVIDIA Confidential Computing verzegelt modelgewichten, activaties en KV-cache in beschermd GPU-geheugen. De GPU handhaaft compute-isolatie naast de CPU TEE.

dual-attestation · 80×20 · 24fpsdensity: .:-=+*#%@

03

Dubbele attestation

Intel TDX en NVIDIA geven elk een ondertekende quote af. Phala verzamelt beide en biedt ze via één verifier aan, zodat de CVM en de GPU samen bewijzen dat ze echt zijn.

Aankooproutes

Begin klein. Reserveer wanneer het werkt.

De marketplace is ingericht rond hoe AI-builders GPU’s echt inkopen: snel testen, capaciteit reserveren zodra een workload is bewezen, en daarna overstappen op enterprise-deals wanneer het cluster productie-kritisch wordt.

01 / Op aanvraag

Test een vertrouwelijke GPU binnen 24 uur.

Korte testvensters voor builders die private inference, modelserving of proof generation valideren.

02 / Slot

Reserveer capaciteit vóór de volgende run.

Voorspelbare GPU-toegang voor langdurige training, fine-tuning en benchmarkvensters.

03 / Enterprise

Toegewijde clusters met TEE-operaties.

Aangepaste deals voor H100, H200 of B300 met TEE-bewuste infrastructuurondersteuning en deploymentplanning.

AI-oplossingspaden

Gebruik privé-modellen waar AI met geheimen werkt.

Het endpoint voor het privé-model is het eerste toegangspunt. Hetzelfde privacy-gebouwblok breidt zich uit naar agents, datastromen en training.

LLM API

Private AI-inference

Bied OpenAI-compatibele modelaanroepen aan waarbij prompts, outputs en klantcontext versleutelde-bij-gebruik bescherming nodig hebben.

Open oplossing
encrypted

DeepSeek V3.1

128K

$0.27/M input

encrypted

Qwen3 Coder

256K

$0.40/M input

encrypted

Llama 3.3 70B

128K

$0.15/M input

encrypted

GPT OSS 120B

128K

$0.10/M input

encrypted

Claude Sonnet 4.5

200K

$3.00/M input

encrypted

Gemini 2.5 Pro

1M

$1.25/M input

Agents

Privé AI-agents

Laat agents draaien met sleutels, tools, geheugen en acties binnen een geverifieerde runtime in plaats van een zichtbare automation cloud.

Open oplossing
Training

Privémodeltraining

Pas modellen aan op propriëtaire data terwijl datasets, gradients, checkpoints en evaluatietraces binnen de grens blijven.

Open oplossing

private training run

Observe without exposing weights.

H100 CC

01

dataset

sealed

02

fine-tune

running

03

eval

private

04

checkpoint

verified

loss curve

proof attached

attestation.json

Data

Privé AI-data

Verplaats modellen naar gevoelige records en geef goedgekeurde outputs terug zonder ruwe data bloot te stellen aan de modeloperator.

Open oplossing

source

EHR data

source

Customer records

source

Internal docs

TEE clean room

query without raw access

approved output

aggregate only
no row exportproof linked
GPU TEE Cloud — H100/H200/B300 Confidential AI | Phala