Inférence privée

Inférence sans exposer le prompt.

Compatible OpenAI. Reçus signés. Par conception, aucun log.

Lire la documentation d’inférence Parler à des experts

vos pensées restent les vôtres

Private LLM catalog

Frontier models with private runtime.

OpenAI-compatible models with hardware-backed privacy and verification. Keep your SDK flow, change the endpoint, and copy the real call when you need it.

chiffré

Qwen: Qwen3.5-122B-A10B

262K contexte

$0.46/M input

Vérifier le détail

chiffré

Qwen: Qwen3 32B

41K contexte

$0.12/M input

Vérifier le détail

chiffré

Google: Gemma 4 31B

262K contexte

$0.15/M input

Vérifier le détail

chiffré

Qwen: Qwen3.6 35B A3B

262K contexte

$0.20/M input

Vérifier le détail

chiffré

DeepSeek: DeepSeek V4 Pro

800K contexte

$1.50/M input

Vérifier le détail

chiffré

Phala: Gemma-4 26B-A4B Uncensored (Heretic)

66K contexte

$0.15/M input

Vérifier le détail

chiffré

Phala: Qwen3.6 35B-A3B Uncensored (Aggressive)

131K contexte

$0.30/M input

Vérifier le détail

chiffré

MoonshotAI: Kimi K2.6

262K contexte

$1.09/M input

Vérifier le détail

chiffré

Z.ai: GLM 5.1

203K contexte

$1.21/M input

Vérifier le détail

chiffré

Qwen: Qwen3.5-27B

262K contexte

$0.30/M input

Vérifier le détail

chiffré

Qwen: Qwen3.5 397B A17B

262K contexte

$0.55/M input

Vérifier le détail

chiffré

MiniMax: MiniMax M2.5

197K contexte

$0.20/M input

Vérifier le détail

Model requests are routed through confidential AI providers with TEE support.

Check all

Private inference, by construction.

What you say to the model stays between your client and an attested CVM. Three primitives — encryption, TEE, no-logs — make that a property of the build, not a promise.

End-to-End Encryption

AES-GCM ciphertext on the wire, both hops
RA-TLS terminates inside the CVM, not at a load balancer
No plaintext intermediary on the host

Fonctionnement

Parcourez une requête unique, de bout en bout.

Désactivez dstack pour voir exactement quelle garantie disparaît.

Inférence privée sur dstack

RA-TLS à deux sauts vers une flotte de CVMs de modèle attestées — vérifiable, sans logs par conception

edge actifinactifnouveau dans l’étape

étape 1 of 5 · sensible au défilement

Étape 1 / 5

Vérifiez le build avant d’envoyer un seul octet

Le SDK client récupère le quote TDX de chaque CVM candidate et exécute dcap-qvl localement — il confirme que la build correspond à une entrée sans journal dans DstackApp.sol. La décision de confiance est prise côté client ; Phala n’est pas invité à se porter garant de lui-même.

With dstack: L’utilisateur détient la racine de confiance, ancrée dans la signature matérielle TDX d’Intel.

Même SDK. Même endpoints. Confidential par défaut.

cURL · prêt à l’emploi

Hit api.redpill.ai/v1/chat/completions with the OpenAI request shape. Receipt headers come back on every response — even from curl.

cURL

$ curl https://api.redpill.ai \/v1/chat/completions \-H "Authorization: …" \-d '{"model":…}'x-phala-receipt-sig: 0x9c..x-phala-compose-hash: 0xa1..

PYTHON

from openai import OpenAIc = OpenAI(base_url="…redpill.ai/v1",api_key=RP_KEY)r = c.chat.completions.create(…)

SDK Python OpenAI

`base_url="https://api.redpill.ai/v1"` and you’re done. Existing code keeps working; receipts attach to the response object.

Un vérificateur unifié

Whether the model runs on Intel TDX + H100 or AMD SEV + B300, the receipt format is identical. One verification path covers your whole TEE-LLM fleet — even when you mix providers.

UNIFIED PROOF

unified verifierall match

phalaLlama 3.1

near aiDeepSeek V3

tinfoilQwen2.5

chutesMistral

one format · any provider

OPENROUTER

openrouter · phala2026-06-01

3Btokens / day

Llama · open$0.40 / M

Llama · phala$0.40 / M

DeepSeek · open$0.27 / M

DeepSeek · phala$0.27 / M

Pas de prime pour la confidentialité

Confidential routes through Phala on OpenRouter price the same as the open route. Privacy is no longer a procurement line item — just a header you opted into.

two-hop RA-TLS · X.509 with TDX-quote extension

tunneled · no plaintext intermediary

hop 01 · client → gateway

CN=phala-gatewayTDX-quote ext (1.3.6.1.4.1…)

hop 02 · gateway → model CVM

CN=vllm-llama-3.1-70bTDX+H100 quote ext

RA-TLSmTLSX.509tunneled

RA-TLS en deux sauts, jusqu’au modèle

The first TLS hop terminates inside the dstack-gateway CVM (whose certificate carries its TDX quote). The second terminates inside the model CVM. There is no plaintext intermediary — just two confidential VMs whose X.509 certificates ARE their attestations.

response · /v1/chat/completions

200

x-phala-receipt-sig0x9c1a…f7e2x-phala-compose-hash0xa1b2…d1f3x-phala-app-idvllm-llama-3.1-70bx-phala-no-logtrue · by build

verify offlinechains to DstackApp.sol

Reçu signé + compose-hash on-chain, à chaque réponse

Every response carries x-phala-receipt-sig + x-phala-compose-hash. The signature chains to the TDX root and the on-chain DstackApp.sol entry — verify offline that the build that ran is the build that was registered.

in production today · 3 live partners

Confidential inference, in production.

OpenRouter routes its enterprise tier through Phala. NEAR AI ships verifiable agent inference. OODA AI runs decentralized GPU TEE.

01enterprise · live

OpenRouter

enterprise tier · drop-in

“Drop-in OpenAI-compatible endpoint with verifiable, no-log routing. The receipt is the audit trail.”

18B+ tokens

no-log · verified routing

02web3 · live

NEAR AI

verifiable agent inference

“Verifiable agent inference for autonomous, on-chain workflows. Every model call lands on-chain with proof.”

100% receipts

on-chain verified · zk inference

03public-co · live

OODA AI

NASDAQ-listed · decentralized GPUs

“Decentralized GPUs with hardware attestation guarantees. No host root, no off-band access, no policy promises.”

12M tokens / day

TDX + H100 · hardware-attested

OpenAI-compatible

drop-in /v1 surface

TDX + H100/H200/B300

CPU + GPU TEE

5–15% overhead

vs bare-metal

No host root

compose-hash IS the policy

Parcours de solution IA

Utilisez des modèles privés lorsque l’IA accède à des secrets.

Le point de terminaison du modèle privé est le premier point d’entrée. Le même principe de confidentialité s’étend aux agents, aux workflows de données et à l’entraînement.

Agents

Agents IA privés

Exécutez des agents avec clés, outils, mémoire et actions dans un runtime vérifié au lieu d’un cloud d’automatisation visible.

Ouvrir la solution

Training

Entraînement de modèle privé

Adaptez les modèles sur des données propriétaires tout en conservant les jeux de données, gradients, checkpoints et traces d’évaluation à l’intérieur de la frontière.

Ouvrir la solution

private training run

Observe without exposing weights.

H100 CC

dataset

sealed

fine-tune

running

eval

private

checkpoint

verified

loss curve

proof attached

attestation.json

Data

Données d’IA privées

Déplacez les modèles vers des dossiers sensibles et renvoyez des résultats approuvés sans exposer les données brutes à l’opérateur du modèle.

Ouvrir la solution

source

EHR data

source

Customer records

source

Internal docs

TEE clean room

query without raw access

approved output

aggregate only

no row exportproof linked

Deploy private inference

RA-TLS en deux sauts. Reçus signés. Zéro journal on-chain.

Intégrez-le tel quel avec le SDK OpenAI que vous utilisez déjà. Pointez vers api.redpill.ai. Obtenez un reçu signé avec chaque réponse.

View docs Parler aux ventes

01OpenAI-compatible base URL
02TDX + H100 / H200 / Blackwell
03Signed receipt per response
04On-chain compose-hash registry
055–15% TEE overhead vs bare-metal

Exécution privée. Résultats vérifiables.

Newsletter