Confidential AI Models
Private LLMs.
Verified results.
Frontier inference without exposing prompts, tools, or memory.
OpenAI-compatible APIs run inside hardware-backed TEEs and return proof of the runtime that handled the request.
AI çağrıları yalnızca istemden ibaret değildir.
TEE sınırı
Phala özel LLM
Private AI calls prompts, keys, tools, and memory stay inside the runtime. providers route the request without becoming the trust boundary. Proof follows the answer. verify GPU, container, model route, and response. same API shape, hardware-backed receipt, private inference. streaming, tool calls, and agent memory keep their normal developer flow. auditors can inspect evidence without reading the prompt. users get answers plus runtime proof, not another black box.
Traditional AI
- Prompts, tools, keys, and memory can become provider-visible state
- Security depends on policy, contracts, and audit logs after the fact
- The model result cannot carry a hardware-backed runtime receipt
Confidential AI
- Inference runs inside TEE-backed infrastructure
- The runtime can be verified before the result is trusted
- Customers can inspect proof without operating on-prem GPUs
Private LLM catalog
Frontier models with private runtime.
OpenAI-compatible models with hardware-backed privacy and verification. Keep your SDK flow, change the endpoint, and copy the real call when you need it.
Integrate in minutes
Same SDK, Change Endpoint, Verify E2EE.
Keep your OpenAI-compatible client. Point it at the private endpoint, choose a Phala model slug, and read the proof when the output needs an audit trail.
selected proof
Private LLM Gateway
The OpenAI-compatible endpoint terminates inside the verified gateway boundary.
Yapay zeka çözüm yolları
Yapay zeka gizliliğe duyarlı verilere dokunduğunda özel modeller kullanın.
Özel model uç noktası ilk giriş noktasıdır. Aynı gizlilik ilkesi ajanlara, veri iş akışlarına ve eğitime de genişler.
Özel AI çıkarımı
Promptların, çıktıların ve müşteri bağlamının kullanım sırasında şifreli korunması gereken OpenAI uyumlu model çağrılarını sunun.
DeepSeek V3.1
128K
$0.27/M input
Qwen3 Coder
256K
$0.40/M input
Llama 3.3 70B
128K
$0.15/M input
GPT OSS 120B
128K
$0.10/M input
Claude Sonnet 4.5
200K
$3.00/M input
Gemini 2.5 Pro
1M
$1.25/M input
Özel yapay zekâ temsilcileri
Ajanları, görülebilir bir otomasyon bulutu yerine anahtarlar, araçlar, bellek ve eylemlerle birlikte doğrulanmış bir çalışma zamanında çalıştırın.
Özel model eğitimi
Veri kümelerini, gradyanları, checkpoint’leri ve değerlendirme izlerini sınırın içinde tutarken tescilli veriler üzerinde modelleri uyarlayın.
private training run
Observe without exposing weights.
01
dataset
sealed
02
fine-tune
running
03
eval
private
04
checkpoint
verified
loss curve
proof attached
attestation.json
Private AI verisi
Modelleri hassas kayıtlara taşıyın ve ham veriyi model operatörüne açmadan onaylı çıktılar döndürün.
source
EHR data
source
Customer records
source
Internal docs
TEE clean room
query without raw access
approved output
aggregate only
Sorular
Ekiplerin geçmeden önce sorduğu sorular.
Özel LLM’ler yalnızca bir başka endpoint değildir. SaaS kolaylığı ile kendi yönettiğiniz AI altyapısı arasında bir dağıtım tercihidır.
Bu, normal bir LLM API’den nasıl farklı?
Normal bir LLM API, sağlayıcı sınırına güvenmenizi ister. Phala model çağrısını donanım destekli TEE içinde çalıştırır ve isteği neyin koruduğunu gösteren çalışma zamanı kanıtı ekleyebilir.
Bu, modelleri kurum içinde çalıştırmaktan nasıl farklı?
On-prem kontrol sağlar, ancak GPU’ları, model servislerini, yükseltmeleri ve kapasiteyi siz işletirsiniz. Phala API iş akışını korurken private execution ve doğrulanabilir çalışma zamanı durumu ekler.
Mevcut uygulamama özel LLM’leri entegre etmek ne kadar zor?
OpenAI uyumlu API yapısını kullanın: temel URL'yi değiştirin, özel bir model slug'ı seçin ve mevcut SDK veya ajan çerçevenizi koruyun.
Hangi model türleri mevcut?
Katalog; DeepSeek, Qwen, Meta, Mistral, Google ve OpenAI OSS gibi sağlayıcılardan kodlama, akıl yürütme, genel sohbet ve açık ağırlıklı model ailelerini içerir.
Müşteriler verinin korunduğunu nasıl doğrulayabilir?
Trust Center, doğrulama raporlarını donanım, kaynak, çalışma zamanı ve ağ doğrulama durumunun incelenebilir bir görünümüne dönüştürür.
Özel bir private stack’i ne zaman kullanmalıyım?
Özel modeller, ayrılmış GPU’lar, müşteriye özel dağıtımlar veya paylaşımlı çıkarımdan daha güçlü bir uyumluluk ve denetim sınırı gerektiğinde özel bir stack kullanın.
Geliştirmeye başlayın
Kanıtlayabildiğiniz yapay zekayı geliştirin.
Özel iş yüklerini dağıtın, yürütmeyi doğrulayın ve modellerden GPU işlerine kadar ölçekleyin.
