Özel Eğitim
SFT · DPO · RLHF · PEFT · sürekli ön eğitim. Yığınınız uçtan uca mühürlü. İmzalı manifesto dışarıda, tasarım gereği logsuz.
SFT, DPO, RLHF, LoRA / QLoRA / PEFT, continued pre-training, and multimodal extension. Run the pipeline you already use with TRL, Unsloth, and HuggingFace — on data that never leaves the silo.
training pipelines · single-tenant
fork · register · seal
phase
pipeline
base · method
hardware
status
cross-silo consortia · multi-party
multi-sig · k-of-n unwrap
consortium
records
training method
status
Cardio-renal cohort
4 hospitals · EU + US
Cross-bank fraud signals
6 banks · US + UK + SG
Rare-disease genomics
3 research consortiums
Supply-chain risk benchmark
8 vendors · global
Tam olarak her adımda hangi garantinin kaybolduğunu görmek için dstack'i kapatın.
SFT · DPO · RLHF · PEFT · devam eden PT — doğrulanmış H200 düğümleri arasında şifreli gradyanlar, imzalı manifesto çıkışı
Her veri sahibi yerelde bir wrap key türetir: HKDF(kms_root_pubkey, training_app_id, training_compose_hash, owner_id), shard’ını şifreler ve ciphertext yayınlar. Training compose-hash, framework’ü, training script’ini ve hyperparameter dosyasını sabitler (TRL · Unsloth · HF Trainer). Onay, DstackApp.sol’a sahip olan çoklu imza ile zincir üzerinde birlikte kaydedilir.
Gözetimli ince ayar
TRL SFTTrainer veya Unsloth. unwrap_dataset(), dstack-guest-agent üzerinden her sahibi için anahtarları çeker — eğitim döngünüz değişmeden kalır. Çıktı: mühürlü bir checkpoint ve imzalı bir manifesto.
Tercih / RL hizalama
Tercih-çifti optimizasyonu için DPOTrainer / IPOTrainer veya reward model + PPO ile tam RLHF. Mühürlü istemler, mühürlü tercih verisi, doğrulanmış reward model.
PEFT · LoRA / QLoRA
HuggingFace PEFT. Dondurulmuş bir temel modele karşı düşük-rank adapter’lar eğitin; LoRA ağırlıkları compose-hash’e mühürlenir ve doğrulanmış yeniden türetmede birleştirilir. Bellek kısıtlı işler için 4-bit QLoRA.
Sürekli ön eğitim
Sealed token korpusları üzerinde bir temel modeli alanınıza uyarlayın. Streaming dataloader, shard’ları TDX belleğinde açar; çalışma, token-hash’leri, hiperparametreleri ve son checkpoint’i kapsayan tek bir imzalı manifesto üretir.
sealed dataset · cohort-A.tar
1.6M rows
Her sahibin sarmalama anahtarı HKDF(kms_root, app_id, compose_hash, owner_id) ile türetilir. Tarifi değiştirin → anahtar değişir, eski şifreli metin kalıcı olarak erişilemez olur. Sarmalama anahtarı yalnızca compose-hash’i eşleşen doğrulanmış bir CVM içinde yeniden türetilir.
training manifest · sign-rpc
signedHer çalıştırmadan çıkan çıktı: kodu, veri kümelerini, hiperparametreleri ve model checksum’unu zincir üstü compose-hash’e bağlayan bir Sign-RPC manifestosu. Düzenleyiciye model dosyasını değil, manifestoyu verin.
bugün üretimde
Kapalı bir model gönderen tarife bağlı ince ayarlar. Manifestin, model dosyası değil, düzenleyici artefakt olduğu silo-ötesi eğitim.
HIPAA seviyesinde · 13B QLoRA
“TDX + H200 üzerinde hasta konuşması ince ayarı. Ağırlıklar hiçbir zaman ne bizim bulutumuza ne de onlarınkine dokunur — reçeteye mühürlenir, KMS yalnızca doğrulanmış bir CVM içinde yeniden türetir.”
medical-chat v3
TDX + H200 · weights sealed
4 hastane · AB + ABD + CH
“Her hastane kendi veri kümesini mühürler; KMS yalnızca onaylı compose için kilidi açar. Diğer tarafta: kodu, veri kümelerini ve model checksum’unu bağlayan imzalı bir manifest.”
1.6M records
multi-sig DstackApp · DP-aggregate out
6 banka · küresel
“Bir bankanın diğer bankanın defterini görmediği ortak AML modeli. Model dosyasını değil, manifesti düzenleyiciye verin.”
78M tx records
k-of-n quorum · sign-rpc manifest
HIPAA standartlarında
hasta verileri mühürlendi
GDPR / UK GDPR
veri yerleşimi korunur
PCI / FFIEC
çapraz banka birleşimleri kısıtlı
SOC 2 Type II
onaylanmış çalışma geçmişi
Yapay zeka çözüm yolları
Özel model uç noktası ilk giriş noktasıdır. Aynı gizlilik ilkesi ajanlara, veri iş akışlarına ve eğitime de genişler.
Promptların, çıktıların ve müşteri bağlamının kullanım sırasında şifreli korunması gereken OpenAI uyumlu model çağrılarını sunun.
128K
$0.27/M input
256K
$0.40/M input
128K
$0.15/M input
128K
$0.10/M input
200K
$3.00/M input
1M
$1.25/M input
Ajanları, görülebilir bir otomasyon bulutu yerine anahtarlar, araçlar, bellek ve eylemlerle birlikte doğrulanmış bir çalışma zamanında çalıştırın.
Modelleri hassas kayıtlara taşıyın ve ham veriyi model operatörüne açmadan onaylı çıktılar döndürün.
source
EHR data
source
Customer records
source
Internal docs
TEE clean room
approved output
Deploy private training
Tek bir müşteri için ince ayar yapın veya silolar arasında birlikte eğitin. Sahip başına HKDF, çoklu imzalı DstackApp kapısı, kodu, veri kümelerini ve modeli bağlayan imzalı manifest. TDX + H100/H200.
