AI Orchestrator

1. #1

   CALL · gw.gemini-flash

   Primary — kualitas 92 · p95 3.2s · $0.002 · sukses 98.5% · kuota 82%

   —
2. #2

   RETRY · gw.gemini-flash

   Retry 1 setelah error retryable

   0.9s
3. #3

   RETRY · gw.gemini-flash

   Retry 2 setelah error retryable

   1.7s
4. #4

   FAILOVER · gw.gemini-pro

   Failover ke Lovable AI Gateway

   —
5. #5

   RETRY · gw.gemini-pro

   Retry 1 setelah error retryable

   0.9s
6. #6

   RETRY · gw.gemini-pro

   Retry 2 setelah error retryable

   1.7s

• Project Memory

  Ringkasan proyek versi terakhir yang dibagikan seluruh agen.

• Character Bible

  Deskripsi kanonik karakter agar wajah & kostum konsisten.

• Environment Library

  Lokasi, palet, pencahayaan, dan properti berulang.

• Storyboard

  10 scene × 2 detik dengan beat naratif per scene.

• Scene

  Scene aktif yang sedang diproses.

• Style Guide

  Gaya visual 3D Pixar, lensa, grading, rasio 9:16.

• Workflow Status

  Tahap pipeline & dependensi yang sudah selesai.

• Riwayat Revisi

  Koreksi manusia sebelumnya agar tidak terulang.

Prompt Optimization

• Bersihkan format & whitespace
• Validasi panjang terhadap batas token model
• Sisipkan Character Bible, Environment Library, Story Memory
• Hapus baris konteks duplikat
• Sesuaikan format ke kontrak model tujuan

Response Validation

• Format terparse (JSON/biner sesuai kategori)
• Tidak kosong / bukan placeholder
• Sesuai skema Zod tahap terkait
• Tidak ada field rusak atau NaN
• Lolos aturan aplikasi (rasio 9:16, durasi 2 detik/scene, bahasa sesuai)
• Konsisten dengan Character Bible & Style Guide

Gagal validasi → regenerasi pada model yang sama, lalu failover ke provider berikutnya.

• High Priority

  Interaksi langsung pengguna & retry render gagal.

  x12

• Normal Priority

  Pipeline produksi standar per proyek.

  x8

• Background

  Pra-render, warm cache, analitik.

  x4

• Retry

  Job gagal dengan backoff & failover provider.

  x6

• Scheduled

  Publikasi terjadwal & laporan periodik.

  x3

• Batch

  Penggabungan permintaan sejenis (10 scene sekaligus).

  x2

• ai_request_latency_ms

  p95 < 15s (teks), < 90s (video)

• ai_success_rate

  > 98% per provider per 15 menit

• ai_failure_rate

  < 2%; > 5% membuka circuit breaker

• ai_cost_usd_total

  Per provider, per proyek, per hari

• ai_tokens_total

  Input/output per model

• ai_quota_remaining

  Peringatan pada sisa < 15%

• ai_cache_hit_ratio

  > 25% pada tahap teks

• ai_queue_depth

  < 200 job pada antrean normal

• Secret Manager

  API key tersimpan terenkripsi, hanya dibaca di dalam handler server.

• Rotasi Kunci

  Jadwal rotasi 90 hari + rotasi darurat saat indikasi kebocoran.

• Audit Log

  Setiap akses kredensial & perubahan registry tercatat dengan aktor.

• Validasi Input

  Zod di boundary server; permintaan tak valid ditolak sebelum menyentuh provider.

• Output Filtering

  Penyaringan konten & pembersihan PII sebelum hasil disimpan/ditampilkan.

• Masking

  Prompt log memotong data sensitif; kunci tidak pernah muncul di log/telemetri.

1. 1

   Deklarasikan model

   Tambahkan ModelEntry: kapabilitas, batas, biaya, latensi, rate limit.

2. 2

   Implementasikan adapter

   execute() + mapError() sesuai antarmuka ProviderAdapter.

3. 3

   Daftarkan secret

   Cantumkan requiredSecrets; nilai dibaca dari Secret Manager di handler server.

4. 4

   Registrasi plugin

   registerProviderPlugin(plugin) saat boot server — kode inti tidak berubah.

5. 5

   Kalibrasi

   Jalankan shadow traffic; selection engine memakai skor nyata setelah 100 sampel.

6. 6

   Aktifkan

   Set active: true; model langsung ikut ranking, fallback, dan cost optimizer.

registerProviderPlugin({
  id: "provider-c",
  name: "Provider C Video",
  vendor: "Provider C",
  categories: ["video"],
  models: [/* ModelEntry[] */],
  requiredSecrets: ["PROVIDER_C_API_KEY"],
  adapter: {
    id: "provider-c",
    execute: async (req, model) => ({ ok: true, data: await call(req, model) }),
    mapError: (e) => toCanonicalCode(e),
  },
});