Bagaimana Replicate Menagih
Pricing berbasis waktu Replicate tidak bergantung pada model. Baik Anda membuat gambar dengan SDXL maupun menjalankan Llama 3, tagihan bergantung pada hardware tier dan durasi run. Replicate dapat meng-host ribuan model open-source tanpa harga terpisah untuk masing-masing model.
Implementasi di bawah ini juga menggunakan contoh meter untuk tier A40 dan A100 (40GB), yang tidak lagi tercantum di halaman harga Replicate. Buat satu meter untuk setiap tier perangkat keras yang Anda tawarkan.
Setiap run diukur pada meter untuk hardware yang digunakannya:
- Hardware-Specific Rates: Harga per detik bergantung pada resource compute yang digunakan. Setiap hardware tier memiliki tarifnya sendiri.
- Pure Usage-Based Model: Tidak ada biaya bulanan, kuota yang disertakan, atau biaya tambahan. Pengguna membayar waktu compute yang benar-benar digunakan, misalnya “12.4 seconds on an A100”, bukan per generasi.
- Per-Second Granularity: Provider yang menagih per jam atau per menit akan mengenakan biaya untuk waktu yang tidak digunakan pada task singkat. Penagihan per detik menghilangkan pemborosan tersebut, baik untuk eksperimen kecil maupun workload production berskala besar.
Untuk model publik, Replicate hanya menagih waktu ketika model secara aktif memproses request Anda. Setup (cold boot) dan waktu idle gratis. Model privat dan deployment berjalan pada hardware khusus, sehingga Anda membayar seluruh waktu instance tersebut online: setup, idle, dan aktif (Replicate billing docs).
Apa yang Membuatnya Unik
- Hardware-specific metering: Model yang sama berbiaya lebih tinggi pada hardware yang lebih cepat, sehingga pengguna menukar kecepatan dengan biaya. GPU T4 cocok untuk task yang tidak sensitif terhadap waktu, sedangkan A100 cocok untuk aplikasi real-time.
- Per-second granularity: Penagihan dihitung hingga satuan detik, sehingga pengguna tidak membayar waktu yang tidak digunakan pada task singkat.
- No subscription: Pengguna dapat memulai tanpa komitmen, dan biaya meningkat sesuai penggunaan. Ini cocok untuk startup dan developer yang sedang mencoba berbagai model.
- Model-agnostic: Logika billing yang sama berlaku untuk image generation, text processing, audio transcription, dan video synthesis. Platform ini mendukung katalog model yang besar tanpa tabel pricing yang kompleks.
Bangun Ini dengan Dodo Payments
Anda dapat membangun model ini dengan usage-based billing Dodo Payments. Buat satu meter untuk setiap hardware tier dan hubungkan semuanya ke satu produk.1
Create Usage Meters (One Per Hardware Class)
Buat meter terpisah untuk setiap hardware tier. Setiap tier memiliki harga per detik sendiri, sehingga meter terpisah memungkinkan Dodo Payments menetapkan harga untuk setiap tier dan merinci invoice.
Agregasi Sum atas
execution_seconds memberikan total waktu compute per hardware tier untuk periode billing.2
Create a Usage-Based Product
Buat produk di dashboard Dodo Payments dengan pengaturan berikut:
- Pricing type: Usage Based Billing
- Base Price: $0/month (tanpa biaya langganan)
- Billing frequency: Monthly
Atur Free Threshold menjadi 0 pada setiap meter, sehingga setiap detik eksekusi dapat ditagihkan.
3
Send Usage Events
Kirim usage event ke Dodo Payments setiap kali model run selesai. Berikan setiap prediction
event_id yang unik, sehingga event yang dicoba ulang tidak dihitung dua kali.4
Measure Execution Time Precisely
Ukur durasi setiap model run dengan
performance.now(), lalu bulatkan ke sepersepuluh detik terdekat untuk billing.5
Create Checkout
Saat pengguna mendaftar, buat checkout session untuk produk berbasis penggunaan. Dodo Payments kemudian menagih penggunaan setiap cycle dan menerbitkan invoice.
Percepat dengan Time Range Ingestion Blueprint
Time Range Ingestion Blueprint mempersingkat tracking compute per detik. Buat satu ingestion instance untuk setiap hardware tier, lalu panggiltrackTimeRange setelah setiap run.
durationMs dalam metadata. Atur Over Property setiap meter ke durationMs, atau kirim durationSeconds untuk mempertahankan pricing per detik. Dengan satu ingestion instance untuk setiap hardware tier, konfigurasi ini langsung memetakan multi-tier metering Replicate.
Estimasi Biaya untuk Pengguna
Tagihan berbasis penggunaan dapat sulit diprediksi, jadi tampilkan estimasi biaya kepada pengguna sebelum mereka menjalankan model. Estimasi mencegah tagihan tak terduga dan membangun kepercayaan.Contoh Perhitungan Biaya
Membangun Cost Calculator
Fungsi ini mengalikan tarif per detik tier dengan estimasi durasi run:Enterprise: Reserved Capacity
Untuk pelanggan yang membutuhkan kapasitas khusus tanpa cold boot, Replicate menawarkan deployment: instance khusus yang ditagihkan selama seluruh waktu instance tersebut online. Untuk memodelkan reserved capacity dengan Dodo Payments, jual sebagai produk langganan:- Product Type: Subscription
- Price: Fixed monthly price (misalnya, “Reserved A100 Instance - $500/month”)
- Billing Cycle: Monthly
Advanced: Heartbeat Metering
Untuk task yang berjalan selama beberapa menit atau jam, satu event di akhir berisiko: jika proses gagal, Anda kehilangan data penggunaan. Sebagai gantinya, kirim usage event setiap 30 hingga 60 detik selama task berjalan.Fitur Utama Dodo yang Digunakan
Usage-Based Billing
Siapkan produk yang ditagih berdasarkan konsumsi.
Meters
Tentukan metrik yang ingin Anda lacak dan tagihkan.
Event Ingestion
Kirim data penggunaan ke Dodo Payments saat penggunaan terjadi.
Subscriptions
Kelola recurring billing untuk reserved capacity dan paket enterprise.
Time Range Blueprint
Tracking compute per detik dengan duration helper.