Hur Replikate fakturerar
Replicates tidsbaserade prissättning beror inte på modellen. Oavsett om du genererar en bild med SDXL eller kör Llama 3 beror kostnaden på hårdvarunivån och körtiden. Replicate kan vara värd för tusentals open source-modeller utan ett separat pris för varje modell.
Implementeringen nedan använder också exempel på mätare för nivåerna A40 och A100 (40GB), som Replicates prissida inte längre listar. Skapa en mätare för varje hårdvarunivå du erbjuder.
Varje körning mäts på mätaren för den hårdvara som användes:
- Hårdvaruspecifika priser: Priset per sekund beror på de använda beräkningsresurserna. Varje hårdvarunivå har sin egen prisnivå.
- Ren användningsbaserad modell: Det finns inga månadsavgifter, inga inkluderade kvoter och inga övertrasseringar. Användarna betalar för den exakta beräkningstiden, till exempel “12.4 sekunder på en A100”, inte per generering.
- Precision per sekund: Leverantörer som debiterar per timme eller minut tar betalt för oanvänd tid vid korta uppgifter. Debitering per sekund eliminerar detta slöseri både för små experiment och stora produktionsarbetsbelastningar.
För offentliga modeller debiterar Replicate endast för den tid då en modell aktivt behandlar din begäran. Starttid (cold boot) och inaktiv tid är kostnadsfria. Privata modeller och deployment-körningar använder dedikerad hårdvara, så du betalar för all tid som deras instanser är online: start, inaktivitet och aktiv bearbetning (Replicate-dokumentation om debitering).
Vad gör det unikt
- Hårdvaruspecifik mätning: Samma modell kostar mer på snabbare hårdvara, så användarna väger hastighet mot kostnad. En T4 GPU passar uppgifter som inte är tidskänsliga, medan en A100 passar realtidsapplikationer.
- Precision per sekund: Debiteringen beräknas per sekund, så användarna betalar inte för oanvänd tid vid korta uppgifter.
- Ingen prenumeration: Användarna börjar utan bindning, och kostnaden ökar i takt med användningen. Detta passar startups och utvecklare som provar olika modeller.
- Modellagnostisk: Samma debiteringslogik gäller för bildgenerering, textbearbetning, ljudtranskribering och videosyntes. Plattformen stöder en omfattande modellkatalog utan komplexa pristabeller.
Bygg detta med Dodo Payments
Du kan bygga denna modell med Dodo Payments användningsbaserade debitering. Skapa en mätare per hårdvarunivå och koppla alla till en enda produkt.1
Create Usage Meters (One Per Hardware Class)
Skapa en separat mätare för varje hårdvarunivå. Varje nivå har sitt eget pris per sekund, så separata mätare gör det möjligt för Dodo Payments att prissätta varje nivå och specificera fakturan.
Sum-aggregering över
execution_seconds ger den totala beräkningstiden per hårdvarunivå under debiteringsperioden.2
Create a Usage-Based Product
Skapa en produkt i Dodo Payments dashboard med dessa inställningar:
- Pristyp: Usage Based Billing
- Grundpris: $0/månad (ingen prenumerationsavgift)
- Debiteringsfrekvens: Månadsvis
Ställ in Free Threshold till 0 på varje mätare, så att varje sekund av körningen kan debiteras.
3
Send Usage Events
Skicka en användningshändelse till Dodo Payments när varje modellkörning är klar. Ge varje prediction ett unikt
event_id, så att en omförsökt händelse inte räknas två gånger.4
Measure Execution Time Precisely
Ta tid på varje modellkörning med
performance.now() och avrunda till närmaste tiondels sekund för debiteringen.5
Create Checkout
När en användare registrerar sig skapar du en checkout-session för den användningsbaserade produkten. Dodo Payments debiterar sedan användningen varje period och utfärdar fakturorna.
Accelerera med Time Range Ingestion Blueprint
Time Range Ingestion Blueprint förenklar spårning av beräkning per sekund. Skapa en ingestion-instans per hårdvarunivå och anropatrackTimeRange efter varje körning.
durationMs i metadata. Ställ in varje mätares Over Property på durationMs, eller skicka durationSeconds för att behålla prissättning per sekund. Med en ingestion-instans per hårdvarunivå motsvarar detta direkt Replicates mätning i flera nivåer.
Kostnadsuppskattning för användare
Användningsbaserade fakturor kan vara svåra att förutse, så visa användarna en kostnadsuppskattning innan de kör en modell. Uppskattningar förhindrar oväntade fakturor och bygger förtroende.Exempel på kostnadsberäkningar
Bygg en kostnadskalkylator
Den här funktionen multiplicerar nivåns pris per sekund med den uppskattade körtiden:Enterprise: Reserverad kapacitet
För kunder som behöver dedikerad kapacitet och inga cold boots erbjuder Replicate deployments: dedikerade instanser som debiteras för all tid de är online. Om du vill modellera reserverad kapacitet med Dodo Payments säljer du den som en prenumerationsprodukt:- Produkttyp: Subscription
- Pris: Fast månadspris (till exempel “Reserved A100 Instance - $500/month”)
- Debiteringscykel: Månadsvis
Avancerat: Heartbeat-mätning
För uppgifter som körs i minuter eller timmar är en enda händelse i slutet riskabel: om processen kraschar förlorar du användningsdata. Skicka i stället en användningshändelse var 30:e till 60:e sekund medan uppgiften körs.Viktiga Dodo-funktioner som används
Usage-Based Billing
Konfigurera produkter som debiteras baserat på förbrukning.
Meters
Definiera de mätvärden du vill spåra och debitera för.
Event Ingestion
Skicka användningsdata till Dodo Payments i takt med att den uppstår.
Subscriptions
Hantera återkommande debitering för reserverad kapacitet och Enterprise-planer.
Time Range Blueprint
Spåra beräkning per sekund med hjälpmedel för varaktighet.