Cách Replicate Tính Phí
Cách tính giá theo thời gian của Replicate không phụ thuộc vào mô hình. Dù bạn tạo image bằng SDXL hay chạy Llama 3, hóa đơn đều phụ thuộc vào hardware tier và thời gian chạy. Replicate có thể host hàng nghìn mô hình mã nguồn mở mà không cần mức giá riêng cho từng mô hình.
Phần triển khai bên dưới cũng sử dụng các meter mẫu cho các cấp A40 và A100 (40GB), vốn không còn được liệt kê trên trang giá của Replicate. Hãy tạo một meter cho mỗi cấp phần cứng mà bạn cung cấp.
Mỗi lần chạy được ghi nhận trên meter tương ứng với hardware đã sử dụng:
- Hardware-Specific Rates: Giá theo giây phụ thuộc vào compute resources được sử dụng. Mỗi hardware tier có mức giá riêng.
- Pure Usage-Based Model: Không có phí hàng tháng, quota được bao gồm hoặc overage. Người dùng trả tiền cho thời gian compute chính xác, chẳng hạn như “12.4 seconds on an A100”, thay vì trả tiền cho mỗi lần generation.
- Per-Second Granularity: Các provider tính phí theo giờ hoặc phút sẽ tính cả thời gian không sử dụng trong những task ngắn. Tính phí theo giây loại bỏ phần lãng phí đó cho cả thử nghiệm nhỏ và workload production lớn.
Đối với public models, Replicate chỉ tính phí cho khoảng thời gian mô hình đang chủ động xử lý request của bạn. Setup (cold boot) và idle time được miễn phí. Private models và deployments chạy trên hardware chuyên dụng, vì vậy bạn trả tiền cho toàn bộ thời gian instance của chúng online: setup, idle và active (Replicate billing docs).
Điều gì khiến mô hình này độc đáo
- Hardware-specific metering: Cùng một mô hình sẽ tốn nhiều chi phí hơn trên hardware nhanh hơn, vì vậy người dùng cân nhắc giữa tốc độ và chi phí. T4 GPU phù hợp với các task không yêu cầu thời gian phản hồi nhanh, còn A100 phù hợp với các ứng dụng real-time.
- Per-second granularity: Chi phí được tính đến từng giây, vì vậy người dùng không trả tiền cho thời gian không sử dụng trong các task ngắn.
- No subscription: Người dùng bắt đầu mà không có cam kết, và chi phí tăng theo usage. Điều này phù hợp với startup và developer đang thử nghiệm các mô hình khác nhau.
- Model-agnostic: Cùng một logic tính phí được áp dụng cho image generation, text processing, audio transcription và video synthesis. Nền tảng hỗ trợ một model catalog lớn mà không cần các bảng giá phức tạp.
Xây dựng mô hình này với Dodo Payments
Bạn có thể xây dựng mô hình này bằng usage-based billing của Dodo Payments. Tạo một meter cho mỗi hardware tier và đính kèm tất cả các meter đó vào một product duy nhất.1
Create Usage Meters (One Per Hardware Class)
Tạo một meter riêng cho mỗi hardware tier. Mỗi tier có mức giá theo giây riêng, vì vậy các meter riêng biệt cho phép Dodo Payments định giá từng tier và liệt kê chi tiết trên invoice.
Phép aggregation Sum trên
execution_seconds cung cấp tổng thời gian compute theo từng hardware tier trong kỳ billing.2
Create a Usage-Based Product
Tạo một product trong dashboard của Dodo Payments với các cài đặt sau:
- Pricing type: Usage Based Billing
- Base Price: $0/month (không có phí subscription)
- Billing frequency: Monthly
Đặt Free Threshold thành 0 trên mọi meter để mỗi giây thực thi đều được tính phí.
3
Send Usage Events
Gửi usage event đến Dodo Payments khi mỗi lần chạy mô hình hoàn tất. Cung cấp cho mỗi prediction một
event_id duy nhất để event được retry không bị tính hai lần.4
Measure Execution Time Precisely
Đo thời gian mỗi lần chạy mô hình bằng
performance.now() và làm tròn đến một phần mười giây gần nhất để tính phí.5
Create Checkout
Khi người dùng đăng ký, hãy tạo một checkout session cho usage-based product. Sau đó, Dodo Payments sẽ tính usage theo từng cycle và phát hành invoice.
Tăng tốc với Time Range Ingestion Blueprint
Time Range Ingestion Blueprint rút ngắn việc theo dõi compute theo giây. Tạo một ingestion instance cho mỗi hardware tier và gọitrackTimeRange sau mỗi lần chạy.
durationMs trong metadata. Đặt Over Property của mỗi meter thành durationMs hoặc gửi durationSeconds để duy trì việc tính giá theo giây. Với một ingestion instance cho mỗi hardware tier, cấu hình này ánh xạ trực tiếp với multi-tier metering của Replicate.
Ước tính chi phí cho người dùng
Các hóa đơn usage-based có thể khó dự đoán, vì vậy hãy hiển thị cho người dùng một ước tính chi phí trước khi họ chạy mô hình. Ước tính giúp tránh các hóa đơn ngoài dự kiến và xây dựng niềm tin.Ví dụ tính chi phí
Xây dựng cost calculator
Hàm này nhân rate theo giây của tier với thời gian chạy ước tính:Enterprise: Reserved Capacity
Đối với những customer cần capacity chuyên dụng và không có cold boot, Replicate cung cấp deployments: các instance chuyên dụng được tính phí trong toàn bộ thời gian chúng online. Để mô hình hóa reserved capacity bằng Dodo Payments, hãy bán dưới dạng subscription product:- Product Type: Subscription
- Price: Fixed monthly price (ví dụ: “Reserved A100 Instance - $500/month”)
- Billing Cycle: Monthly
Advanced: Heartbeat Metering
Đối với các task chạy trong vài phút hoặc vài giờ, chỉ gửi một event ở cuối sẽ có rủi ro: nếu process bị crash, bạn sẽ mất usage data. Thay vào đó, hãy gửi usage event sau mỗi 30 đến 60 giây trong khi task đang chạy.Các tính năng chính của Dodo được sử dụng
Usage-Based Billing
Thiết lập các product tính phí dựa trên consumption.
Meters
Xác định các metric bạn muốn theo dõi và tính phí.
Event Ingestion
Gửi usage data đến Dodo Payments ngay khi phát sinh.
Subscriptions
Quản lý recurring billing cho reserved capacity và các enterprise plan.
Time Range Blueprint
Theo dõi compute theo giây với các duration helper.