Skip to main content
Replicate là một nền tảng để chạy các mô hình machine learning mã nguồn mở trên cloud và là một trong những ví dụ thuần túy nhất về usage-based pricing trong lĩnh vực AI. Không có gói đăng ký hàng tháng và không có mức phí cố định cho mỗi lần chạy mô hình. Hầu hết các mô hình được tính phí theo thời gian compute mà chúng sử dụng, đo theo giây, với mức giá phụ thuộc vào hardware. Một số mô hình được tính phí theo input và output, chẳng hạn như theo mỗi image hoặc token (Replicate pricing). Tính phí theo giây phù hợp với workload AI vì thời gian chạy không thể dự đoán trước. Một người dùng có thể chạy một mô hình nhẹ trong vài giây, trong khi người khác chạy một mô hình generative lớn trong vài phút. Vì giá được tính theo compute đã sử dụng thay vì theo mô hình, chi phí vẫn minh bạch ở mọi quy mô.

Cách Replicate Tính Phí

Cách tính giá theo thời gian của Replicate không phụ thuộc vào mô hình. Dù bạn tạo image bằng SDXL hay chạy Llama 3, hóa đơn đều phụ thuộc vào hardware tier và thời gian chạy. Replicate có thể host hàng nghìn mô hình mã nguồn mở mà không cần mức giá riêng cho từng mô hình. Phần triển khai bên dưới cũng sử dụng các meter mẫu cho các cấp A40 và A100 (40GB), vốn không còn được liệt kê trên trang giá của Replicate. Hãy tạo một meter cho mỗi cấp phần cứng mà bạn cung cấp. Mỗi lần chạy được ghi nhận trên meter tương ứng với hardware đã sử dụng:
  1. Hardware-Specific Rates: Giá theo giây phụ thuộc vào compute resources được sử dụng. Mỗi hardware tier có mức giá riêng.
  2. Pure Usage-Based Model: Không có phí hàng tháng, quota được bao gồm hoặc overage. Người dùng trả tiền cho thời gian compute chính xác, chẳng hạn như “12.4 seconds on an A100”, thay vì trả tiền cho mỗi lần generation.
  3. Per-Second Granularity: Các provider tính phí theo giờ hoặc phút sẽ tính cả thời gian không sử dụng trong những task ngắn. Tính phí theo giây loại bỏ phần lãng phí đó cho cả thử nghiệm nhỏ và workload production lớn.
Đối với public models, Replicate chỉ tính phí cho khoảng thời gian mô hình đang chủ động xử lý request của bạn. Setup (cold boot) và idle time được miễn phí. Private models và deployments chạy trên hardware chuyên dụng, vì vậy bạn trả tiền cho toàn bộ thời gian instance của chúng online: setup, idle và active (Replicate billing docs).

Điều gì khiến mô hình này độc đáo

  • Hardware-specific metering: Cùng một mô hình sẽ tốn nhiều chi phí hơn trên hardware nhanh hơn, vì vậy người dùng cân nhắc giữa tốc độ và chi phí. T4 GPU phù hợp với các task không yêu cầu thời gian phản hồi nhanh, còn A100 phù hợp với các ứng dụng real-time.
  • Per-second granularity: Chi phí được tính đến từng giây, vì vậy người dùng không trả tiền cho thời gian không sử dụng trong các task ngắn.
  • No subscription: Người dùng bắt đầu mà không có cam kết, và chi phí tăng theo usage. Điều này phù hợp với startup và developer đang thử nghiệm các mô hình khác nhau.
  • Model-agnostic: Cùng một logic tính phí được áp dụng cho image generation, text processing, audio transcription và video synthesis. Nền tảng hỗ trợ một model catalog lớn mà không cần các bảng giá phức tạp.

Xây dựng mô hình này với Dodo Payments

Bạn có thể xây dựng mô hình này bằng usage-based billing của Dodo Payments. Tạo một meter cho mỗi hardware tier và đính kèm tất cả các meter đó vào một product duy nhất.
1

Create Usage Meters (One Per Hardware Class)

Tạo một meter riêng cho mỗi hardware tier. Mỗi tier có mức giá theo giây riêng, vì vậy các meter riêng biệt cho phép Dodo Payments định giá từng tier và liệt kê chi tiết trên invoice.Phép aggregation Sum trên execution_seconds cung cấp tổng thời gian compute theo từng hardware tier trong kỳ billing.
2

Create a Usage-Based Product

Tạo một product trong dashboard của Dodo Payments với các cài đặt sau:
  • Pricing type: Usage Based Billing
  • Base Price: $0/month (không có phí subscription)
  • Billing frequency: Monthly
Thêm từng meter cùng với price per unit tương ứng:Đặt Free Threshold thành 0 trên mọi meter để mỗi giây thực thi đều được tính phí.
3

Send Usage Events

Gửi usage event đến Dodo Payments khi mỗi lần chạy mô hình hoàn tất. Cung cấp cho mỗi prediction một event_id duy nhất để event được retry không bị tính hai lần.
4

Measure Execution Time Precisely

Đo thời gian mỗi lần chạy mô hình bằng performance.now() và làm tròn đến một phần mười giây gần nhất để tính phí.
5

Create Checkout

Khi người dùng đăng ký, hãy tạo một checkout session cho usage-based product. Sau đó, Dodo Payments sẽ tính usage theo từng cycle và phát hành invoice.

Tăng tốc với Time Range Ingestion Blueprint

Time Range Ingestion Blueprint rút ngắn việc theo dõi compute theo giây. Tạo một ingestion instance cho mỗi hardware tier và gọi trackTimeRange sau mỗi lần chạy.
Blueprint xây dựng và gửi event, với duration là durationMs trong metadata. Đặt Over Property của mỗi meter thành durationMs hoặc gửi durationSeconds để duy trì việc tính giá theo giây. Với một ingestion instance cho mỗi hardware tier, cấu hình này ánh xạ trực tiếp với multi-tier metering của Replicate.
Đối với các job chạy lâu, hãy kết hợp Time Range Blueprint với việc theo dõi heartbeat dựa trên interval, như được trình bày trong Advanced: Heartbeat Metering. Xem tài liệu đầy đủ về blueprint để biết thêm các pattern.

Ước tính chi phí cho người dùng

Các hóa đơn usage-based có thể khó dự đoán, vì vậy hãy hiển thị cho người dùng một ước tính chi phí trước khi họ chạy mô hình. Ước tính giúp tránh các hóa đơn ngoài dự kiến và xây dựng niềm tin.

Ví dụ tính chi phí

Xây dựng cost calculator

Hàm này nhân rate theo giây của tier với thời gian chạy ước tính:

Enterprise: Reserved Capacity

Đối với những customer cần capacity chuyên dụng và không có cold boot, Replicate cung cấp deployments: các instance chuyên dụng được tính phí trong toàn bộ thời gian chúng online. Để mô hình hóa reserved capacity bằng Dodo Payments, hãy bán dưới dạng subscription product:
  • Product Type: Subscription
  • Price: Fixed monthly price (ví dụ: “Reserved A100 Instance - $500/month”)
  • Billing Cycle: Monthly
Bạn vẫn có thể gửi usage events để monitoring và analytics, trong khi subscription bao phủ chi phí. Khi volume của customer tăng, reserved capacity thường có chi phí thấp hơn pay-as-you-go.

Advanced: Heartbeat Metering

Đối với các task chạy trong vài phút hoặc vài giờ, chỉ gửi một event ở cuối sẽ có rủi ro: nếu process bị crash, bạn sẽ mất usage data. Thay vào đó, hãy gửi usage event sau mỗi 30 đến 60 giây trong khi task đang chạy.

Các tính năng chính của Dodo được sử dụng

Usage-Based Billing

Thiết lập các product tính phí dựa trên consumption.

Meters

Xác định các metric bạn muốn theo dõi và tính phí.

Event Ingestion

Gửi usage data đến Dodo Payments ngay khi phát sinh.

Subscriptions

Quản lý recurring billing cho reserved capacity và các enterprise plan.

Time Range Blueprint

Theo dõi compute theo giây với các duration helper.
Lần sửa đổi cuối 26 tháng 9, 2026