Replicateの課金モデル

Replicateは、オープンソースの機械学習モデルをクラウドで実行するためのプラットフォームであり、AIにおける使用量ベースの料金体系の最も純粋な例の一つです。月額サブスクリプションも、モデル実行ごとの一律料金もありません。ほとんどのモデルでは、使用したコンピューティング時間に対して、秒単位で、ハードウェアに応じた料金が請求されます。一部のモデルでは、入力と出力に基づいて、画像単位やトークン単位などで請求されます（Replicateの料金）。 AIのワークロードでは実行時間が予測できないため、秒単位の請求が適しています。あるユーザーは軽量なモデルを数秒実行し、別のユーザーは大規模な生成モデルを数分実行するかもしれません。料金はモデルではなく使用したコンピューティング量に応じて決まるため、規模にかかわらず透明性が保たれます。

Replicateの請求方法

Replicateの時間ベースの料金は、モデルに依存しません。SDXLで画像を生成する場合でも、Llama 3を実行する場合でも、請求額はハードウェアのティアと実行時間によって決まります。Replicateは、モデルごとに個別の料金を設定することなく、数千種類のオープンソースモデルをホスティングできます。

ハードウェア	1秒あたりの料金	1時間あたりの料金
CPU	$0.000100	$0.36
NVIDIA T4 GPU	$0.000225	$0.81
NVIDIA L40S GPU	$0.000975	$3.51
NVIDIA A100 (80GB) GPU	$0.001400	$5.04
NVIDIA H100 GPU	$0.001525	$5.49

以下の実装では、Replicate の料金ページに現在掲載されていない A40 および A100 (40GB) ティアのメーターも例として使用しています。提供するハードウェアティアごとに1つのメーターを作成してください。各実行は、使用したハードウェアのメーターで計測されます。

ハードウェア固有の料金: 1秒あたりの料金は、使用したコンピューティングリソースによって異なります。ハードウェアの各ティアには固有の料金が設定されています。
純粋な使用量ベースのモデル: 月額料金、含まれるクォータ、超過料金はありません。ユーザーは「A100で12.4秒」のように、生成回数ではなく、正確なコンピューティング時間に対して支払います。
秒単位の粒度: 時間単位または分単位で請求するプロバイダーでは、短いタスクで使用していない時間にも料金がかかります。秒単位の請求により、小規模な実験でも大規模な本番ワークロードでも、この無駄をなくせます。

公開モデルの場合、Replicateはモデルがリクエストを実際に処理している時間に対してのみ請求します。セットアップ（コールドブート）とアイドル時間は無料です。プライベートモデルとデプロイメントは専用ハードウェア上で実行されるため、インスタンスがオンラインになっているすべての時間（セットアップ、アイドル、アクティブ）に対して支払います（Replicateの請求ドキュメント）。

独自性

ハードウェア固有のメータリング: 同じモデルでも、より高速なハードウェアでは料金が高くなるため、ユーザーは速度とコストのバランスを選択できます。時間的な制約がないタスクにはT4 GPUが適しており、リアルタイムアプリケーションにはA100が適しています。
秒単位の粒度: 請求は秒単位で計算されるため、短いタスクで使用していない時間に対して支払う必要がありません。
サブスクリプションなし: ユーザーは契約なしで開始でき、コストは使用量に応じて増減します。これは、さまざまなモデルを試すスタートアップや開発者に適しています。
モデルに依存しない: 同じ請求ロジックが、画像生成、テキスト処理、音声文字起こし、動画合成に適用されます。複雑な料金表を用意することなく、多数のモデルを含むカタログをサポートできます。

Dodo Paymentsで構築する

Dodo Paymentsの使用量ベースの請求を使って、このモデルを構築できます。ハードウェアの各ティアに1つずつメーターを作成し、それらをすべて1つのプロダクトに関連付けます。

Create Usage Meters (One Per Hardware Class)

ハードウェアの各ティアに個別のメーターを作成します。各ティアには固有の1秒あたりの料金があるため、個別のメーターによってDodo Paymentsは各ティアに適切な料金を設定し、請求書に明細を記載できます。

メーター名	イベント名	集計	プロパティ
CPU Compute	`compute.cpu`	Sum	`execution_seconds`
GPU T4 Compute	`compute.gpu_t4`	Sum	`execution_seconds`
GPU A40 Compute	`compute.gpu_a40`	Sum	`execution_seconds`
GPU A40 Large Compute	`compute.gpu_a40_large`	Sum	`execution_seconds`
GPU A100 40GB Compute	`compute.gpu_a100_40`	Sum	`execution_seconds`
GPU A100 80GB Compute	`compute.gpu_a100_80`	Sum	`execution_seconds`

execution_seconds に対して Sum 集計を行うと、請求期間中のハードウェアティアごとの合計コンピューティング時間が得られます。

Create a Usage-Based Product

次の設定でDodo Paymentsダッシュボードにプロダクトを作成します。

料金タイプ: Usage Based Billing
基本料金: $0/月（サブスクリプション料金なし）
請求頻度: Monthly

各メーターに、単位あたりの料金を設定して追加します。

メーター	単位あたりの料金（1秒あたり）
compute.cpu	$0.000100
compute.gpu_t4	$0.000225
compute.gpu_a40	$0.000575
compute.gpu_a40_large	$0.000725
compute.gpu_a100_40	$0.001150
compute.gpu_a100_80	$0.001400

すべてのメーターの Free Threshold を0に設定し、実行時間の1秒ごとに請求できるようにします。

Send Usage Events

各モデルの実行が完了したら、Dodo Paymentsに使用量イベントを送信します。再試行されたイベントが二重にカウントされないよう、各予測に一意のevent_idを付与します。

import DodoPayments from 'dodopayments';

type HardwareTier = 'cpu' | 'gpu_t4' | 'gpu_a40' | 'gpu_a40_large' | 'gpu_a100_40' | 'gpu_a100_80';

const client = new DodoPayments({
  bearerToken: process.env.DODO_PAYMENTS_API_KEY,
});

async function trackModelExecution(
  customerId: string,
  modelId: string,
  hardware: HardwareTier,
  executionSeconds: number,
  predictionId: string
) {
  const eventName = `compute.${hardware}`;

  await client.usageEvents.ingest({
    events: [{
      event_id: `pred_${predictionId}`,
      customer_id: customerId,
      event_name: eventName,
      timestamp: new Date().toISOString(),
      metadata: {
        execution_seconds: executionSeconds,
        model_id: modelId,
        hardware: hardware
      }
    }]
  });
}

// Example: SDXL image generation on A100
await trackModelExecution(
  'cus_abc123',
  'stability-ai/sdxl',
  'gpu_a100_80',
  8.3,  // 8.3 seconds of A100 time
  'pred_xyz789'
);

Measure Execution Time Precisely

performance.now()で各モデルの実行時間を計測し、請求用に0.1秒単位で四捨五入します。

// executeModel is your application's own function that runs the model.
async function runModelWithMetering(
  customerId: string,
  modelId: string,
  hardware: HardwareTier,
  input: Record<string, unknown>
) {
  const predictionId = `pred_${Date.now()}`;
  const startTime = performance.now();

  try {
    const result = await executeModel(modelId, input, hardware);
    const executionSeconds = (performance.now() - startTime) / 1000;
    const billedSeconds = Math.round(executionSeconds * 10) / 10;

    await trackModelExecution(
      customerId,
      modelId,
      hardware,
      billedSeconds,
      predictionId
    );

    return result;
  } catch (error) {
    // This example bills compute time for failed runs longer than 1 second.
    // Replicate doesn't charge for failed runs on public models; remove this block to match.
    const executionSeconds = (performance.now() - startTime) / 1000;
    if (executionSeconds > 1) {
      await trackModelExecution(
        customerId,
        modelId,
        hardware,
        Math.round(executionSeconds * 10) / 10,
        predictionId
      );
    }
    throw error;
  }
}

Create Checkout

ユーザーがサインアップしたら、使用量ベースのプロダクトのチェックアウトセッションを作成します。その後、Dodo Paymentsが各サイクルで使用量を請求し、請求書を発行します。

const session = await client.checkoutSessions.create({
  product_cart: [
    { product_id: 'pdt_compute_payg', quantity: 1 }
  ],
  customer: { email: 'ml-engineer@example.com' },
  return_url: 'https://yourplatform.com/dashboard'
});

Time Range Ingestion Blueprintで高速化する

Time Range Ingestion Blueprintを使用すると、秒単位のコンピューティング追跡を簡略化できます。ハードウェアの各ティアに1つずつ取り込みインスタンスを作成し、各実行後にtrackTimeRangeを呼び出します。

npm install @dodopayments/ingestion-blueprints

import { Ingestion, trackTimeRange } from '@dodopayments/ingestion-blueprints';

// Create one ingestion instance per hardware tier
function createHardwareIngestion(hardware: string) {
  return new Ingestion({
    apiKey: process.env.DODO_PAYMENTS_API_KEY,
    environment: 'live_mode',
    eventName: `compute.${hardware}`,
  });
}

const ingestions: Record<string, Ingestion> = {
  cpu: createHardwareIngestion('cpu'),
  gpu_t4: createHardwareIngestion('gpu_t4'),
  gpu_a40: createHardwareIngestion('gpu_a40'),
  gpu_a40_large: createHardwareIngestion('gpu_a40_large'),
  gpu_a100_40: createHardwareIngestion('gpu_a100_40'),
  gpu_a100_80: createHardwareIngestion('gpu_a100_80'),
};

// executeModel, modelId, input, hardware, and customerId come from your application.
const startTime = performance.now();
const result = await executeModel(modelId, input, hardware);
const durationMs = performance.now() - startTime;

await trackTimeRange(ingestions[hardware], {
  customerId: customerId,
  durationMs: durationMs,
  metadata: {
    model_id: modelId,
    hardware: hardware,
  },
});

このBlueprintはイベントを作成して送信し、期間をメタデータ内のdurationMsとして記録します。各メーターの Over Property をdurationMsに設定するか、durationSecondsを送信して秒単位の料金を維持します。ハードウェアの各ティアに1つずつ取り込みインスタンスを用意することで、Replicateのマルチティアメータリングに直接対応できます。

長時間実行されるジョブでは、Time Range Blueprintを、Advanced: Heartbeat Meteringに示すインターバルベースのハートビート追跡と組み合わせます。その他のパターンについては、Blueprintの完全なドキュメントを参照してください。

ユーザー向けのコスト見積もり

使用量ベースの請求額は予測しにくい場合があるため、モデルを実行する前にユーザーへコストの見積もりを提示します。見積もりによって予想外の請求を防ぎ、信頼を築けます。

コスト計算の例

モデル	ハードウェア	平均時間	1回の実行コスト
SDXL（画像）	A100 80GB	約8秒	約$0.0112
Llama 3（テキスト）	A100 40GB	約3秒	約$0.0035
Whisper（音声）	GPU T4	約15秒	約$0.0034

コスト計算ツールの構築

この関数は、ティアの1秒あたりの料金に推定実行時間を掛け合わせます。

function estimateCost(hardware: HardwareTier, estimatedSeconds: number): number {
  const rates: Record<HardwareTier, number> = {
    'cpu': 0.000100,
    'gpu_t4': 0.000225,
    'gpu_a40': 0.000575,
    'gpu_a40_large': 0.000725,
    'gpu_a100_40': 0.001150,
    'gpu_a100_80': 0.001400
  };

  return Number((rates[hardware] * estimatedSeconds).toFixed(4));
}

// Show the user before running: "This will cost approximately $0.0119"
const estimate = estimateCost('gpu_a100_80', 8.5);

エンタープライズ: 予約済みキャパシティ

専用キャパシティとコールドブートのない環境を必要とする顧客向けに、Replicateはデプロイメントを提供しています。これは、オンラインになっている全時間に対して請求される専用インスタンスです。 Dodo Paymentsで予約済みキャパシティをモデル化するには、サブスクリプションプロダクトとして販売します。

プロダクトタイプ: Subscription
料金: 固定月額料金（例: 「Reserved A100 Instance - $500/month」）
請求サイクル: Monthly

サブスクリプションでコストをカバーしながら、監視と分析のために使用量イベントを引き続き送信できます。顧客の使用量が増えるにつれて、予約済みキャパシティのほうが従量課金よりも低コストになることがよくあります。

Advanced: Heartbeat Metering

数分または数時間実行されるタスクでは、最後に1つのイベントだけを送信するのは危険です。プロセスがクラッシュすると、使用量データが失われるためです。その代わり、タスクの実行中は30～60秒ごとに使用量イベントを送信します。

// executeLongTask is your application's own function. trackModelExecution is defined above.
async function runLongTaskWithHeartbeat(
  customerId: string,
  modelId: string,
  hardware: HardwareTier
) {
  const predictionId = `pred_${Date.now()}`;
  let totalSeconds = 0;

  const heartbeatInterval = setInterval(async () => {
    try {
      await trackModelExecution(
        customerId,
        modelId,
        hardware,
        30,
        `${predictionId}_${totalSeconds}`
      );
      totalSeconds += 30;
    } catch (error) {
      console.error('Heartbeat tracking failed:', error, { predictionId, totalSeconds });
    }
  }, 30000);

  try {
    await executeLongTask();
  } finally {
    clearInterval(heartbeatInterval);
  }
}

使用するDodoの主な機能

Usage-Based Billing

消費量に基づいて請求するプロダクトを設定します。

Meters

追跡および請求するメトリクスを定義します。

Event Ingestion

発生した使用量データをDodo Paymentsに送信します。

Subscriptions

予約済みキャパシティとエンタープライズプランの定期請求を管理します。

Time Range Blueprint

期間ヘルパーを使用して、秒単位のコンピューティングを追跡します。

Integration Guides

Billing Deconstructions

Cookbooks

Replicateの請求方法

独自性

Dodo Paymentsで構築する

Time Range Ingestion Blueprintで高速化する

ユーザー向けのコスト見積もり

コスト計算の例

コスト計算ツールの構築

エンタープライズ: 予約済みキャパシティ

Advanced: Heartbeat Metering

使用するDodoの主な機能

Usage-Based Billing

Meters

Event Ingestion

Subscriptions

Time Range Blueprint

​Replicateの請求方法

​独自性

​Dodo Paymentsで構築する

​Time Range Ingestion Blueprintで高速化する

​ユーザー向けのコスト見積もり

​コスト計算の例

​コスト計算ツールの構築

​エンタープライズ: 予約済みキャパシティ

​Advanced: Heartbeat Metering

​使用するDodoの主な機能

Usage-Based Billing

Meters

Event Ingestion

Subscriptions

Time Range Blueprint

Replicateの請求方法

独自性

Dodo Paymentsで構築する

Time Range Ingestion Blueprintで高速化する

ユーザー向けのコスト見積もり

コスト計算の例

コスト計算ツールの構築

エンタープライズ: 予約済みキャパシティ

Advanced: Heartbeat Metering

使用するDodoの主な機能