Skip to main content

Screen a Prompt

Gửi văn bản, hình ảnh hoặc cả hai, rồi nhận kết quả.

Get Moderation Usage

Xem số lượt kiểm tra tính phí và khoản phí tiếp theo của bạn.

Tổng quan

Moderation API kiểm tra dữ liệu đầu vào của người dùng trước khi sản phẩm AI của bạn tạo nội dung từ dữ liệu đó. Bạn gửi văn bản của prompt, một hình ảnh hoặc cả hai, và Dodo Payments trả về kết quả allow, flag hoặc deny, cùng với điểm số cho từng danh mục nội dung. Sử dụng API này trước bất kỳ model tạo hình ảnh, video hoặc văn bản nào nhận dữ liệu đầu vào từ người dùng. Theo mặc định, Moderation API được bật cho mọi doanh nghiệp và hoạt động với API key Dodo Payments hiện có của bạn, vì vậy bạn không cần đăng ký thêm. Dodo Payments có thể tắt API này cho một doanh nghiệp cụ thể; khi đó, các lệnh gọi sẽ trả về 403 cùng với MODERATION_DISABLED.

Vì sao chúng tôi xây dựng Moderation API

Sản phẩm tạo nội dung bằng AI tạo ra nội dung mới từ bất kỳ điều gì người dùng nhập. Bạn không thể tự kiểm tra từng prompt, và chỉ một kết quả có hại cũng có thể khiến doanh nghiệp của bạn gặp rủi ro. Với vai trò Merchant of Record của bạn, Dodo Payments chịu trách nhiệm pháp lý và danh tiếng đối với những gì được bán trên nền tảng. Merchant Acceptance Policy xem xét các công cụ tạo nội dung bằng AI và không cho phép hành vi mạo danh, deepfake hoặc nội dung khiêu dâm, bao gồm cả nội dung do AI tạo. Tài khoản tạo nội dung có hại, có quá nhiều chargeback hoặc nhận cờ từ các đối tác thanh toán có thể bị xem xét hoặc đình chỉ. Chúng tôi xây dựng Moderation API để bạn có thể ngăn nội dung này trước khi model tạo ra nội dung đó:
  • Kiểm tra trước khi tạo. Prompt bị chặn sẽ không bao giờ đến được model của bạn, vì vậy không tạo ra kết quả có hại và bạn không tốn tài nguyên tính toán cho prompt đó.
  • Bao quát các danh mục quan trọng đối với việc tạo nội dung. Bộ kiểm tra chấm điểm 17 danh mục, bao gồm hình ảnh giống người thật, hình ảnh thân mật không có sự đồng thuận, ngôn ngữ ám chỉ người chưa thành niên và sự kết hợp giữa người thật với nội dung tình dục, vốn là dấu hiệu của deepfake tình dục.
  • Tích hợp mà không cần nhà cung cấp khác. API hoạt động với API key Dodo Payments của bạn và phí được khấu trừ từ số dư. Không có hợp đồng, hóa đơn hoặc tài khoản riêng.
  • Bảo mật nội dung người dùng. Dodo Payments không lưu trữ hoặc ghi log văn bản và hình ảnh bạn kiểm tra.
Moderation API là công cụ để bạn tự thực thi chính sách. API này không thay thế Merchant Acceptance Policy và bạn vẫn chịu trách nhiệm về nội dung mà sản phẩm tạo ra.

Cách hoạt động

Gọi Moderation API từ backend sau khi người dùng gửi prompt và trước khi model của bạn chạy: Mỗi lệnh gọi là một lượt kiểm tra. Văn bản và hình ảnh được gửi trong cùng một lệnh gọi được tính là một lượt kiểm tra.

Kết quả

Trường decision chứa kết quả:
Không tạo nội dung khi bạn không nhận được kết quả. 503 có nghĩa là Dodo Payments không thể đưa ra kết quả, và timeout hoặc lỗi mạng cũng khiến bạn không có kết quả. Hãy xem tất cả các trường hợp này là bị chặn và yêu cầu người dùng thử lại.

Kiểm tra prompt

Để kiểm tra prompt, gửi yêu cầu POST đến /moderation/screen với ít nhất một trong hai trường text và image. Yêu cầu chấp nhận ba trường: TypeScript và Python SDK cung cấp endpoint dưới dạng client.moderation.screen(). Ví dụ này chặn việc tạo nội dung khi nhận deny, flag hoặc bất kỳ lỗi nào:
Các ví dụ gọi live mode vì chỉ live mode mới chạy moderation model. Test mode trả về mock verdicts và không bao giờ kiểm tra nội dung. Lượt kiểm tra trong live mode được tính phí.
Ví dụ xem flag giống như deny. Nếu sản phẩm của bạn cho phép một số nội dung bị gắn cờ, hãy kiểm tra triggered để quyết định theo từng danh mục.
Hãy kiểm tra văn bản do người dùng viết, không phải prompt template mà bạn bọc bên ngoài. Template của riêng bạn giống nhau trong mọi lệnh gọi và không bổ sung gì cho lượt kiểm tra.

Kiểm tra hình ảnh

Gửi hình ảnh để kiểm tra hình ảnh tham chiếu được tải lên hoặc hình ảnh được tạo trước khi hiển thị cho người dùng. Hình ảnh phải đáp ứng các yêu cầu sau:
  • Định dạng là JPEG, PNG, WebP, GIF hoặc BMP.
  • Chuỗi base64 có tối đa 6.991.530 ký tự và hình ảnh sau khi giải mã có kích thước tối đa 5 MiB.
  • Hình ảnh là một khung hình tĩnh duy nhất. Hình ảnh GIF và WebP động sẽ bị từ chối.
  • Cạnh dài nhất có ít nhất 32 pixel.
Hình ảnh không vượt qua một trong các bước kiểm tra này sẽ trả về 400 với MODERATION_INVALID_IMAGE, hoặc 413 với MODERATION_INPUT_TOO_LARGE khi hình ảnh quá lớn. Để kiểm tra hình ảnh, đọc tệp, mã hóa tệp dưới dạng base64 và gửi trong image. Để kiểm tra hình ảnh cùng prompt, gửi cả text và image trong cùng một lệnh gọi. Lượt này được tính là một lượt kiểm tra. Ví dụ này sử dụng client từ ví dụ trước:
Xử lý lỗi từ lượt kiểm tra hình ảnh giống như lượt kiểm tra văn bản: nếu lệnh gọi phát sinh lỗi, không tạo nội dung.

Đọc phản hồi

Phản hồi trả về kết quả và bằng chứng phía sau kết quả đó: Dựa trên logic của bạn vào decision và triggered. Mỗi danh mục có ngưỡng riêng, vì vậy một ngưỡng điểm duy nhất trong code sẽ không khớp với kết quả.

Danh mục

Mỗi phản hồi chấm điểm nội dung theo 17 danh mục:

Xử lý lỗi

Lỗi trả về phần nội dung lỗi tiêu chuẩn của Dodo Payments cùng với code và message. Không lỗi nào là kết quả, vì vậy không lỗi nào cho phép tạo nội dung: SDK mặc định thử lại 429 hoặc 503 hai lần và chờ Retry-After giữa các lần thử. Khi hết số lần thử, SDK sẽ phát sinh lỗi và code của bạn phải chặn yêu cầu.

Kiểm thử tích hợp

Test mode trả về kết quả mô phỏng và không bao giờ gọi moderation model, vì vậy bạn có thể kiểm thử luồng xử lý mà không mất phí. Gửi yêu cầu đến https://test.dodopayments.com bằng API key của test mode. Kết quả mô phỏng mặc định là allow. Để nhận kết quả khác, đặt một trong các chuỗi sau ở bất kỳ vị trí nào trong text: Kết quả mô phỏng có ghi chú cho biết đó là kết quả mô phỏng và tất cả điểm số danh mục đều là 0. Test mode áp dụng cùng quy trình xác thực yêu cầu như live mode. Đối với hình ảnh, chế độ này kiểm tra encoding base64 và định dạng, nhưng không kiểm tra số khung hình hoặc kích thước. Trước khi chuyển sang live mode, hãy xác nhận tích hợp của bạn xử lý từng trường hợp sau:
1

Deny Blocks Generation

Gửi dodo_mock_deny và xác nhận model của bạn không được gọi.
2

Flag Follows Your Policy

Gửi dodo_mock_flag và xác nhận sản phẩm của bạn thực hiện đúng chính sách.
3

Overload Retries

Gửi dodo_mock_overloaded và xác nhận code chờ Retry-After cũng như không tạo nội dung khi chưa có kết quả.
4

An Outage Blocks Generation

Gửi dodo_mock_not_ready và xác nhận model của bạn không được gọi.
5

Every Generation Path Screens

Kiểm tra để bảo đảm mọi luồng code dẫn đến model đều gọi Moderation API trước.

Định giá và tính phí

Moderation API có giá 0,30 USD cho mỗi 1.000 lượt kiểm tra tính phí. Không có gói miễn phí và không có mức tối thiểu. Lượt kiểm tra tính phí là lượt kiểm tra trong live mode trả về kết quả. Các lượt sau được miễn phí và không được tính:
  • Lượt kiểm tra trong test mode.
  • Lượt kiểm tra trả về lỗi, bao gồm 429 và 503.
Dodo Payments tính phí theo các khối đủ 1.000 lượt kiểm tra. Mỗi khối hoàn chỉnh được tính phí trong vòng một giờ, còn các lượt chưa đủ một khối sẽ chưa bị tính phí cho đến khi đủ. Phí được khấu trừ từ số dư USD của bạn và xuất hiện trong balance ledger với event type moderation_fees. Payouts hiển thị khoản phí này dưới Moderation Fees.

Theo dõi mức sử dụng

Để xem mức sử dụng, gọi GET /moderation/usage. Phản hồi trả về:
Test mode không ghi nhận lượt kiểm tra, vì vậy usage endpoint không trả về hoạt động nào của test mode.

Quyền truy cập và quyền riêng tư

Việc kiểm tra yêu cầu API key có quyền ghi. Mọi API key, bao gồm key chỉ đọc, đều có thể đọc mức sử dụng. Xem Authentication để biết cách tạo key và đặt cấp độ truy cập. Dodo Payments không lưu trữ văn bản hoặc hình ảnh bạn kiểm tra và không ghi chúng vào log. Với mỗi lượt kiểm tra trong live mode, hệ thống lưu thời gian, kết quả và request_id của bạn để báo cáo tính phí và mức sử dụng.

Usage-Based Billing

Tính phí khách hàng của bạn cho mỗi lần tạo nội dung.

Credit-Based Billing

Bán credit tạo nội dung và khấu trừ credit theo mỗi lần sử dụng.
Lần sửa đổi cuối 26 tháng 9, 2026