Screen a Prompt
Gửi văn bản, hình ảnh hoặc cả hai, rồi nhận kết quả.
Get Moderation Usage
Xem số lượt kiểm tra tính phí và khoản phí tiếp theo của bạn.
Tổng quan
Moderation API kiểm tra dữ liệu đầu vào của người dùng trước khi sản phẩm AI của bạn tạo nội dung từ dữ liệu đó. Bạn gửi văn bản của prompt, một hình ảnh hoặc cả hai, và Dodo Payments trả về kết quảallow, flag hoặc deny, cùng với điểm số cho từng danh mục nội dung.
Sử dụng API này trước bất kỳ model tạo hình ảnh, video hoặc văn bản nào nhận dữ liệu đầu vào từ người dùng. Theo mặc định, Moderation API được bật cho mọi doanh nghiệp và hoạt động với API key Dodo Payments hiện có của bạn, vì vậy bạn không cần đăng ký thêm. Dodo Payments có thể tắt API này cho một doanh nghiệp cụ thể; khi đó, các lệnh gọi sẽ trả về 403 cùng với MODERATION_DISABLED.
Vì sao chúng tôi xây dựng Moderation API
Sản phẩm tạo nội dung bằng AI tạo ra nội dung mới từ bất kỳ điều gì người dùng nhập. Bạn không thể tự kiểm tra từng prompt, và chỉ một kết quả có hại cũng có thể khiến doanh nghiệp của bạn gặp rủi ro. Với vai trò Merchant of Record của bạn, Dodo Payments chịu trách nhiệm pháp lý và danh tiếng đối với những gì được bán trên nền tảng. Merchant Acceptance Policy xem xét các công cụ tạo nội dung bằng AI và không cho phép hành vi mạo danh, deepfake hoặc nội dung khiêu dâm, bao gồm cả nội dung do AI tạo. Tài khoản tạo nội dung có hại, có quá nhiều chargeback hoặc nhận cờ từ các đối tác thanh toán có thể bị xem xét hoặc đình chỉ. Chúng tôi xây dựng Moderation API để bạn có thể ngăn nội dung này trước khi model tạo ra nội dung đó:- Kiểm tra trước khi tạo. Prompt bị chặn sẽ không bao giờ đến được model của bạn, vì vậy không tạo ra kết quả có hại và bạn không tốn tài nguyên tính toán cho prompt đó.
- Bao quát các danh mục quan trọng đối với việc tạo nội dung. Bộ kiểm tra chấm điểm 17 danh mục, bao gồm hình ảnh giống người thật, hình ảnh thân mật không có sự đồng thuận, ngôn ngữ ám chỉ người chưa thành niên và sự kết hợp giữa người thật với nội dung tình dục, vốn là dấu hiệu của deepfake tình dục.
- Tích hợp mà không cần nhà cung cấp khác. API hoạt động với API key Dodo Payments của bạn và phí được khấu trừ từ số dư. Không có hợp đồng, hóa đơn hoặc tài khoản riêng.
- Bảo mật nội dung người dùng. Dodo Payments không lưu trữ hoặc ghi log văn bản và hình ảnh bạn kiểm tra.
Moderation API là công cụ để bạn tự thực thi chính sách. API này không thay thế Merchant Acceptance Policy và bạn vẫn chịu trách nhiệm về nội dung mà sản phẩm tạo ra.
Cách hoạt động
Gọi Moderation API từ backend sau khi người dùng gửi prompt và trước khi model của bạn chạy: Mỗi lệnh gọi là một lượt kiểm tra. Văn bản và hình ảnh được gửi trong cùng một lệnh gọi được tính là một lượt kiểm tra.Kết quả
Trườngdecision chứa kết quả:
Kiểm tra prompt
Để kiểm tra prompt, gửi yêu cầuPOST đến /moderation/screen với ít nhất một trong hai trường text và image. Yêu cầu chấp nhận ba trường:
TypeScript và Python SDK cung cấp endpoint dưới dạng
client.moderation.screen(). Ví dụ này chặn việc tạo nội dung khi nhận deny, flag hoặc bất kỳ lỗi nào:
Các ví dụ gọi live mode vì chỉ live mode mới chạy moderation model. Test mode trả về mock verdicts và không bao giờ kiểm tra nội dung. Lượt kiểm tra trong live mode được tính phí.
flag giống như deny. Nếu sản phẩm của bạn cho phép một số nội dung bị gắn cờ, hãy kiểm tra triggered để quyết định theo từng danh mục.
Kiểm tra hình ảnh
Gửi hình ảnh để kiểm tra hình ảnh tham chiếu được tải lên hoặc hình ảnh được tạo trước khi hiển thị cho người dùng. Hình ảnh phải đáp ứng các yêu cầu sau:- Định dạng là JPEG, PNG, WebP, GIF hoặc BMP.
- Chuỗi base64 có tối đa 6.991.530 ký tự và hình ảnh sau khi giải mã có kích thước tối đa 5 MiB.
- Hình ảnh là một khung hình tĩnh duy nhất. Hình ảnh GIF và WebP động sẽ bị từ chối.
- Cạnh dài nhất có ít nhất 32 pixel.
400 với MODERATION_INVALID_IMAGE, hoặc 413 với MODERATION_INPUT_TOO_LARGE khi hình ảnh quá lớn.
Để kiểm tra hình ảnh, đọc tệp, mã hóa tệp dưới dạng base64 và gửi trong image. Để kiểm tra hình ảnh cùng prompt, gửi cả text và image trong cùng một lệnh gọi. Lượt này được tính là một lượt kiểm tra. Ví dụ này sử dụng client từ ví dụ trước:
Đọc phản hồi
Phản hồi trả về kết quả và bằng chứng phía sau kết quả đó:
Dựa trên logic của bạn vào
decision và triggered. Mỗi danh mục có ngưỡng riêng, vì vậy một ngưỡng điểm duy nhất trong code sẽ không khớp với kết quả.
Danh mục
Mỗi phản hồi chấm điểm nội dung theo 17 danh mục:Xử lý lỗi
Lỗi trả về phần nội dung lỗi tiêu chuẩn của Dodo Payments cùng vớicode và message. Không lỗi nào là kết quả, vì vậy không lỗi nào cho phép tạo nội dung:
SDK mặc định thử lại
429 hoặc 503 hai lần và chờ Retry-After giữa các lần thử. Khi hết số lần thử, SDK sẽ phát sinh lỗi và code của bạn phải chặn yêu cầu.
Kiểm thử tích hợp
Test mode trả về kết quả mô phỏng và không bao giờ gọi moderation model, vì vậy bạn có thể kiểm thử luồng xử lý mà không mất phí. Gửi yêu cầu đếnhttps://test.dodopayments.com bằng API key của test mode.
Kết quả mô phỏng mặc định là allow. Để nhận kết quả khác, đặt một trong các chuỗi sau ở bất kỳ vị trí nào trong text:
Kết quả mô phỏng có ghi chú cho biết đó là kết quả mô phỏng và tất cả điểm số danh mục đều là
0. Test mode áp dụng cùng quy trình xác thực yêu cầu như live mode. Đối với hình ảnh, chế độ này kiểm tra encoding base64 và định dạng, nhưng không kiểm tra số khung hình hoặc kích thước.
Trước khi chuyển sang live mode, hãy xác nhận tích hợp của bạn xử lý từng trường hợp sau:
1
Deny Blocks Generation
Gửi
dodo_mock_deny và xác nhận model của bạn không được gọi.2
Flag Follows Your Policy
Gửi
dodo_mock_flag và xác nhận sản phẩm của bạn thực hiện đúng chính sách.3
Overload Retries
Gửi
dodo_mock_overloaded và xác nhận code chờ Retry-After cũng như không tạo nội dung khi chưa có kết quả.4
An Outage Blocks Generation
Gửi
dodo_mock_not_ready và xác nhận model của bạn không được gọi.5
Every Generation Path Screens
Kiểm tra để bảo đảm mọi luồng code dẫn đến model đều gọi Moderation API trước.
Định giá và tính phí
Moderation API có giá 0,30 USD cho mỗi 1.000 lượt kiểm tra tính phí. Không có gói miễn phí và không có mức tối thiểu. Lượt kiểm tra tính phí là lượt kiểm tra trong live mode trả về kết quả. Các lượt sau được miễn phí và không được tính:- Lượt kiểm tra trong test mode.
- Lượt kiểm tra trả về lỗi, bao gồm
429và503.
moderation_fees. Payouts hiển thị khoản phí này dưới Moderation Fees.
Theo dõi mức sử dụng
Để xem mức sử dụng, gọiGET /moderation/usage. Phản hồi trả về:
Quyền truy cập và quyền riêng tư
Việc kiểm tra yêu cầu API key có quyền ghi. Mọi API key, bao gồm key chỉ đọc, đều có thể đọc mức sử dụng. Xem Authentication để biết cách tạo key và đặt cấp độ truy cập. Dodo Payments không lưu trữ văn bản hoặc hình ảnh bạn kiểm tra và không ghi chúng vào log. Với mỗi lượt kiểm tra trong live mode, hệ thống lưu thời gian, kết quả vàrequest_id của bạn để báo cáo tính phí và mức sử dụng.
Usage-Based Billing
Tính phí khách hàng của bạn cho mỗi lần tạo nội dung.
Credit-Based Billing
Bán credit tạo nội dung và khấu trừ credit theo mỗi lần sử dụng.