Hugging Face APIの無料制限と有料ホストAPI

無料推論の仕組み

ホスト型APIを提供するモデルハブでは、通常、無料ユーザーに少量のクレジットが付与されます。サインインしてアクセストークンを作成し、支払いなしでホストされたモデルにリクエストを送信できます。これは、モデルに投資する前にその品質を確認するのに役立ちます。

具体的な仕様はプロバイダーが設定し変更します：利用可能なモデル、期間あたりのリクエスト数または計算リソース、無料呼び出しが有料呼び出しの後に待機するかどうかなど。数字を引用しないのは、それらが古くなるためです。制限に合わせて設計する前に、プロバイダーの現在のドキュメントと料金ページを確認してください。

プロバイダー間で変わらないのは目的です。無料枠は試すためのものです。それはユーザーがいる製品の容量を保証するものではありません。

無料プランの制限が効いてくる場所

開発者は同じ5つの問題に直面しがちです。

• 割り当てが枯渇します。 割り当てを超えると、呼び出しが失敗するか、支払いを求められます。データセットをループするスクリプトは、数分で1日分の割り当てを使い果たす可能性があります。
• コールドスタートとキュー。 無料リクエストは待機する必要がある場合や、モデルの読み込みに時間がかかる場合があり、レイテンシが予測不可能になります。
• モデルの利用可能性。 大規模なモデルは通常、有料利用に制限されており、利用可能なモデルのリストは時間とともに変化します。
• リクエストの形状。 一部の無料エンドポイントは、必要な長さよりも短いプロンプト長または出力長に制限を設けています。
• 拒否。 多くの人気ホストモデルは、安全性トレーニングを含むインストラクションチューニングが施されています。無料アクセスでも、境界線上の合法リクエストへの応答方法は変わりません。

週末のプロトタイプではこれらは問題になりません。しかし、ボット、バッチジョブ、または毎日実行したいツールの場合、すぐに制限に達します。

従量制アクセスの費用

代替手段は従量制APIで、事前にクレジットを購入し、トークンごとに支払います。このサービスでは、1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で、サブスクリプションはありません。失敗または拒否されたリクエストは請求されず、クレジットは期限切れになりません。

具体的な数字は、小規模プロジェクトが非常に安価である理由を示しています。

• 趣味のボット。 1日200メッセージ、1,000入力トークンと250出力トークン。メッセージごと：$0.00015 + $0.000125 = $0.000275。1日：200 x $0.000275 = $0.055。30日：$1.65。
• 毎日の要約ツール。 1日1,000記事、3,000入力トークンと300出力トークン。入力は3Mトークンで$0.45。出力は0.3Mトークンで$0.15。1日$0.60、30日で$18.00です。

したがって、1ヶ月の趣味用ボットのコストはコーヒー1杯より安くなり、要約ツールでさえ$20未満に収まります。最小のチャージ額は$20で、クレジットは期限切れにならないため、そのまま持続します。

比較

質問	典型的な無料推論ティア	このホスト型 API
開始価格	無料	$0.50のトライアルクレジット、その後プリペイド
容量	プロバイダーが設定した割り当て	フルキー：同時リクエスト8、1分あたり300。トライアルキー：2および60
モデルの選択	多くのモデル、利用可能性は変動	1つのモデル、IDはuncensored
コンテンツ拒否	選択したモデルに依存します	合法な成人利用には拒否なし
コンテキストウィンドウ	モデルとティアによる	100,000 トークン（プロンプトと補完を含む）
請求	制限まで無料	トークンごと、暗号資産チャージ

比較するために幅広いモデルのメニューが必要な場合、ハブの無料プランがより適しています。合法的なリクエストを拒否しない1つのモデルの安定したエンドポイントが必要な場合、従量制APIがより適した基盤です。なお、このサービスはテキストのみです：画像、音声、埋め込み、ファインチューニングはありません。

それらの間でコードを切り替える

多くのハブAPIとこのAPIはOpenAIスタイルのクライアントでアクセスできるため、移行は主に設定変更です。Node.jsでは次のようになります：

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.huggingfaceabliteratedmodels.com/v1",
  apiKey: process.env.UNCENSORED_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "List three ideas for a heist-movie opening scene." }],
});
console.log(res.choices[0].message.content);

ベースURL、キー、モデルIDを環境変数に保持し、コードを編集せずにプロバイダーを切り替えられるようにします。この同じアプローチにより、開発中は無料ティアのモデルを、本番環境では従量制エンドポイントを実行できます。

予期せぬ請求なしで成長に対応する

無料ティアの問題はその最後の崖です。到着する前にジャンプを計画してください。

1. 今トークンを測定する。 無料の割り当てがある間に、各呼び出しの入力および出力トークン数をログに記録します。有料レートで掛け合わせて1ヶ月を予測します。
2. コード内で予算アラートを設定する。 各レスポンスからX-Balance-USDヘッダーを読み取り、しきい値を下回ったときに警告します。
3. ゼロの時の対応を決める。 失敗したリクエストは課金されませんが、アプリは明確なメッセージを表示し、リトライループに入らないようにします。
4. 初日から制限を尊重してください。 フルキーでは同時実行数を8以下、トライアルキーでは2以下に保つことで、アップグレード時に再設計が必要なくなります。

Copycurl -i https://api.huggingfaceabliteratedmodels.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}],"max_tokens":5}'

レスポンスヘッダーにはX-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrencyが含まれており、これらは残り容量と処理速度を示します。5トークンのテスト呼び出しは1セントのごく一部のコストです。

キーの取得と制限の処理

Googleまたはメールアドレスとパスワードでサインアップし、APIキーページでワンクリックで$0.50のトライアルクレジットを受け取ります。トライアルにはカードが必要なく、7日間有効で、1人1回限りの特典です。チャージは$20から$500までの整数金額で、TRC20上のUSDTまたはBase上のUSDCで暗号資産として支払います。ボーナスは$50以上で5%、$100以上で10%、$200以上で15%が追加されます。詳細は料金ページをご覧ください。

制限に達すると、APIはHTTP 429を返し、コードはrate_limitedまたはconcurrency、過負荷時にはRetry-After: 5ヘッダーを返します。ストリーミングリクエストは、ストリームが終了するまで並列スロットを保持します。ドキュメントには読み取り可能なヘッダーが記載されています。モデルの動作に関するトラブルシューティングには、NSFWモデルのトラブルシューティング記事が有用な補足資料となります。

その他のガイド

• Hugging Face Abliterated モデル：ホスト型とローカル型
• NSFWモデル：よくあるミスのトラブルシューティング