メインコンテンツへスキップ
Web UI を通じて W&B Inference サービスを利用する方法を説明します。UI を利用する前に、前提条件 を完了してください。

Inference サービスへアクセスする

Inference サービスには、次の 3 つの方法でアクセスできます。 https://wandb.ai/inference にアクセスしてください。

Inference タブから

  1. https://wandb.ai/ で W&B アカウントにアクセスします
  2. 左サイドバーから Inference を選択します
  3. 利用可能なモデルとその情報が表示されたページが表示されます
Playground で Inference モデルを使用している様子

Playground タブから

  1. 左サイドバーで Playground を選択します。Playground チャット UI が表示されます。
  2. LLM ドロップダウンリストで W&B Inference にカーソルを合わせます。右側に利用可能なモデルのドロップダウンが表示されます。
  3. モデルのドロップダウンから、次の操作ができます:
Playground 内の Inference モデルのドロップダウン

Playground でモデルを試す

モデルを選択したら、Playground で試すことができます。利用できる操作は次のとおりです。

複数のモデルを比較する

Playground で Inference モデルを並べて比較できます。Compare ビューには次の 2 か所からアクセスできます。

Inference タブから

  1. 左サイドバーから Inference を選択します。利用可能なモデル一覧のページが表示されます
  2. モデルカード上の任意の場所(モデル名以外)をクリックして選択します。カードの枠線が青色になります
  3. 比較したい各モデルについて同じ操作を行います
  4. 選択したカードのいずれかで Compare N models in the Playground をクリックします。N は選択したモデルの数を示します
  5. 比較ビューが開きます
これでモデルを比較し、Try a model in the Playground のすべての機能を利用できます。
Playground で比較する複数のモデルを選択

Playground タブから

  1. 左サイドバーから Playground を選択します。Playground のチャット UI が表示されます。
  2. LLM ドロップダウンリストで W&B Inference にカーソルを合わせます。右側にモデルのドロップダウンが表示されます。
  3. ドロップダウンから Compare を選択します。Inference タブが表示されます。
  4. モデルカード上のモデル名以外の任意の場所をクリックして選択します。カードの枠が青色に変わります。
  5. 比較したい各モデルについて繰り返します。
  6. 選択されているいずれかのカードで Compare N models in the Playground をクリックします。比較ビューが開きます。
これで、モデルを比較したり、Try a model in the Playground に記載されているすべての機能を利用できます。

請求と利用状況を確認する

組織の管理者は、W&B の UI からクレジット残高、利用履歴、今後の請求を確認できます。
  1. UI で W&B の Billing ページに移動します
  2. 右下隅にある Inference の請求情報カードを探します
  3. ここから次の操作ができます:
    • View usage をクリックして、時間経過に伴う利用状況を確認する
    • 今後発生する Inference の請求額(有料プランの場合)を確認する
モデル単位の料金の詳細については、Inference pricing page を参照してください。

次のステップ

  • 利用可能な モデル を確認して、ニーズに最適なものを見つける
  • プログラムからアクセスするために API を試す
  • コードサンプルについては 使用例 を参照する