> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Serverless Inference

> W&B Weave と OpenAI 互換 API を通じて、オープンソースの基盤モデルにアクセスできます

Serverless Inference を使用すると、W\&B Weave と OpenAI 互換 API を通じて、主要なオープンソースの基盤モデルにアクセスできます。

* Inference を使用すれば、ホスティングプロバイダーに登録したりモデルをセルフホストしたりすることなく、AI アプリケーションやエージェントを構築できます。
* Weave を使用すると、Serverless Inference を活用したアプリケーションのトレース、評価、監視、改善を行えます。

<h2 id="try-out-inference-in-the-ui">
  UI で Inference を試す
</h2>

[https://forge.coreweave.com/inference](https://forge.coreweave.com/inference) にアクセスすると、利用可能なモデルを確認し、Weave Playground で実際に試すことができます。

Web インターフェースの詳細については、[UI ガイド](/ja/products/inference/serverless/ui-guide)を参照してください。

<h2 id="use-inference-through-the-api">
  API 経由で Inference を使用する
</h2>

この Python の例では、Inference を使用して LLM にチャット補完リクエストを送信します。

```python lines theme={"system"}
import openai

client = openai.OpenAI(
    # Serverless Inference を指すカスタムのベース URL
    base_url='https://api.inference.wandb.ai/v1',

    # APIキーは https://forge.coreweave.com/settings で作成します
    api_key="<your-api-key>",

    # オプション: 使用量のトラッキングに使用するチームと project
    project="<your-team>/<your-project>",
)

response = client.chat.completions.create(
    model="meta-llama/Llama-3.1-8B-Instruct",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Tell me a joke."}
    ],
)

print(response.choices[0].message.content)
```

<h2 id="next-steps">
  次のステップ
</h2>

1. [前提条件](/ja/products/inference/serverless/prerequisites)に従ってアカウントを設定します。
2. [利用可能なモデル](/ja/products/inference/serverless/models)と[利用に関する情報と制限](/ja/products/inference/serverless/usage-limits)を確認します。
3. [API](/ja/products/inference/serverless/api-reference) または [UI](/ja/products/inference/serverless/ui-guide) からサービスを使用します。
4. [W\&B Weave Playground](/ja/products/wandb/weave/guides/tools/playground) で、サポートされるモデルを試します。
5. [使用例](/ja/products/inference/serverless/examples)を試します。

<Info>
  料金、使用量の制限、クレジットについては、[利用に関する情報と制限](/ja/products/inference/serverless/usage-limits)を参照してください。
</Info>


## Related topics

- [Serverless Inference](/ja/redirects/forge/inference.md)