> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Together AI

> OpenAI SDK との互換性を利用して、Together AI のオープンソース LLM を Weave でトラッキングし、モデルの Call をシームレスにトレースおよび評価します。

Together AI は、生成 AI モデルの構築とファインチューニングを行うためのプラットフォームです。オープンソース LLM に重点を置いており、お客様は独自のモデルをファインチューニングしてホストできます。このガイドでは、Together の OpenAI SDK との互換性を利用して、Together AI のモデルの Call を Weave でトレースおよび評価する方法を説明します。オープンソース LLM の入力、出力、パフォーマンスを、Weave で追跡している他の作業とあわせて監視できます。

<Info>
  `together` Python パッケージに対する Weave の完全なサポートは現在開発中です。
</Info>

それまでの間は、Together が [OpenAI SDK との互換性](https://docs.together.ai/docs/openai-api-compatibility)をサポートしており、Weave はこれを自動的に検出して連携します。標準の OpenAI クライアントで Together AI のモデルを呼び出すだけで、追加の設定なしに Weave のトレースが自動的に行われます。

Together API に切り替えるには、`api_key` に [Together API](https://docs.together.ai/docs/quickstart) キーを、`base_url` に `https://api.together.xyz/v1` を、`model` に[チャットモデル](https://docs.together.ai/docs/inference-models#chat-models)のいずれかを設定します。次の例では、Weave を初期化したうえで、Together でホストされているモデルに対してチャット補完の Call を実行します。実行すると、その Call がトレースとして Weave プロジェクトに表示されます。

```python lines {5, 10-13} theme={"system"}
import os
import openai
import weave

weave.init('together-weave')

system_content = "You are a travel agent. Be descriptive and helpful."
user_content = "Tell me about San Francisco"

client = openai.OpenAI(
    api_key=os.environ.get("TOGETHER_API_KEY"),
    base_url="https://api.together.xyz/v1",
)
chat_completion = client.chat.completions.create(
    model="mistralai/Mixtral-8x7B-Instruct-v0.1",
    messages=[
        {"role": "system", "content": system_content},
        {"role": "user", "content": user_content},
    ],
    temperature=0.7,
    max_tokens=1024,
)
response = chat_completion.choices[0].message.content
print("Together response:\n", response)
```

この例は入門用です。より複雑なユースケースに向けて、Weave を独自の関数と統合する方法の詳細については、[OpenAI](/ja/products/wandb/weave/guides/integrations/openai#track-your-own-ops) ガイドを参照してください。


## Related topics

- [インテグレーションの概要](/ja/products/wandb/weave/guides/integrations.md)
