Haystack - CoreWeave Docs

Haystack est un framework open source permettant de créer des applications de recherche et des applications LLM. Deepset maintient un composant WeaveConnector qui transmet les traces des pipelines Haystack à W&B Weave, ce qui vous permet d’inspecter les exécutions des composants, les prompts et les sorties dans l’interface de Weights & Biases. Ce guide s’adresse aux développeurs Haystack qui souhaitent rendre leurs pipelines observables. Pour obtenir tous les détails de l’API ainsi que d’autres exemples, consultez les ressources Deepset suivantes :

Le WeaveConnector de Haystack.
La référence de l’API de l’intégration Weave de Haystack.
L’exemple Trace with W&B Weave de Haystack, basé sur un pipeline RAG.

Prérequis

Avant de commencer, effectuez les opérations suivantes :

Définissez WANDB_API_KEY dans votre environnement avec votre clé API W&B. Le connecteur peut ainsi s’authentifier auprès de W&B Weave.
Définissez HAYSTACK_CONTENT_TRACING_ENABLED sur true avant d’exécuter un pipeline, afin que Haystack émette des données de traçage que le connecteur pourra transmettre.

Installation

Installez les dépendances requises avec pip :

pip install weave-haystack

Le package déclare comme dépendances des versions compatibles de haystack-ai et de weave.

Tracer un pipeline Haystack avec Weave

L’exemple suivant ajoute le WeaveConnector de Haystack à un Pipeline Haystack et l’intègre à W&B Weave afin de tracer et de surveiller les composants de votre pipeline. Le pipeline_name que vous transmettez sert de nom de projet Weave pour les traces issues de ce pipeline. Dans votre pipeline Haystack, ne connectez pas WeaveConnector à d’autres composants.

import os

os.environ["HAYSTACK_CONTENT_TRACING_ENABLED"] = "true"

from haystack import Pipeline
from haystack.components.builders import ChatPromptBuilder
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.dataclasses import ChatMessage
from haystack_integrations.components.connectors.weave import WeaveConnector

pipe = Pipeline()
pipe.add_component("prompt_builder", ChatPromptBuilder())
pipe.add_component("llm", OpenAIChatGenerator(model="gpt-3.5-turbo"))
pipe.connect("prompt_builder.prompt", "llm.messages")

# pipeline_name devient le nom de votre projet W&B.
connector = WeaveConnector(pipeline_name="haystack_demo")
# Ajoutez le connecteur au pipeline, mais ne le connectez pas.
pipe.add_component("weave", connector)

messages = [
    ChatMessage.from_system(
        "Always respond in German even if some input data is in other languages.",
    ),
    ChatMessage.from_user("Tell me about {{location}}"),
]

response = pipe.run(
    data={
        "prompt_builder": {
            "template_variables": {"location": "Berlin"},
            "template": messages,
        },
    },
)

print(response["llm"]["replies"][0])

Une fois le pipeline exécuté, ouvrez votre workspace W&B, sélectionnez le projet portant le nom défini par pipeline_name, puis accédez à Traces pour consulter la trace complète.

​Prérequis

​Installation

​Tracer un pipeline Haystack avec Weave

Prérequis

Installation

Tracer un pipeline Haystack avec Weave