LLM

Un appel LLM. Émet un span chat avec des attributs gen_ai.*. Créé par tracing.startLLM() (ou turn.startLLM(), ou subagent.startLLM()) et terminé par end(). Le dernier LLM démarré est le LLM courant (getCurrentLLM, tracing.startTool). Un LLM démarré sous un SubAgent alors qu’un autre LLM est actif s’imbrique selon l’ordre LIFO : il reste le LLM courant jusqu’à sa fin, puis le LLM englobant redevient le LLM courant. Imbriquez les appels d’outil ou de sous-agent sous un LLM à l’aide de startTool / startSubagent. Renseignez inputMessages / outputMessages / usage / reasoning directement, ou à l’aide des fonctions utilitaires (output, think, attachMedia, record). Toutes les données enregistrées sont vidées dans le span lors de l’appel à end().

Exemples

const llm = tracing.startLLM({model: 'gpt-4o-mini', providerName: 'openai'});

try {
  llm.inputMessages = [{role: 'user', content: prompt}];
  const resp = await openai.chat.completions.create({...});
  llm.output(resp.choices[0].message.content ?? '');
  llm.record({usage: {inputTokens: resp.usage?.prompt_tokens}});
} finally {
  llm.end();
}

const llm = tracing.startLLM({
  model: 'gpt-4o-mini',
  providerName: 'openai',
  systemInstructions: ['You are a helpful weather bot.'],
  startTime: new Date('2026-05-29T10:00:00.000Z'),
});

try {
  // ... appeler le LLM, renseigner llm.outputMessages / usage ...
} finally {
  llm.end();
}

Propriétés

Message[]

Type : Message[]Messages d’entrée envoyés au modèle. Vidés dans gen_ai.input.messages lors de l’appel à end().

string

Lecture seule.

Message[]

Type : Message[]Messages de l’assistant renvoyés par le modèle. Vidés dans gen_ai.output.messages lors de l’appel à end().

string

Lecture seule.

Reasoning

Type : ReasoningContenu de la chaîne de raisonnement (chain-of-thought). Intégré au dernier message de l’assistant sous forme de ReasoningPart lors de la sérialisation.

Usage

Type : UsageNombre de jetons et statistiques de cache. Vidés dans gen_ai.usage.* lors de l’appel à end().

Méthodes

`attachMedia()`

attachMedia(opts: AttachMediaOpts): this

Prépare une pièce jointe multimédia pour l’appel LLM. Indiquez exactement un seul des éléments suivants : content (octets encodés en base64 intégrés), uri (référence URI) ou fileId (identifiant d’un fichier préalablement téléversé). Lors de l’appel à end(), la pièce jointe est ajoutée au dernier message utilisateur de inputMessages.

Paramètres

AttachMediaOpts

requis

Renvoie

this

`attachMediaUrl()`

attachMediaUrl(url: string, opts: {modality: Modality}): this

Raccourci pour attachMedia({uri, modality}).

Paramètres

string

requis

object

requis

Afficher propriétés

Modality

requis

Type : Modality

Renvoie

this

`end()`

end(opts?: SpanEndOptions): void

Vide l’état accumulé et ferme le span. Opération idempotente. Passez error pour marquer le span en échec ; passez endTime pour antidater la fermeture.

Paramètres

SpanEndOptions

`output()`

output(content: string): this

Ajoute un message de l’assistant à la réponse.

Paramètres

string

requis

Renvoie

this

`record()`

record(
  opts: {
    inputMessages?: Message[];
    outputMessages?: Message[];
    usage?: Usage;
    reasoning?: Reasoning;
    responseId?: string;
    responseModel?: string;
    finishReasons?: string[];
    outputType?: string;
    mediaAttachments?: AttachMediaOpts[];
  },
): this

Définit en une seule fois n’importe quel sous-ensemble des champs modifiables. Remplace les valeurs existantes (sans fusion). Utile pour tout attribuer d’un coup une fois l’appel au fournisseur terminé.

Paramètres

object

requis

Afficher propriétés

Message[]

Type : Message[]

Message[]

Type : Message[]

Usage

Type : Usage

Reasoning

Type : Reasoning

string

string[]

string

AttachMediaOpts[]

Renvoie

this

`setAttributes()`

setAttributes(attributes: Attributes): this

Définit plusieurs attributs sur le span en une seule fois. Après end(), émet un avertissement et ne fait rien. Équivalent de Span.setAttributes d’OTel (et de set_attributes dans le SDK Python).

Paramètres

Attributes

requis

Renvoie

this

Exemples

span.setAttributes({'weave.tag': 'prod', 'gen_ai.response.id': id});

`startSubagent()`

startSubagent(opts: SubAgentInit): SubAgent

Démarre un span SubAgent enfant imbriqué dans ce LLM.

Paramètres

SubAgentInit

requis

Type : SubAgentInit

Renvoie

SubAgent

`startTool()`

startTool(opts: ToolInit): Tool

Démarre un span Tool enfant imbriqué dans ce span LLM.

Paramètres

ToolInit

requis

Type : ToolInit

Renvoie

Tool

`think()`

think(content: string): this

Définit ou complète le contenu de raisonnement (chaîne de raisonnement) du modèle. Ce contenu s’accumule dans this.reasoning.content. Lors de la sérialisation, il est intégré au dernier message de l’assistant sous forme de ReasoningPart, conformément au format de transmission du SDK Python.

Paramètres

string

requis

Renvoie

this

Agent Lens

Guides

Intégrations

Référence

Exemples

Propriétés

Méthodes

`attachMedia()`

Paramètres

Renvoie

`attachMediaUrl()`

Paramètres

Renvoie

`end()`

Paramètres

`output()`

Paramètres

Renvoie

`record()`

Paramètres

Renvoie

`setAttributes()`

Paramètres

Renvoie

Exemples

`startSubagent()`

Paramètres

Renvoie

`startTool()`

Paramètres

Renvoie

`think()`

Paramètres

Renvoie

​Exemples

​Propriétés

​Méthodes

​attachMedia()

​Paramètres

​Renvoie

​attachMediaUrl()

​Paramètres

​Renvoie

​end()

​Paramètres

​output()

​Paramètres

​Renvoie

​record()

​Paramètres

​Renvoie

​setAttributes()

​Paramètres

​Renvoie

​Exemples

​startSubagent()

​Paramètres

​Renvoie

​startTool()

​Paramètres

​Renvoie

​think()

​Paramètres

​Renvoie

Exemples

Propriétés

Méthodes

`attachMedia()`

Paramètres

Renvoie

`attachMediaUrl()`

Paramètres

Renvoie

`end()`

Paramètres

`output()`

Paramètres

Renvoie

`record()`

Paramètres

Renvoie

`setAttributes()`

Paramètres

Renvoie

Exemples

`startSubagent()`

Paramètres

Renvoie

`startTool()`

Paramètres

Renvoie

`think()`

Paramètres

Renvoie