Skip to main content
LLM 애플리케이션을 평가하려면 피드백을 수집하고 분석할 도구가 필요합니다. W&B Weave는 통합 피드백 시스템을 제공하므로 UI에서 직접, 또는 SDK를 통해 프로그래밍 방식으로 Call에 피드백을 남길 수 있습니다. Weave는 이모지 반응, 텍스트 댓글, 구조화된 데이터 등 다양한 피드백 유형을 지원하므로 팀에서 다음과 같은 작업을 할 수 있습니다.
  • 성능 모니터링용 평가 데이터셋을 구축합니다.
  • LLM 콘텐츠 문제를 파악하고 해결합니다.
  • 파인튜닝 같은 고급 작업에 사용할 예시를 수집합니다.
이 가이드는 Weave에서 LLM 애플리케이션을 개발하거나 검토하는 사용자를 위한 것입니다. UI와 SDK에서 Weave의 피드백 기능을 사용하는 방법, 피드백을 쿼리하고 관리하는 방법, 휴먼 어노테이션으로 상세한 평가를 수행하는 방법을 다룹니다.

UI에서 피드백 제공하기

다음 섹션에서는 Weights & Biases UI의 Call details 패널에서 또는 피드백 아이콘을 사용하여 피드백을 제공하는 방법을 설명합니다.

Call details 패널 사용하기

  1. Weave 프로젝트 사이드바에서 Traces로 이동하세요.
  2. 피드백을 추가할 Call의 행을 찾으세요.
  3. 연결된 Trace 이름을 클릭하여 트레이스 트리와 Call details 패널을 여세요.
  4. Call details 탭 표시줄에서 Feedback을 선택하세요.
  5. 피드백을 추가, 확인 또는 삭제하세요.
    • Call details 피드백 뷰의 오른쪽 상단에 있는 아이콘을 사용하여 피드백을 추가하고 확인하세요.
    • Call details 피드백 table에서 피드백을 확인하고 삭제하세요. 피드백을 삭제하려면 해당 피드백 행의 맨 오른쪽 열에 있는 휴지통 아이콘을 클릭하세요.
Call details의 Feedback 탭

피드백 아이콘 사용하기

Traces table과 개별 Call details 패널에 있는 아이콘으로 반응을 추가하거나 제거하고, 노트를 추가할 수 있습니다.
  • Traces table: Traces table에서 해당 행의 Feedback 열에 있습니다.
  • Call details 패널: 각 Call details 패널의 오른쪽 상단에 있습니다.
반응을 추가하려면 다음을 수행하세요.
  1. 이모지 아이콘을 클릭하세요.
  2. 좋아요나 싫어요를 추가하거나, + 아이콘을 클릭하여 다른 이모지를 선택하세요.
반응을 제거하려면 다음을 수행하세요.
  1. 제거할 이모지 반응에 마우스를 올리세요.
  2. 반응을 클릭하면 제거됩니다.
Call details 패널의 Feedback 열에서도 피드백을 삭제할 수 있습니다.
댓글을 추가하려면 다음을 수행하세요.
  1. 말풍선 아이콘을 클릭하세요.
  2. 텍스트 상자에 노트를 입력하세요. 피드백 노트는 최대 1024자까지 입력할 수 있습니다.
  3. Enter 키를 눌러 노트를 저장하세요. 노트는 여러 개 추가할 수 있습니다.
피드백 노트는 최대 1024자까지 입력할 수 있습니다. 이 제한을 초과하는 노트는 Weave에서 생성되지 않습니다.
피드백 열이 있는 Call 그리드

SDK로 피드백 제공하기

UI에서 피드백을 직접 입력하는 대신 피드백 수집을 자동화하거나 평가 파이프라인에 통합하려면 SDK를 사용하세요. 피드백 관련 SDK 사용 예시는 UI의 Call details 패널에 있는 Use 탭에서 확인할 수 있습니다. Weave Python SDK를 사용하면 Call에 대한 피드백을 프로그래밍 방식으로 추가, 제거, 쿼리할 수 있습니다. TypeScript SDK는 피드백 기능을 지원하지 않습니다.

프로젝트의 피드백 쿼리하기

SDK를 사용하면 Weave 프로젝트의 피드백을 쿼리할 수 있습니다. SDK는 다음 피드백 쿼리 오퍼레이션을 지원합니다.
  • client.get_feedback(): 프로젝트의 모든 피드백을 반환합니다.
  • client.get_feedback("[FEEDBACK-UUID]"): [FEEDBACK-UUID]로 지정한 특정 피드백 객체를 컬렉션 형태로 반환합니다.
  • client.get_feedback(reaction="[REACTION-TYPE]"): 특정 반응 유형에 해당하는 모든 피드백 객체를 반환합니다.
client.get_feedback()에서 각 피드백 객체의 추가 정보도 조회할 수 있습니다.
  • id: 피드백 객체 ID입니다.
  • created_at: 피드백 객체의 생성 시간 정보입니다.
  • feedback_type: 피드백 유형(reaction, note, custom)입니다.
  • payload: 피드백 페이로드입니다.

Call에 피드백 추가하기

Call의 UUID를 사용하여 Call에 피드백을 추가할 수 있습니다. UUID로 특정 Call을 조회하려면 먼저 Call 실행 중 또는 실행 후에 UUID를 가져오세요. SDK는 Call에 피드백을 추가하는 다음 오퍼레이션을 지원합니다.
  • call.feedback.add_reaction("[REACTION-TYPE]"): 👍와 같이 지원되는 [REACTION-TYPE] 값(이모지) 중 하나를 추가합니다.
  • call.feedback.add_note("[NOTE]"): 노트를 추가합니다.
  • call.feedback.add("[LABEL]", [OBJECT]): [LABEL]로 지정한 맞춤형 피드백 [OBJECT]를 추가합니다.
피드백 노트는 최대 1024자까지 입력할 수 있습니다. 노트가 이 제한을 초과하면 Weave는 해당 노트를 생성하지 않습니다.

Call UUID 가져오기

Call 직후 바로 피드백을 추가해야 하는 경우에는 Call 실행 도중이나 실행 후에 프로그래밍 방식으로 Call UUID를 가져올 수 있습니다. Call 실행 중에 UUID를 조회하려면 현재 Call을 가져온 다음 해당 ID를 반환하세요.
또는 call() 메서드로 오퍼레이션을 실행한 후 Call ID를 가져올 수도 있습니다.

Call에서 피드백 삭제하기

UUID를 지정하면 특정 call에서 피드백을 삭제할 수 있습니다.

휴먼 어노테이션 추가

휴먼 어노테이션을 사용하면 Call에 대해 사람이 검토한 판단을 구조화된 형태로 캡처할 수 있으므로, 검토자가 자체 기준에 따라 모델 출력을 평가할 수 있습니다. 휴먼 어노테이션은 Weights & Biases UI에서 지원됩니다. 이 기능을 사용하면 맞춤형 필드를 만들고, 사람이 입력한 데이터를 피드백으로 트레이스에 추가할 수 있습니다. 휴먼 어노테이션을 작성하려면 먼저 UI 또는 API로 휴먼 어노테이션 Scorer를 생성해야 합니다. 그런 다음 UI에서 Scorer를 사용해 어노테이션을 작성하거나 API로 어노테이션 Scorer를 수정할 수 있습니다.

UI에서 휴먼 어노테이션 Scorer 만들기

UI에서 휴먼 어노테이션 Scorer를 만들려면 다음 단계를 따르세요.
  1. 프로젝트 사이드바에서 Assets로 이동하세요.
  2. Assets 내비게이션 패널에서 Scorers를 클릭하세요.
  3. Scorers 패널 헤더에서 New scorer를 클릭하세요.
  4. Create Scorer 모달 대화 상자에서 다음 항목을 설정하세요.
    • Scorer type: Human annotation
    • Name
    • Description
    • Type: 수집할 피드백의 유형을 결정합니다(예: boolean 또는 integer).
  5. Create scorer를 클릭하세요. 이제 이 Scorer로 어노테이션을 작성할 수 있습니다.
다음 예시에서는 휴먼 어노테이터가 LLM이 로드한 문서의 유형을 선택합니다. 점수 설정의 Type은 선택 가능한 문서 유형들로 구성된 enum입니다.
Create Scorer 모달 대화 상자

UI에서 휴먼 어노테이션 Scorer 사용하기

휴먼 어노테이션 Scorer를 생성하면 Traces 페이지에서 사용할 수 있습니다. Scorer를 사용하려면 다음 단계를 따르세요.
  1. 프로젝트 사이드바에서 Traces로 이동하세요.
  2. 휴먼 어노테이션을 추가할 Call의 행을 찾으세요.
  3. 연결된 Trace 이름을 클릭하여 트레이스 트리와 Call details 패널을 여세요.
  4. Call details 탭 표시줄 오른쪽 상단에 있는 Show feedback 버튼을 클릭하세요. Call 헤더의 마커 아이콘 사용 가능한 휴먼 어노테이션 Scorer가 Annotate 패널에 표시됩니다. 휴먼 어노테이션 Scorer 피드백 패널
  5. 어노테이션을 작성하세요.
  6. Save를 클릭하세요.
  7. Call details 패널의 탭 표시줄에서 Feedback 탭을 클릭하면 Feedback table을 확인할 수 있습니다. 새 어노테이션이 table에 표시됩니다. 기본 Traces table의 Annotations 열에서도 어노테이션을 확인할 수 있습니다.
    최신 정보를 확인하려면 Traces table을 새로 고치세요.
Traces table의 휴먼 어노테이션 Scorer 피드백

API를 사용하여 휴먼 어노테이션 Scorer 만들기

API로도 휴먼 어노테이션 Scorer를 만들 수 있습니다. 각 Scorer는 별도의 객체이므로 개별적으로 생성하고 업데이트합니다. 휴먼 어노테이션 Scorer를 프로그래밍 방식으로 만들려면 다음 단계를 따르세요.
  1. weave.flow.annotation_spec에서 AnnotationSpec 클래스를 임포트합니다.
  2. weave의 publish 메서드를 사용하여 Scorer를 만듭니다.
다음 예시에서는 Scorer 두 개를 만듭니다. 첫 번째 Scorer인 Temperature는 LLM Call의 체감 온도를 채점하고, 두 번째 Scorer인 Tone은 LLM 응답의 어조를 채점합니다. 각 Scorer는 연결된 객체 ID(temperature-scorer, tone-scorer)를 지정하여 save를 사용합니다.

API를 사용하여 휴먼 어노테이션 Scorer 수정하기

API를 사용하여 휴먼 어노테이션 Scorer 생성하기에 이어, 다음 예시에서는 publish 시 원래 객체 ID(temperature-scorer)를 사용하여 Temperature Scorer의 새 버전을 생성합니다. 그 결과 객체가 업데이트되며, 모든 버전의 이력이 함께 유지됩니다.
휴먼 어노테이션 Scorer 객체 이력은 Human annotations 아래의 Scorers 탭에서 확인할 수 있습니다.
휴먼 어노테이션 Scorer 이력

API로 휴먼 어노테이션 Scorer 사용하기

feedback API에서 특수한 형식의 이름과 annotation_ref 필드를 지정하면 휴먼 어노테이션 Scorer를 사용할 수 있습니다. annotation_spec_ref는 UI에서 해당 탭을 선택하거나 AnnotationSpec을 생성할 때 획득할 수 있습니다.
마지막 수정일 2026년 9월 30일