TypeSafe Jev 학습

공식 정신 모델

공식 참고자료: Introduction · State · Primitives

{
  "choice": "technical",
  "probabilities": { "technical": 0.85, "billing": 0.15 },
  "confidence": 0.78
}

{
  "score": 1.43,
  "probabilities": { "0": 0.0, "1": 0.57, "2": 0.43 },
  "confidence": 0.35
}

{
  "type": "noul",
  "noul": 0.95
}

공식 참고자료: Choice · Score · Noul

강력한 기준 작성

1. 분리된 옵션. 두 개의 선택 키가 모두 참일 수 있는 경우 운영자는 모델과 싸울 것입니다.
2. 모서리를 설명합니다. buy_intent에 포함된 것(재고, 배송지)과 가격_질문을 말해보세요.
3. 잔여물을 마지막에 유지하세요. 게으른 잡기 도구가 아닌 다른 사람/인간을 탈출구로 사용하십시오.
4. 주문 점수 오름차순. 기준 배열은 가장 낮음 → 가장 높습니다.
5. 질문당 하나의 결정을 내립니다. "긴급"에서 "경로"를 별도의 키로 분할합니다.

질문의 분석

route: {
  type: 'choice',
  instructions: 'Route this ticket to one queue.',
  criteria: {
    tech: 'Bugs, outages, API failures, or integrations',
    sales: 'Pricing, plans, demos, or new-purchase intent',
    billing: 'Charges, invoices, receipts, or subscriptions',
    human: 'Ambiguous, sensitive, legal, or multi-issue'
  }
}

구조 상태 및 참조 정확한 필드

명명된 상태 필드에 증거를 보관하고 점 및 인덱스 경로를 사용하여 해당 필드에 지침을 지정하세요. 이렇게 하면 어떤 텍스트, 기록 또는 정책이 답변을 제어해야 하는지에 대한 모호함이 줄어듭니다.

const state = {
  ticket: {
    message: 'I was charged twice. Please refund the duplicate.',
    orderId: 'A-104'
  },
  order: { charges: [49, 49] },
  refundPolicy: 'Duplicate charges are eligible for a refund.'
};

const questions = {
  refund_requested: {
    type: 'noul',
    instructions: 'Does `ticket.message` request a refund?'
  },
  policy_supports_refund: {
    type: 'noul',
    instructions: 'Does `refundPolicy` support the request given `order.charges`?'
  }
};

공식 참고자료: Primitives · State

공식 HTTP 엔드포인트로 시작

서버에 TYPESAFE_API_KEY를 유지하세요. 이름이 지정된 질문의 상태, 모델 및 맵을 POST /v1/systemone.로 보냅니다.

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Stripe has failed for 3 days. I am losing sales.",
    "model": "jev-latest",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
          "billing": "Payment or subscription issues",
          "technical": "Bugs or integration problems",
          "sales": "Pricing or account questions"
        }
      },
      "is_urgent": {
        "type": "noul",
        "instructions": "Does this message convey urgency?"
      }
    }
  }'

입력된 답변 및 재시도를 위해 공식 SDK를 사용하세요.

Python SDK는 환경에서 TYPESAFE_API_KEY를 읽고, 기본값은 jev-latest이고, 형식화된 질문/답변 클래스를 노출하고, 기본 재시도 정책을 적용합니다.

pip install typesafe-sdk

from typesafe_sdk import Choice, Noul, TypeSafeClient

with TypeSafeClient() as client:
    response = client.system_one(
        state={"message": "Stripe has failed for 3 days.", "impact": "Losing sales"},
        questions={
            "department": Choice(
                instructions="Which team should handle this?",
                criteria={
                    "billing": "Payment or subscription issues",
                    "technical": "Bugs or integration problems",
                    "sales": "Pricing or account questions",
                },
            ),
            "is_urgent": Noul(
                instructions="Does `message` and `impact` convey urgency?"
            ),
        },
    )

department = response.answers["department"]
print(department.choice, department.confidence)
print(response.answers["is_urgent"].noul)

질문 ID 아래의 각 답변을 읽어보세요.

{
  "model": "jev-1.13.0",
  "answers": {
    "department": {
      "type": "choice",
      "choice": "technical",
      "confidence": 0.78,
      "probabilities": { "technical": 0.85, "billing": 0.15, "sales": 0.0 }
    },
    "is_urgent": { "type": "noul", "noul": 0.95 }
  },
  "usage": { "input_tokens": 392, "output_tokens": 54 }
}

전체 오류 표면 처리

import { experimental_evaluate as evaluate } from 'ai';
import { gateway } from '@ai-sdk/gateway';

const result = await evaluate({
  model: gateway('typesafe-ai/jev'),
  state,
  questions,
});

공식 참고자료: Quick start · API reference · SDKs

TypeSafe는 옵션 배포에 대한 신뢰를 드러냅니다. 실질적인 정책은 다음과 같습니다.

스트림이나 받은 편지함에서 라벨이 지정된 예시의 컷오프를 보정하세요. 임계값은 사용 사례에 따라 다릅니다. 제안을 금전으로 연결하거나 부작용을 환불하지 마십시오.

전역적으로 모델이 아닌 작업에 대한 임계값 지정

action = response.answers["action"]

if action.confidence < 0.5:
    route_to_human(state)             # uncertain: do not guess
elif action.choice == "check_balance":
    show_balance(account_id)          # reversible, low stakes
elif action.choice == "approve_transfer":
    if action.confidence > 0.9:
        confirm_then_execute(account_id)
    else:
        ask_user_to_confirm(account_id)  # higher stakes, higher bar

공식 참고자료: Confidence

하나의 완전한 지원 분류 워크플로 구축

하나의 구조화된 티켓 상태를 보내고 세 가지 독립적인 질문을 동시에 질문하세요. 라우팅 및 안전 정책을 코드로 유지하세요.

const questions = {
  department: {
    type: 'choice',
    instructions: 'Which team should handle `ticket.message`?',
    criteria: {
      returns: 'Exchanges, wrong or damaged items',
      shipping: 'Delivery status, delays, or lost packages',
      billing: 'Charges, invoices, or payment problems',
      other: 'None of the above'
    }
  },
  frustration: {
    type: 'score',
    instructions: 'How frustrated is the customer?',
    criteria: ['Calm', 'Concerned but civil', 'Very angry']
  },
  refund_requested: {
    type: 'noul',
    instructions: 'Does `ticket.message` request money back?'
  }
};

입력된 답변을 감사 가능한 결정으로 전환

const department = result.answers.department;
const frustration = result.answers.frustration;
const refundProbability = result.answers.refund_requested.noul;

if (department.confidence < 0.5) {
  return { action: 'manual_triage', reason: 'uncertain_department' };
}

const flags = [];
if (frustration.score > 1.4) flags.push('senior_agent');
if (refundProbability > 0.75) flags.push('refund_review');

return {
  action: 'route',
  team: department.choice,
  flags,
  evidence: {
    departmentProbabilities: department.probabilities,
    frustrationScore: frustration.score,
    refundProbability
  }
};

공식 참고자료: Patterns · Primitives