Poznaj TypeSafe Jev

Oficjalny model mentalny

Oficjalne referencje: Introduction · State · Primitives

{
  "choice": "technical",
  "probabilities": { "technical": 0.85, "billing": 0.15 },
  "confidence": 0.78
}

{
  "score": 1.43,
  "probabilities": { "0": 0.0, "1": 0.57, "2": 0.43 },
  "confidence": 0.35
}

{
  "type": "noul",
  "noul": 0.95
}

Oficjalne referencje: Choice · Score · Noul

Pisanie mocnych kryteriów

1. Opcje rozłączne. Jeśli oba klucze wyboru mogą być prawdziwe, operatorzy będą walczyć z modelem.
2. Opisz krawędzie. Powiedz, co obejmuje zamiar zakupu (zapasy, wysyłka do) w porównaniu z pytaniem o cenę.
3. Zachowaj resztę na końcu. Używaj innych/ludzi jako włazów ratunkowych, a nie leniwych łapaczy.
4. Kolejność Wynik rosnąco. Tablice kryteriów są najniższe → najwyższe.
5. Jedna decyzja na każde pytanie. Podziel „trasę” od „pilności” na osobne klucze.

Anatomia pytania

route: {
  type: 'choice',
  instructions: 'Route this ticket to one queue.',
  criteria: {
    tech: 'Bugs, outages, API failures, or integrations',
    sales: 'Pricing, plans, demos, or new-purchase intent',
    billing: 'Charges, invoices, receipts, or subscriptions',
    human: 'Ambiguous, sensitive, legal, or multi-issue'
  }
}

Stan struktury i dokładne pola odniesienia

Przechowuj dowody w nazwanych polach stanu i kieruj do nich instrukcje za pomocą ścieżek z kropkami i indeksami. Zmniejsza to niejasność co do tego, który tekst, zapis lub polityka powinny kontrolować odpowiedź.

const state = {
  ticket: {
    message: 'I was charged twice. Please refund the duplicate.',
    orderId: 'A-104'
  },
  order: { charges: [49, 49] },
  refundPolicy: 'Duplicate charges are eligible for a refund.'
};

const questions = {
  refund_requested: {
    type: 'noul',
    instructions: 'Does `ticket.message` request a refund?'
  },
  policy_supports_refund: {
    type: 'noul',
    instructions: 'Does `refundPolicy` support the request given `order.charges`?'
  }
};

Oficjalne referencje: Primitives · State

Zacznij od oficjalnego punktu końcowego HTTP

Zachowaj TYPESAFE_API_KEY na serwerze. Wyślij stan, model i mapę nazwanych pytań do POST /v1/systemone.

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Stripe has failed for 3 days. I am losing sales.",
    "model": "jev-latest",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
          "billing": "Payment or subscription issues",
          "technical": "Bugs or integration problems",
          "sales": "Pricing or account questions"
        }
      },
      "is_urgent": {
        "type": "noul",
        "instructions": "Does this message convey urgency?"
      }
    }
  }'

Użyj oficjalnego zestawu SDK do wpisanych odpowiedzi i ponownych prób

Zestaw SDK języka Python odczytuje TYPESAFE_API_KEY ze środowiska, domyślnie wybiera jev-latest, udostępnia wpisane klasy pytań/odpowiedzi i stosuje domyślne zasady ponawiania.

pip install typesafe-sdk

from typesafe_sdk import Choice, Noul, TypeSafeClient

with TypeSafeClient() as client:
    response = client.system_one(
        state={"message": "Stripe has failed for 3 days.", "impact": "Losing sales"},
        questions={
            "department": Choice(
                instructions="Which team should handle this?",
                criteria={
                    "billing": "Payment or subscription issues",
                    "technical": "Bugs or integration problems",
                    "sales": "Pricing or account questions",
                },
            ),
            "is_urgent": Noul(
                instructions="Does `message` and `impact` convey urgency?"
            ),
        },
    )

department = response.answers["department"]
print(department.choice, department.confidence)
print(response.answers["is_urgent"].noul)

Przeczytaj każdą odpowiedź pod identyfikatorem pytania

{
  "model": "jev-1.13.0",
  "answers": {
    "department": {
      "type": "choice",
      "choice": "technical",
      "confidence": 0.78,
      "probabilities": { "technical": 0.85, "billing": 0.15, "sales": 0.0 }
    },
    "is_urgent": { "type": "noul", "noul": 0.95 }
  },
  "usage": { "input_tokens": 392, "output_tokens": 54 }
}

Obsługuj całą powierzchnię błędu

import { experimental_evaluate as evaluate } from 'ai';
import { gateway } from '@ai-sdk/gateway';

const result = await evaluate({
  model: gateway('typesafe-ai/jev'),
  state,
  questions,
});

Oficjalne referencje: Quick start · API reference · SDKs

TypeSafe zapewnia pewność dystrybucji opcji. Praktyczna polityka to:

Skalibruj wartości graniczne dla oznaczonych etykietami przykładów ze swojego strumienia lub skrzynki odbiorczej. Progi zależą od przypadku użycia. Nigdy nie przelewaj sugestii na pieniądze ani nie zwracaj skutków ubocznych.

Ustal próg działania, a nie modelu globalnego

action = response.answers["action"]

if action.confidence < 0.5:
    route_to_human(state)             # uncertain: do not guess
elif action.choice == "check_balance":
    show_balance(account_id)          # reversible, low stakes
elif action.choice == "approve_transfer":
    if action.confidence > 0.9:
        confirm_then_execute(account_id)
    else:
        ask_user_to_confirm(account_id)  # higher stakes, higher bar

Oficjalne referencje: Confidence

Zbuduj jeden kompletny przepływ pracy dotyczący wsparcia i selekcji

Wyślij jeden ustrukturyzowany stan zgłoszenia i zadaj trzy niezależne pytania równolegle. Zachowaj zasady wyznaczania tras i bezpieczeństwa w kodzie.

const questions = {
  department: {
    type: 'choice',
    instructions: 'Which team should handle `ticket.message`?',
    criteria: {
      returns: 'Exchanges, wrong or damaged items',
      shipping: 'Delivery status, delays, or lost packages',
      billing: 'Charges, invoices, or payment problems',
      other: 'None of the above'
    }
  },
  frustration: {
    type: 'score',
    instructions: 'How frustrated is the customer?',
    criteria: ['Calm', 'Concerned but civil', 'Very angry']
  },
  refund_requested: {
    type: 'noul',
    instructions: 'Does `ticket.message` request money back?'
  }
};

Zamień wpisane odpowiedzi w możliwą do skontrolowania decyzję

const department = result.answers.department;
const frustration = result.answers.frustration;
const refundProbability = result.answers.refund_requested.noul;

if (department.confidence < 0.5) {
  return { action: 'manual_triage', reason: 'uncertain_department' };
}

const flags = [];
if (frustration.score > 1.4) flags.push('senior_agent');
if (refundProbability > 0.75) flags.push('refund_review');

return {
  action: 'route',
  team: department.choice,
  flags,
  evidence: {
    departmentProbabilities: department.probabilities,
    frustrationScore: frustration.score,
    refundProbability
  }
};

Oficjalne referencje: Patterns · Primitives