Решения.

Метод POST /v1/decisions. Модель в ответе всегда yourstack-decide.

Тело запроса.

state — строка, объект или массив. question — строка. options — от 2 до 16 объектов с уникальными id и непустым description. Поле id самого запроса необязательно.

Вход длиннее 1536 токенов отклоняется. Обрезать его сервис не будет.

curl -s https://yourstack.ru/v1/decisions \
  -H "Authorization: Bearer esli_…" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Клиент не может войти после сброса пароля.",
    "question": "В какую очередь отправить обращение?",
    "options": [
      {"id": "access", "description": "Доступ к аккаунту."},
      {"id": "billing", "description": "Оплата и счета."}
    ]
  }'

Ответ.

{
  "id": "…",
  "choice": "access",
  "options": [
    {"id": "access", "probability": 0.91},
    {"id": "billing", "probability": 0.09}
  ],
  "input_tokens": 113,
  "latency_ms": 150,
  "model": "yourstack-decide",
  "probability_status": "conditional option score; uncalibrated as decision confidence",
  "cost_rub": 0.01,
  "balance_rub": 499.99
}

choice — вариант с наибольшей вероятностью. Тарифицируются только входные токены: модель не пишет выходной текст. Тариф — 2,83 ₽ за 1 млн входных токенов. Сумма за вызов округляется вверх до 0,01 ₽.

Что значит вероятность.

Это softmax только по буквам тех вариантов, которые вы прислали. Это не откалиброванная уверенность. Порог для своего сценария нужно снять на своих данных.

Пробный POST /v1/demo бесплатный и без ключа. У него короче лимиты: состояние строкой до 1500 символов, вопрос до 240, от 2 до 4 вариантов, описание до 180 символов, не больше 6 запросов в минуту с одного адреса.