Как считаются метрики
TTFT — от прихода запроса до первого фрагмента текста, reasoning или tool call. Скорость — (output tokens − 1) / время между первым и последним содержательными фрагментами стрима; это приближение, поскольку один фрагмент может содержать несколько токенов. Ожидание GPU входит в TTFT, но не в скорость генерации. Для ответов без стриминга TTFT и скорость недоступны. Input включает cached input. Нулевые и неизвестные значения различаются. Тексты запросов и ответов не сохраняются. Время в таблицах — локальное, агрегация по часам UTC.По аккаунтам
| Аккаунт | Запросы | Input | Cached | Output | TTFT ср. / мед., с | Скорость ср. / мед., ток/с |
|---|
По часам
| Время | Запросы | Ошибки | Input | Cached | Output | TTFT ср. / мед., с | Скорость ср. / мед., ток/с |
|---|
Последние запросы до 100 за выбранный период
| Время | Аккаунт | Статус | Модель | Input / cached / output | TTFT, с | Ток/с | Ошибка | ID |
|---|