Чат
контекст
{{ contextUsed }} / {{ limits.contextTokens }}
Системный промпт: {{ system }}
Сервис
с запуска
{{ c.label }} × {{ c.count }}
запросов не было
Очередь
{{ status.queue.active }} / {{ limits.parallel }}
ждут {{ status.queue.waiting }} из {{ limits.maxWaiting }}
Лимит ключа
{{ status.quota.remaining }} / {{ limits.rateLimitRequests }}
{{ status.quota.resetSeconds ? 'место через ' + status.quota.resetSeconds + ' с' : 'окно ' + limits.rateLimitWindowSeconds + ' с' }}
Окно контекста
{{ limits.contextTokens }} ток.
ответ ≤ {{ limits.maxOutputTokens }} ток.
Память сервера
{{ gb(status.memory.totalBytes - status.memory.availableBytes) }} / {{ gb(status.memory.totalBytes) }} ГБ
{{ status.loaded ? 'модель ' + gb(status.loaded.sizeBytes) : 'модель не загружена' }} · swap {{ gb(status.memory.swapUsedBytes) }}
{{ status.loaded ? gb(status.loaded.sizeBytes) : '—' }} ГБ
{{ status.loaded ? 'модель в памяти' : 'модель не загружена' }}
{{ statusError || 'Загрузка статуса…' }}
Проверки
| № | Запрос | Статус | Очередь | 1-й токен | Всего | Ответ сервиса |
|---|---|---|---|---|---|---|
| {{ r.n }} | {{ r.label }} | {{ statusLabel(r.status, r.code) }} {{ r.state }} | {{ r.queue != null ? sec(r.queue) : '' }} | {{ r.first != null ? sec(r.first) : '' }} | {{ r.total != null ? sec(r.total) : '' }} | {{ r.note || r.text }} |
Три проверки сервиса из задания: несколько запросов одновременно, запрос длиннее окна контекста и серия запросов до rate limit.
Журнал запросов
все клиенты, последние {{ recent.length }}| Время | Ключ | Статус | Токены | Очередь | 1-й токен | Всего | ток/с |
|---|---|---|---|---|---|---|---|
| {{ clock(r.at) }} | {{ r.client }} | {{ statusLabel(r.status, r.code) }} | {{ r.promptTokens != null ? r.promptTokens + ' → ' + r.completionTokens : '' }} | {{ r.queueMs != null ? sec(r.queueMs) : '' }} | {{ r.firstTokenMs != null ? sec(r.firstTokenMs) : '' }} | {{ sec(r.totalMs) }} | {{ r.tokensPerSecond != null ? fmt1(r.tokensPerSecond) : '' }} |
Здесь появятся запросы от всех клиентов: из этого чата, curl и любых OpenAI-клиентов.