LLM
·
BENCH
MDL-11434 / 本地推理测试台
STANDBY
01 — Endpoint
Base URL
API Key(可留空)
Protocol
自动探测
Ollama 原生
OpenAI 兼容
连接
未连接
Model
— 先连接 —
02 — Parameters
复位
System prompt
Temp
Top P
Num ctx
Max out
Thinking
跟随模型
关闭
开启
History
多轮
单轮
03 — Rigs
存为预设
04 — Session
0 轮
导出
清空
Ready when the rig is
左侧填端点后点「连接」,模型列表会自动拉取。下面这些是给本地模型做冒烟测试用的,点一下就填进输入框。
发送
停止
05 — Telemetry
接入
CPU
GPU
MEM
未接入探针 · 静态页面读不到主机状态,需在跑模型的机器上起一个 agent(见 README)