publish: 21 run(s) — 09d8fbde-0008-49bb-99da-03eeaca72be1, 1bf57c9a-fd7a-49aa-90de-cd1907b15ddd, 212d6278-1b9b-45e9-8aae-7eed4d4ec822…
This commit is contained in:
@@ -2,13 +2,16 @@
|
||||
"id": "ff1131ca-d021-4e06-8616-4b4cdb54e97e",
|
||||
"title": "pavilion-weeyuga-v1 \u2014 qwen2.5/qwen2.5-coder/qwen3/qwen3.5 on pavilion",
|
||||
"date": "2026-04-28",
|
||||
"started_at": "2026-04-28T21:03:46Z",
|
||||
"git_sha": "9934892784228748586130d8abbacd82a919aee2",
|
||||
"hardware": "pavilion",
|
||||
"hardware_label": "Pavilion \u00b7 HP laptop \u00b7 GTX 1050 4 GB \u00b7 16 GB RAM \u00b7 i7-9750H",
|
||||
"engine": "weeyuga",
|
||||
"harness": "pavilion-weeyuga-v1",
|
||||
"model_family": "qwen2.5/qwen2.5-coder/qwen3/qwen3.5",
|
||||
"model_sizes": [
|
||||
"qwen3.5:4b",
|
||||
"qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"qwen3.5:35b-a3b-uncensored",
|
||||
"qwen3.5:35b-a3b-iq2s",
|
||||
"qwen3.5:9b-q6k",
|
||||
"qwen3.5:9b",
|
||||
@@ -23,161 +26,7 @@
|
||||
"qwen2.5-coder:1.5b",
|
||||
"qwen2.5-coder:0.5b"
|
||||
],
|
||||
"task_kind": null,
|
||||
"headline": "17 calls across 16 cell(s); 3 errors",
|
||||
"summary_md_path": null,
|
||||
"raw_jsonl_path": "runs/ff1131ca-d021-4e06-8616-4b4cdb54e97e.jsonl",
|
||||
"log_path": null,
|
||||
"synthesis_doc": "PAVILION_WEEYUGA_v1.md",
|
||||
"cells": [
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:4b",
|
||||
"n_calls": 2,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-iq2s",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q6k",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q4km",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:2b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:0.8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:4b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:1.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:0.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_max": null
|
||||
}
|
||||
],
|
||||
"n_calls_total": 17,
|
||||
"n_errors_total": 3,
|
||||
"started_at": "2026-04-28T21:03:46Z",
|
||||
"task_kind": "chat",
|
||||
"tags": [
|
||||
"a3b",
|
||||
"iq2",
|
||||
@@ -187,6 +36,506 @@
|
||||
"qwen3.5",
|
||||
"weeyuga"
|
||||
],
|
||||
"headline": "17 calls across 16 cell(s); 3 errors",
|
||||
"janie_blurb_md": null,
|
||||
"janie_blurb_status": "pending",
|
||||
"caveat": null,
|
||||
"caveat_severity": null,
|
||||
"methodology_ref": "PAVILION_WEEYUGA_v1",
|
||||
"methodology_deviations_md": null,
|
||||
"results_table": [
|
||||
{
|
||||
"label": "qwen3.5:4b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:4b",
|
||||
"n_calls": 2,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:35b-a3b-iq2s",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-iq2s",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:9b-q6k",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q6k",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:9b-q4km",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q4km",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:2b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:2b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:0.8b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:0.8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3.5:9b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen2.5-coder:14b",
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen2.5-coder:3b",
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3:14b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3:8b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3:8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen3:4b",
|
||||
"cell_id": "pavilion:weeyuga:qwen3:4b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen2.5:3b",
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen2.5-coder:1.5b",
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:1.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
},
|
||||
{
|
||||
"label": "qwen2.5-coder:0.5b",
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:0.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"memory_mb": null,
|
||||
"watts_avg": null,
|
||||
"notes": null
|
||||
}
|
||||
],
|
||||
"cells": [
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:4b",
|
||||
"n_calls": 2,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:35b-a3b-iq2s",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q6k",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b-q4km",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:2b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:0.8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3.5:9b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:14b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:8b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen3:4b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5:3b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:1.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
},
|
||||
{
|
||||
"cell_id": "pavilion:weeyuga:qwen2.5-coder:0.5b",
|
||||
"n_calls": 1,
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null
|
||||
}
|
||||
],
|
||||
"n_calls_total": 17,
|
||||
"n_errors_total": 3,
|
||||
"chart_spec": {
|
||||
"kind": "bar",
|
||||
"x": "cell",
|
||||
"y": "tokens_per_sec_mean",
|
||||
"series": [
|
||||
"qwen3.5:4b",
|
||||
"qwen3.5:35b-a3b-uncensored-iq1m",
|
||||
"qwen3.5:35b-a3b-iq2s",
|
||||
"qwen3.5:9b-q6k",
|
||||
"qwen3.5:9b-q4km",
|
||||
"qwen3.5:2b",
|
||||
"qwen3.5:0.8b",
|
||||
"qwen3.5:9b",
|
||||
"qwen2.5-coder:14b",
|
||||
"qwen2.5-coder:3b",
|
||||
"qwen3:14b",
|
||||
"qwen3:8b",
|
||||
"qwen3:4b",
|
||||
"qwen2.5:3b",
|
||||
"qwen2.5-coder:1.5b",
|
||||
"qwen2.5-coder:0.5b"
|
||||
],
|
||||
"data_url": "/data/ff1131ca-d021-4e06-8616-4b4cdb54e97e/run.jsonl"
|
||||
},
|
||||
"site_grade": "archive-only",
|
||||
"site_grade_reason": "error rate 3/17",
|
||||
"raw_data_urls": {
|
||||
"jsonl": "/data/ff1131ca-d021-4e06-8616-4b4cdb54e97e/run.jsonl",
|
||||
"log": null,
|
||||
"md": null,
|
||||
"metadata": "/data/ff1131ca-d021-4e06-8616-4b4cdb54e97e/metadata.json",
|
||||
"gitea_dir": "https://git.weeyuga.com/slobodanmargetic988/weeyuga-benchmarks-public/src/branch/main/runs/ff1131ca-d021-4e06-8616-4b4cdb54e97e/"
|
||||
},
|
||||
"synthesis_doc": "PAVILION_WEEYUGA_v1.md",
|
||||
"synthesis_docs_all": [
|
||||
"PAVILION_WEEYUGA_v1.md",
|
||||
"PAVILION_LLAMACPP_VS_OLLAMA_v0_INCOMPLETE.md"
|
||||
],
|
||||
"related_ids": [],
|
||||
"status": "complete",
|
||||
"visibility": "draft",
|
||||
"cells_full": [
|
||||
@@ -196,7 +545,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -266,7 +618,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -302,7 +657,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -338,7 +696,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -374,7 +735,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -410,7 +774,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -446,7 +813,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -482,7 +852,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -518,7 +891,10 @@
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -554,7 +930,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -590,7 +969,10 @@
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -626,7 +1008,10 @@
|
||||
"n_errors": 1,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -662,7 +1047,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -698,7 +1086,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -734,7 +1125,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -770,7 +1164,10 @@
|
||||
"n_errors": 0,
|
||||
"duration_ms_mean": null,
|
||||
"duration_ms_p50": null,
|
||||
"duration_ms_p95": null,
|
||||
"tokens_per_sec_mean": null,
|
||||
"tokens_per_sec_p50": null,
|
||||
"tokens_per_sec_p95": null,
|
||||
"tokens_per_sec_max": null,
|
||||
"calls": [
|
||||
{
|
||||
@@ -846,5 +1243,5 @@
|
||||
"env_inference_route": null,
|
||||
"env_llamacpp_url": null
|
||||
},
|
||||
"packaged_at": "2026-05-05T17:43:34Z"
|
||||
"packaged_at": "2026-05-06T08:04:27Z"
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user