| { | |
| "bagel_7b_mot": { | |
| "config": { | |
| "model_key": "bagel_7b_mot", | |
| "model_name": "bagel_7b_mot" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 34.71 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 31 | |
| }, | |
| "site": { | |
| "caa": 37.02 | |
| }, | |
| "viewspatial": { | |
| "acc": 41.32 | |
| }, | |
| "vsi_bench": { | |
| "acc": 31.42 | |
| } | |
| } | |
| }, | |
| "cambrian_s_3b": { | |
| "config": { | |
| "model_key": "cambrian_s_3b", | |
| "model_name": "cambrian_s_3b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 38.36 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 27 | |
| }, | |
| "site": { | |
| "caa": 30.98 | |
| }, | |
| "viewspatial": { | |
| "acc": 40.97 | |
| }, | |
| "vsi_bench": { | |
| "acc": 56.08 | |
| } | |
| } | |
| }, | |
| "cambrian_s_7b": { | |
| "config": { | |
| "model_key": "cambrian_s_7b", | |
| "model_name": "cambrian_s_7b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 37.88 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 27.1 | |
| }, | |
| "site": { | |
| "caa": 36.15 | |
| }, | |
| "viewspatial": { | |
| "acc": 41.28 | |
| }, | |
| "vsi_bench": { | |
| "acc": 62.92 | |
| } | |
| } | |
| }, | |
| "gemini_2.5_pro": { | |
| "config": { | |
| "model_key": "gemini_2.5_pro", | |
| "model_name": "gemini_2.5_pro" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 57.6 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 38 | |
| }, | |
| "site": { | |
| "caa": 57.06 | |
| }, | |
| "viewspatial": { | |
| "acc": 46.06 | |
| }, | |
| "vsi_bench": { | |
| "acc": 53.57 | |
| } | |
| } | |
| }, | |
| "gemini_3_pro": { | |
| "config": { | |
| "model_key": "gemini_3_pro", | |
| "model_name": "gemini_3_pro" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 70.87 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 45.2 | |
| }, | |
| "site": { | |
| "caa": 62.25 | |
| }, | |
| "viewspatial": { | |
| "acc": 50.36 | |
| }, | |
| "vsi_bench": { | |
| "acc": 52.51 | |
| } | |
| } | |
| }, | |
| "gpt_5": { | |
| "config": { | |
| "model_key": "gpt_5", | |
| "model_name": "gpt_5" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 56.3 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 41.8 | |
| }, | |
| "site": { | |
| "caa": 61.88 | |
| }, | |
| "viewspatial": { | |
| "acc": 45.59 | |
| }, | |
| "vsi_bench": { | |
| "acc": 55.03 | |
| } | |
| } | |
| }, | |
| "grok_4": { | |
| "config": { | |
| "model_key": "grok_4", | |
| "model_name": "grok_4" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 63.56 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 37.8 | |
| }, | |
| "site": { | |
| "caa": 47.01 | |
| }, | |
| "viewspatial": { | |
| "acc": 43.23 | |
| }, | |
| "vsi_bench": { | |
| "acc": 47.92 | |
| } | |
| } | |
| }, | |
| "internvl3_2b": { | |
| "config": { | |
| "model_key": "internvl3_2b", | |
| "model_name": "internvl3_2b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 37.5 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 26.5 | |
| }, | |
| "site": { | |
| "caa": 30.03 | |
| }, | |
| "viewspatial": { | |
| "acc": 32.56 | |
| }, | |
| "vsi_bench": { | |
| "acc": 32.98 | |
| } | |
| } | |
| }, | |
| "internvl3_8b": { | |
| "config": { | |
| "model_key": "internvl3_8b", | |
| "model_name": "internvl3_8b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 41.54 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 28 | |
| }, | |
| "site": { | |
| "caa": 41.15 | |
| }, | |
| "viewspatial": { | |
| "acc": 38.66 | |
| }, | |
| "vsi_bench": { | |
| "acc": 42.14 | |
| } | |
| } | |
| }, | |
| "mindcube_qwen2.5vl_rawqa_sft": { | |
| "config": { | |
| "model_key": "mindcube_qwen2.5vl_rawqa_sft", | |
| "model_name": "mindcube_qwen2.5vl_rawqa_sft" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 51.73 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 1.7 | |
| }, | |
| "site": { | |
| "caa": 6.31 | |
| }, | |
| "viewspatial": { | |
| "acc": 24.14 | |
| }, | |
| "vsi_bench": { | |
| "acc": 17.24 | |
| } | |
| } | |
| }, | |
| "qwen2.5_vl_3b_instruct": { | |
| "config": { | |
| "model_key": "qwen2.5_vl_3b_instruct", | |
| "model_name": "qwen2.5_vl_3b_instruct" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 37.6 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 28.6 | |
| }, | |
| "site": { | |
| "caa": 33.14 | |
| }, | |
| "viewspatial": { | |
| "acc": 31.97 | |
| }, | |
| "vsi_bench": { | |
| "acc": 27 | |
| } | |
| } | |
| }, | |
| "qwen2.5_vl_7b_instruct": { | |
| "config": { | |
| "model_key": "qwen2.5_vl_7b_instruct", | |
| "model_name": "qwen2.5_vl_7b_instruct" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 36.05 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 26.8 | |
| }, | |
| "site": { | |
| "caa": 37.64 | |
| }, | |
| "viewspatial": { | |
| "acc": 36.85 | |
| }, | |
| "vsi_bench": { | |
| "acc": 32.3 | |
| } | |
| } | |
| }, | |
| "qwen3_vl_2b_instruct": { | |
| "config": { | |
| "model_key": "qwen3_vl_2b_instruct", | |
| "model_name": "qwen3_vl_2b_instruct" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 34.52 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 28.9 | |
| }, | |
| "site": { | |
| "caa": 35.66 | |
| }, | |
| "viewspatial": { | |
| "acc": 36.97 | |
| }, | |
| "vsi_bench": { | |
| "acc": 50.36 | |
| } | |
| } | |
| }, | |
| "qwen3_vl_8b_instruct": { | |
| "config": { | |
| "model_key": "qwen3_vl_8b_instruct", | |
| "model_name": "qwen3_vl_8b_instruct" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 29.42 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 31.1 | |
| }, | |
| "site": { | |
| "caa": 45.83 | |
| }, | |
| "viewspatial": { | |
| "acc": 42.2 | |
| }, | |
| "vsi_bench": { | |
| "acc": 57.9 | |
| } | |
| } | |
| }, | |
| "seed_1.6": { | |
| "config": { | |
| "model_key": "seed_1.6", | |
| "model_name": "seed_1.6" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 48.75 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 38.3 | |
| }, | |
| "site": { | |
| "caa": 54.61 | |
| }, | |
| "viewspatial": { | |
| "acc": 43.86 | |
| }, | |
| "vsi_bench": { | |
| "acc": 49.91 | |
| } | |
| } | |
| }, | |
| "sensenova_si_1.1_bagel_7b_mot": { | |
| "config": { | |
| "model_key": "sensenova_si_1.1_bagel_7b_mot", | |
| "model_name": "sensenova_si_1.1_bagel_7b_mot" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 50.8 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 36.2 | |
| }, | |
| "site": { | |
| "caa": 41.6 | |
| }, | |
| "viewspatial": { | |
| "acc": 50.3 | |
| }, | |
| "vsi_bench": { | |
| "acc": 41.6 | |
| } | |
| } | |
| }, | |
| "sensenova_si_1.1_internvl3_2b": { | |
| "config": { | |
| "model_key": "sensenova_si_1.1_internvl3_2b", | |
| "model_name": "sensenova_si_1.1_internvl3_2b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 41.83 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 34.2 | |
| }, | |
| "site": { | |
| "caa": 36.78 | |
| }, | |
| "viewspatial": { | |
| "acc": 52.66 | |
| }, | |
| "vsi_bench": { | |
| "acc": 63.72 | |
| } | |
| } | |
| }, | |
| "sensenova_si_1.1_internvl3_8b": { | |
| "config": { | |
| "model_key": "sensenova_si_1.1_internvl3_8b", | |
| "model_name": "sensenova_si_1.1_internvl3_8b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 85.67 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 43.3 | |
| }, | |
| "site": { | |
| "caa": 47.74 | |
| }, | |
| "viewspatial": { | |
| "acc": 54.67 | |
| }, | |
| "vsi_bench": { | |
| "acc": 68.78 | |
| } | |
| } | |
| }, | |
| "sensenova_si_1.1_qwen3_vl_8b": { | |
| "config": { | |
| "model_key": "sensenova_si_1.1_qwen3_vl_8b", | |
| "model_name": "sensenova_si_1.1_qwen3_vl_8b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 74.8 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 37.5 | |
| }, | |
| "site": { | |
| "caa": 50.1 | |
| }, | |
| "viewspatial": { | |
| "acc": 48.4 | |
| }, | |
| "vsi_bench": { | |
| "acc": 62.9 | |
| } | |
| } | |
| }, | |
| "spacer_sft_7b": { | |
| "config": { | |
| "model_key": "spacer_sft_7b", | |
| "model_name": "spacer_sft_7b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 37.98 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 27.4 | |
| }, | |
| "site": { | |
| "caa": 34.27 | |
| }, | |
| "viewspatial": { | |
| "acc": 35.85 | |
| }, | |
| "vsi_bench": { | |
| "acc": 41.56 | |
| } | |
| } | |
| }, | |
| "spatial_mllm_subset_sft": { | |
| "config": { | |
| "model_key": "spatial_mllm_subset_sft", | |
| "model_name": "spatial_mllm_subset_sft" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 33.46 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 26.1 | |
| }, | |
| "site": { | |
| "caa": 18.02 | |
| }, | |
| "viewspatial": { | |
| "acc": 34.66 | |
| }, | |
| "vsi_bench": { | |
| "acc": 46.33 | |
| } | |
| } | |
| }, | |
| "spatialladder_3b": { | |
| "config": { | |
| "model_key": "spatialladder_3b", | |
| "model_name": "spatialladder_3b" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 43.46 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 27.4 | |
| }, | |
| "site": { | |
| "caa": 27.96 | |
| }, | |
| "viewspatial": { | |
| "acc": 39.85 | |
| }, | |
| "vsi_bench": { | |
| "acc": 44.86 | |
| } | |
| } | |
| }, | |
| "vilasr": { | |
| "config": { | |
| "model_key": "vilasr", | |
| "model_name": "vilasr" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 35.1 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 30.2 | |
| }, | |
| "site": { | |
| "caa": 38.74 | |
| }, | |
| "viewspatial": { | |
| "acc": 35.71 | |
| }, | |
| "vsi_bench": { | |
| "acc": 44.63 | |
| } | |
| } | |
| }, | |
| "vst_3b_sft": { | |
| "config": { | |
| "model_key": "vst_3b_sft", | |
| "model_name": "vst_3b_sft" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 35.96 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 28.8 | |
| }, | |
| "site": { | |
| "caa": 35.89 | |
| }, | |
| "viewspatial": { | |
| "acc": 52.89 | |
| }, | |
| "vsi_bench": { | |
| "acc": 51.38 | |
| } | |
| } | |
| }, | |
| "vst_7b_sft": { | |
| "config": { | |
| "model_key": "vst_7b_sft", | |
| "model_name": "vst_7b_sft" | |
| }, | |
| "results": { | |
| "mindcube_tiny": { | |
| "acc": 39.71 | |
| }, | |
| "mmsi_bench": { | |
| "acc": 32.5 | |
| }, | |
| "site": { | |
| "caa": 39.66 | |
| }, | |
| "viewspatial": { | |
| "acc": 50.53 | |
| }, | |
| "vsi_bench": { | |
| "acc": 55.5 | |
| } | |
| } | |
| } | |
| } |