Do VLMs Have Bad Eyes? Diagnosing Compositional Failures via Mechanistic Interpretability
Paper • 2508.16652 • Published
num_shapes int64 1 5 | shape_0 stringclasses 5
values | color_0 stringclasses 6
values | position_0 stringclasses 5
values | shape_1 stringclasses 5
values | color_1 stringclasses 6
values | position_1 stringclasses 5
values | shape_2 stringclasses 5
values | color_2 stringclasses 6
values | position_2 stringclasses 5
values | shape_3 stringclasses 5
values | color_3 stringclasses 6
values | position_3 stringclasses 5
values | shape_4 stringclasses 5
values | color_4 stringclasses 6
values | position_4 stringclasses 5
values | image imagewidth (px) 232 232 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | pentagon | red | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | red | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | black | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | pink | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | blue | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | yellow | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | blue | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | blue | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | green | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | red | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | yellow | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | yellow | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | blue | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | pink | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | pink | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | black | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | red | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | green | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | yellow | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | black | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | yellow | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | red | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | green | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | black | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | red | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | blue | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | yellow | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | green | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | black | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | blue | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | blue | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | yellow | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | yellow | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | black | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | blue | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | green | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | pink | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | blue | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | yellow | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | blue | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | red | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | pink | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | black | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | black | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | green | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | yellow | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | yellow | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | hexagon | green | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | yellow | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | yellow | BL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | pink | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | yellow | M | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | TR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | TL | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | triangle | green | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | pentagon | black | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | pink | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | square | red | BR | null | null | null | null | null | null | null | null | null | null | null | null | |
1 | circle | red | M | null | null | null | null | null | null | null | null | null | null | null | null |
End of preview. Expand in Data Studio
This dataset is used in the work "Do VLMs Have Bad Eyes? Diagnosing Compositional Failures via Mechanistic Interpretability" Paper
For more details, please refer to the GitHub repository.
- Downloads last month
- 15
Size of downloaded dataset files:
1.35 MB
Size of the auto-converted Parquet files:
1.35 MB
Number of rows:
500