id
stringlengths 30
44
| image
listlengths 2
2
| instruction
stringlengths 50
175
| latent_action
listlengths 224
224
| latent_state
listlengths 1
1
| fields
stringclasses 1
value | fields_ls_only
stringclasses 1
value |
|---|---|---|---|---|---|---|
fractal20220817_data_episode_069661_0001.png
|
[
"fractal20220817_data/processed/episode_069661/images/0000.png",
"fractal20220817_data/processed/episode_069661/images/0001.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"2",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"5",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"5",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"1",
"1",
"5",
"1",
"1",
"1",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"5",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"5",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"5",
"0",
"0",
"1",
"2",
"0",
"2",
"0",
"1"
] |
[
"fractal20220817_data/processed/episode_069661/images/0015.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0002.png
|
[
"fractal20220817_data/processed/episode_069661/images/0001.png",
"fractal20220817_data/processed/episode_069661/images/0002.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0016.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0003.png
|
[
"fractal20220817_data/processed/episode_069661/images/0002.png",
"fractal20220817_data/processed/episode_069661/images/0003.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"6",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"6",
"3",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"6",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"2",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0017.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0004.png
|
[
"fractal20220817_data/processed/episode_069661/images/0003.png",
"fractal20220817_data/processed/episode_069661/images/0004.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0018.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0005.png
|
[
"fractal20220817_data/processed/episode_069661/images/0004.png",
"fractal20220817_data/processed/episode_069661/images/0005.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6"
] |
[
"fractal20220817_data/processed/episode_069661/images/0019.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0006.png
|
[
"fractal20220817_data/processed/episode_069661/images/0005.png",
"fractal20220817_data/processed/episode_069661/images/0006.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"3",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"2",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"3",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0020.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0007.png
|
[
"fractal20220817_data/processed/episode_069661/images/0006.png",
"fractal20220817_data/processed/episode_069661/images/0007.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"1",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0021.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0008.png
|
[
"fractal20220817_data/processed/episode_069661/images/0007.png",
"fractal20220817_data/processed/episode_069661/images/0008.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"6",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"6",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0022.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0009.png
|
[
"fractal20220817_data/processed/episode_069661/images/0008.png",
"fractal20220817_data/processed/episode_069661/images/0009.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"2",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"6",
"2",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0023.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0010.png
|
[
"fractal20220817_data/processed/episode_069661/images/0009.png",
"fractal20220817_data/processed/episode_069661/images/0010.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"2",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"6",
"6",
"2",
"1",
"2",
"1",
"0",
"1",
"3",
"2",
"1",
"1",
"0",
"1",
"1",
"0",
"6",
"0",
"1",
"1",
"2",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"6",
"2",
"2",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0024.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0011.png
|
[
"fractal20220817_data/processed/episode_069661/images/0010.png",
"fractal20220817_data/processed/episode_069661/images/0011.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"2",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"2",
"2",
"0",
"0",
"0",
"1",
"1",
"3",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"6",
"6",
"6",
"2",
"0",
"0",
"0",
"1",
"1",
"1",
"2",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"6",
"2",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0025.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0012.png
|
[
"fractal20220817_data/processed/episode_069661/images/0011.png",
"fractal20220817_data/processed/episode_069661/images/0012.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"1",
"6",
"0",
"2",
"0",
"0",
"0",
"1",
"1",
"3",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"5",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0026.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0013.png
|
[
"fractal20220817_data/processed/episode_069661/images/0012.png",
"fractal20220817_data/processed/episode_069661/images/0013.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"2",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"2",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"6",
"2",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"6",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"2",
"6",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_069661/images/0027.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0014.png
|
[
"fractal20220817_data/processed/episode_069661/images/0013.png",
"fractal20220817_data/processed/episode_069661/images/0014.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"1",
"3",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0028.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0015.png
|
[
"fractal20220817_data/processed/episode_069661/images/0014.png",
"fractal20220817_data/processed/episode_069661/images/0015.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0016.png
|
[
"fractal20220817_data/processed/episode_069661/images/0015.png",
"fractal20220817_data/processed/episode_069661/images/0016.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"3",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_069661/images/0030.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0017.png
|
[
"fractal20220817_data/processed/episode_069661/images/0016.png",
"fractal20220817_data/processed/episode_069661/images/0017.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0018.png
|
[
"fractal20220817_data/processed/episode_069661/images/0017.png",
"fractal20220817_data/processed/episode_069661/images/0018.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3",
"1",
"0",
"3",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"2",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0019.png
|
[
"fractal20220817_data/processed/episode_069661/images/0018.png",
"fractal20220817_data/processed/episode_069661/images/0019.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0020.png
|
[
"fractal20220817_data/processed/episode_069661/images/0019.png",
"fractal20220817_data/processed/episode_069661/images/0020.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"0",
"3",
"1",
"0",
"3",
"3",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"3",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"0",
"3",
"0",
"0",
"1",
"3",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0021.png
|
[
"fractal20220817_data/processed/episode_069661/images/0020.png",
"fractal20220817_data/processed/episode_069661/images/0021.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0022.png
|
[
"fractal20220817_data/processed/episode_069661/images/0021.png",
"fractal20220817_data/processed/episode_069661/images/0022.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"3",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"3",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0023.png
|
[
"fractal20220817_data/processed/episode_069661/images/0022.png",
"fractal20220817_data/processed/episode_069661/images/0023.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"3",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"6",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"3",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"6",
"2",
"0",
"3",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0024.png
|
[
"fractal20220817_data/processed/episode_069661/images/0023.png",
"fractal20220817_data/processed/episode_069661/images/0024.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"1",
"1",
"3",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"0",
"1",
"1",
"3",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"3",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"3",
"3",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0025.png
|
[
"fractal20220817_data/processed/episode_069661/images/0024.png",
"fractal20220817_data/processed/episode_069661/images/0025.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0026.png
|
[
"fractal20220817_data/processed/episode_069661/images/0025.png",
"fractal20220817_data/processed/episode_069661/images/0026.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"2",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0027.png
|
[
"fractal20220817_data/processed/episode_069661/images/0026.png",
"fractal20220817_data/processed/episode_069661/images/0027.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0028.png
|
[
"fractal20220817_data/processed/episode_069661/images/0027.png",
"fractal20220817_data/processed/episode_069661/images/0028.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0029.png
|
[
"fractal20220817_data/processed/episode_069661/images/0028.png",
"fractal20220817_data/processed/episode_069661/images/0029.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0030.png
|
[
"fractal20220817_data/processed/episode_069661/images/0029.png",
"fractal20220817_data/processed/episode_069661/images/0030.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_069661_0031.png
|
[
"fractal20220817_data/processed/episode_069661/images/0030.png",
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_069661/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0000.png
|
[
"fractal20220817_data/processed/episode_060115/images/0000.png",
"fractal20220817_data/processed/episode_060115/images/0000.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"2",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"2",
"0",
"0",
"3",
"4",
"0",
"2",
"2",
"1",
"1",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0014.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0001.png
|
[
"fractal20220817_data/processed/episode_060115/images/0000.png",
"fractal20220817_data/processed/episode_060115/images/0001.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"2",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"2",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"2",
"2",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"6",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"3",
"6",
"0",
"0",
"3",
"0",
"1",
"0",
"6",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"2",
"2",
"0",
"1",
"1",
"0",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0015.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0002.png
|
[
"fractal20220817_data/processed/episode_060115/images/0001.png",
"fractal20220817_data/processed/episode_060115/images/0002.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"2",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"1",
"3",
"3",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"0",
"1",
"0",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"2",
"2",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"1",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0016.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0003.png
|
[
"fractal20220817_data/processed/episode_060115/images/0002.png",
"fractal20220817_data/processed/episode_060115/images/0003.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"2",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"2",
"1",
"1",
"3",
"0",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"1",
"0",
"1",
"0",
"2",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"0",
"2",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"6",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"0",
"6",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"3",
"6",
"0",
"2",
"1",
"0",
"1",
"0",
"6",
"1",
"1",
"0",
"5",
"0",
"0",
"3",
"3",
"1",
"0",
"2",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"5",
"0",
"1",
"3",
"3",
"1",
"0",
"0",
"3",
"3",
"1",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"3",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_060115/images/0017.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0004.png
|
[
"fractal20220817_data/processed/episode_060115/images/0003.png",
"fractal20220817_data/processed/episode_060115/images/0004.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"2",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"0",
"1",
"0",
"1",
"0",
"2",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"2",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"2",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"1",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"2",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"5",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"3",
"1",
"0",
"3",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"6",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0018.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0005.png
|
[
"fractal20220817_data/processed/episode_060115/images/0004.png",
"fractal20220817_data/processed/episode_060115/images/0005.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"3",
"3",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"3",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"6",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"3",
"6",
"0",
"0",
"0",
"0",
"1",
"0",
"6",
"1",
"1",
"1",
"0",
"6",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0019.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0006.png
|
[
"fractal20220817_data/processed/episode_060115/images/0005.png",
"fractal20220817_data/processed/episode_060115/images/0006.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"3",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"5",
"0",
"1",
"1",
"6",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"5",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"6",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"5",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"1",
"1",
"5",
"0",
"1",
"3",
"6",
"1",
"1",
"0",
"6",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"6",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"6",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"2",
"2",
"1",
"0",
"1",
"6",
"1",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0020.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0007.png
|
[
"fractal20220817_data/processed/episode_060115/images/0006.png",
"fractal20220817_data/processed/episode_060115/images/0007.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"3",
"1",
"3",
"6",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"0",
"6",
"0",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"3",
"3",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"5",
"6",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"5",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"3",
"3",
"6",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0021.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0008.png
|
[
"fractal20220817_data/processed/episode_060115/images/0007.png",
"fractal20220817_data/processed/episode_060115/images/0008.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"3",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"6",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"3",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"6",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"6",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"0",
"0",
"1",
"1",
"6",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"2",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0022.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0009.png
|
[
"fractal20220817_data/processed/episode_060115/images/0008.png",
"fractal20220817_data/processed/episode_060115/images/0009.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"6",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"3",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"6",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"1",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"6",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"2",
"0",
"2",
"0",
"0",
"0",
"0",
"2",
"2"
] |
[
"fractal20220817_data/processed/episode_060115/images/0023.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0010.png
|
[
"fractal20220817_data/processed/episode_060115/images/0009.png",
"fractal20220817_data/processed/episode_060115/images/0010.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"6",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"6",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"2",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"2",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"2",
"0",
"2",
"0",
"2",
"0",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_060115/images/0024.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0011.png
|
[
"fractal20220817_data/processed/episode_060115/images/0010.png",
"fractal20220817_data/processed/episode_060115/images/0011.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"6",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"2",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"2",
"1",
"0",
"0",
"2",
"2",
"2",
"0",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_060115/images/0025.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0012.png
|
[
"fractal20220817_data/processed/episode_060115/images/0011.png",
"fractal20220817_data/processed/episode_060115/images/0012.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"3",
"3",
"1",
"0",
"3",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"3",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"6",
"1",
"0",
"0",
"2",
"0",
"1",
"3",
"0",
"1",
"0",
"1",
"6",
"6",
"2",
"0",
"1",
"0",
"0",
"0",
"2",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"2",
"0",
"1",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_060115/images/0026.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0013.png
|
[
"fractal20220817_data/processed/episode_060115/images/0012.png",
"fractal20220817_data/processed/episode_060115/images/0013.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"0",
"2",
"0",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"6",
"2",
"2",
"1",
"0",
"0",
"0",
"2",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"5",
"1",
"1",
"1",
"2",
"0",
"1",
"0",
"0",
"1",
"2",
"1",
"3",
"2",
"0",
"6",
"2",
"0",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_060115/images/0027.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0014.png
|
[
"fractal20220817_data/processed/episode_060115/images/0013.png",
"fractal20220817_data/processed/episode_060115/images/0014.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"3",
"3",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"3",
"3",
"1",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"3",
"1",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"3",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"2",
"3",
"3",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"6",
"6",
"0",
"1",
"3",
"0",
"1",
"1",
"6",
"2",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"3",
"6",
"0",
"0",
"1",
"3",
"6",
"0",
"6",
"2",
"6",
"0",
"2",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0028.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0015.png
|
[
"fractal20220817_data/processed/episode_060115/images/0014.png",
"fractal20220817_data/processed/episode_060115/images/0015.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"1",
"2",
"0",
"2",
"1",
"1",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"3",
"2",
"1",
"6",
"0",
"6",
"0",
"2",
"0",
"3",
"0",
"1",
"3",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"6",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0016.png
|
[
"fractal20220817_data/processed/episode_060115/images/0015.png",
"fractal20220817_data/processed/episode_060115/images/0016.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"2",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"2",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"1",
"0",
"0",
"6",
"2",
"2",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"3",
"0",
"0",
"0",
"3",
"3",
"2",
"0",
"6",
"0",
"6",
"0",
"2",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"6",
"1",
"0",
"3",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0017.png
|
[
"fractal20220817_data/processed/episode_060115/images/0016.png",
"fractal20220817_data/processed/episode_060115/images/0017.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"1",
"0",
"1",
"0",
"2",
"6",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"3",
"2",
"0",
"6",
"0",
"6",
"0",
"2",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"3",
"1",
"3",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"3",
"3",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0018.png
|
[
"fractal20220817_data/processed/episode_060115/images/0017.png",
"fractal20220817_data/processed/episode_060115/images/0018.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"6",
"1",
"0",
"0",
"6",
"2",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"3",
"0",
"6",
"0",
"1",
"3",
"2",
"0",
"6",
"0",
"6",
"0",
"2",
"0",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"3",
"1",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"6"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0019.png
|
[
"fractal20220817_data/processed/episode_060115/images/0018.png",
"fractal20220817_data/processed/episode_060115/images/0019.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"6",
"0",
"2",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"3",
"0",
"0",
"0",
"1",
"3",
"2",
"0",
"0",
"0",
"6",
"0",
"2",
"0",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0020.png
|
[
"fractal20220817_data/processed/episode_060115/images/0019.png",
"fractal20220817_data/processed/episode_060115/images/0020.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"0",
"0",
"2",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"1",
"3",
"2",
"0",
"0",
"0",
"6",
"0",
"2",
"6",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0021.png
|
[
"fractal20220817_data/processed/episode_060115/images/0020.png",
"fractal20220817_data/processed/episode_060115/images/0021.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"3",
"2",
"1",
"0",
"0",
"6",
"2",
"2",
"6",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0022.png
|
[
"fractal20220817_data/processed/episode_060115/images/0021.png",
"fractal20220817_data/processed/episode_060115/images/0022.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"3",
"0",
"0",
"6",
"6",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"6",
"2",
"2",
"6",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0023.png
|
[
"fractal20220817_data/processed/episode_060115/images/0022.png",
"fractal20220817_data/processed/episode_060115/images/0023.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"6",
"2",
"2",
"6",
"1",
"1",
"1",
"3",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"1",
"0",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0024.png
|
[
"fractal20220817_data/processed/episode_060115/images/0023.png",
"fractal20220817_data/processed/episode_060115/images/0024.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"0",
"0",
"1",
"3",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"6",
"2",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"3",
"1",
"2",
"0",
"0",
"0",
"6",
"0",
"2",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0025.png
|
[
"fractal20220817_data/processed/episode_060115/images/0024.png",
"fractal20220817_data/processed/episode_060115/images/0025.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0026.png
|
[
"fractal20220817_data/processed/episode_060115/images/0025.png",
"fractal20220817_data/processed/episode_060115/images/0026.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"6",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"0",
"1",
"1"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0027.png
|
[
"fractal20220817_data/processed/episode_060115/images/0026.png",
"fractal20220817_data/processed/episode_060115/images/0027.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"1",
"1",
"3",
"3",
"3",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0028.png
|
[
"fractal20220817_data/processed/episode_060115/images/0027.png",
"fractal20220817_data/processed/episode_060115/images/0028.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"2",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_060115_0029.png
|
[
"fractal20220817_data/processed/episode_060115/images/0028.png",
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_060115/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0000.png
|
[
"fractal20220817_data/processed/episode_070078/images/0000.png",
"fractal20220817_data/processed/episode_070078/images/0000.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"3",
"0",
"1",
"3",
"6",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"3",
"6",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"6",
"3",
"0",
"2",
"1",
"6",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"6",
"0",
"0",
"3",
"0",
"0",
"3",
"1",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"3",
"6",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"2",
"1",
"5",
"6",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"2",
"1",
"5",
"6",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"1",
"0",
"3",
"5",
"6",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"2",
"6",
"6",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0014.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0001.png
|
[
"fractal20220817_data/processed/episode_070078/images/0000.png",
"fractal20220817_data/processed/episode_070078/images/0001.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"3",
"0",
"1",
"1",
"6",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"2",
"1",
"6",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"2",
"6",
"0",
"0",
"3",
"6",
"0",
"3",
"3",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"3",
"6",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"5",
"6",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"2",
"3",
"5",
"6",
"6",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"5",
"6",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"1",
"5",
"6",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"2",
"1",
"0",
"0",
"6",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0015.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0002.png
|
[
"fractal20220817_data/processed/episode_070078/images/0001.png",
"fractal20220817_data/processed/episode_070078/images/0002.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"3",
"0",
"1",
"1",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"2",
"1",
"6",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"3",
"1",
"0",
"0",
"3",
"6",
"1",
"0",
"0",
"3",
"6",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"2",
"1",
"5",
"6",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"2",
"3",
"5",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"5",
"6",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"2",
"1",
"5",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"2",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"2",
"1",
"0",
"0",
"6",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0016.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0003.png
|
[
"fractal20220817_data/processed/episode_070078/images/0002.png",
"fractal20220817_data/processed/episode_070078/images/0003.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"6",
"1",
"1",
"3",
"0",
"3",
"1",
"6",
"1",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"1",
"6",
"0",
"3",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"6",
"0",
"3",
"1",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"3",
"3",
"1",
"0",
"3",
"5",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"3",
"0",
"2",
"3",
"5",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"3",
"5",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"1",
"3",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0017.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0004.png
|
[
"fractal20220817_data/processed/episode_070078/images/0003.png",
"fractal20220817_data/processed/episode_070078/images/0004.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"3",
"0",
"6",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"6",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"3",
"5",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"2",
"3",
"5",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"6",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"6",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"5",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"2",
"6",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"2",
"6",
"2",
"0",
"5",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0018.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0005.png
|
[
"fractal20220817_data/processed/episode_070078/images/0004.png",
"fractal20220817_data/processed/episode_070078/images/0005.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"6",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"3",
"3",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"6",
"3",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"3",
"5",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"3",
"0",
"0",
"1",
"5",
"1",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"3",
"1",
"0",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"2",
"6",
"0",
"0",
"5",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0019.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0006.png
|
[
"fractal20220817_data/processed/episode_070078/images/0005.png",
"fractal20220817_data/processed/episode_070078/images/0006.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"3",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"6",
"1",
"3",
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"1",
"3",
"1",
"3",
"1",
"1",
"6",
"3",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"3",
"3",
"3",
"0",
"1",
"5",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"3",
"1",
"3",
"3",
"0",
"0",
"1",
"5",
"1",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"1",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"5",
"0",
"1",
"0",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"5",
"0",
"1",
"0",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"1",
"1",
"0",
"6",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"1",
"0",
"0",
"0",
"2",
"6",
"0",
"2",
"5",
"0",
"0",
"2",
"5"
] |
[
"fractal20220817_data/processed/episode_070078/images/0020.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0007.png
|
[
"fractal20220817_data/processed/episode_070078/images/0006.png",
"fractal20220817_data/processed/episode_070078/images/0007.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"3",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"3",
"6",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"3",
"5",
"6",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"5",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"3",
"0",
"2",
"1",
"0",
"2",
"0",
"0",
"6",
"3",
"0",
"0",
"0",
"5",
"2",
"0",
"2",
"3",
"2",
"0",
"2",
"1",
"1",
"0",
"6",
"3",
"1",
"5",
"1",
"5",
"0",
"0",
"0",
"3",
"0",
"1",
"2",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0021.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0008.png
|
[
"fractal20220817_data/processed/episode_070078/images/0007.png",
"fractal20220817_data/processed/episode_070078/images/0008.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"3",
"3",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"6",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"3",
"0",
"0",
"1",
"5",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"1",
"0",
"1",
"5",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"3",
"0",
"0",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"5",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"3",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"6",
"6",
"0",
"3",
"0",
"0",
"1",
"0",
"2",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"5",
"6",
"0",
"2",
"1",
"0",
"0",
"2",
"1",
"0",
"3",
"3",
"3",
"1",
"0",
"1",
"2",
"3",
"0",
"0",
"3",
"0",
"1",
"2",
"3",
"1",
"2",
"3",
"1",
"1",
"1",
"1",
"1",
"6",
"0",
"0",
"6",
"0",
"1",
"2",
"6"
] |
[
"fractal20220817_data/processed/episode_070078/images/0022.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0009.png
|
[
"fractal20220817_data/processed/episode_070078/images/0008.png",
"fractal20220817_data/processed/episode_070078/images/0009.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"1",
"1",
"1",
"6",
"1",
"0",
"0",
"1",
"6",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"3",
"1",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"1",
"0",
"0",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"6",
"1",
"6",
"3",
"0",
"0",
"1",
"2",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"5",
"2",
"0",
"2",
"3",
"0",
"0",
"2",
"3",
"0",
"3",
"3",
"3",
"1",
"5",
"1",
"2",
"1",
"0",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"3",
"0",
"5",
"1",
"5",
"3",
"0",
"0",
"3",
"0",
"1",
"0",
"3",
"1",
"2",
"3",
"1",
"1",
"5",
"1",
"1",
"3",
"0",
"0",
"6",
"3",
"1",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0023.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0010.png
|
[
"fractal20220817_data/processed/episode_070078/images/0009.png",
"fractal20220817_data/processed/episode_070078/images/0010.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"6",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"6",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"5",
"0",
"5",
"6",
"0",
"2",
"3",
"0",
"0",
"2",
"1",
"1",
"3",
"3",
"3",
"1",
"5",
"3",
"0",
"3",
"0",
"0",
"3",
"0",
"1",
"2",
"3",
"1",
"0",
"3",
"1",
"1",
"5",
"3",
"1",
"3",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"3",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"2",
"1",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"6",
"3",
"1",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0024.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0011.png
|
[
"fractal20220817_data/processed/episode_070078/images/0010.png",
"fractal20220817_data/processed/episode_070078/images/0011.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"3",
"1",
"0",
"3",
"3",
"3",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"5",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"5",
"2",
"0",
"2",
"3",
"0",
"0",
"2",
"3",
"0",
"3",
"3",
"3",
"1",
"1",
"3",
"0",
"1",
"1",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"0",
"3",
"1",
"1",
"1",
"3",
"1",
"3",
"0",
"0",
"6",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"3",
"0",
"0",
"6",
"6",
"1",
"0",
"3",
"1",
"2",
"1",
"5",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"6",
"3",
"1",
"0",
"6",
"1",
"3",
"1",
"1",
"0",
"2",
"6",
"1",
"1",
"0",
"0",
"6",
"3",
"1",
"0",
"6"
] |
[
"fractal20220817_data/processed/episode_070078/images/0025.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0012.png
|
[
"fractal20220817_data/processed/episode_070078/images/0011.png",
"fractal20220817_data/processed/episode_070078/images/0012.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"3",
"0",
"1",
"1",
"0",
"1",
"3",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"5",
"2",
"0",
"2",
"0",
"2",
"1",
"0",
"0",
"2",
"1",
"1",
"3",
"3",
"3",
"0",
"1",
"1",
"0",
"3",
"1",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"6",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"2",
"1",
"1",
"0",
"1",
"3",
"3",
"3",
"0",
"0",
"6",
"3",
"1",
"0",
"3",
"1",
"3",
"1",
"3",
"0",
"0",
"3",
"1",
"3",
"0",
"1",
"6",
"6",
"0",
"0",
"6",
"1",
"1",
"3",
"3",
"0",
"5",
"6",
"3",
"1",
"0",
"0",
"6",
"3",
"0",
"0",
"6"
] |
[
"fractal20220817_data/processed/episode_070078/images/0026.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0013.png
|
[
"fractal20220817_data/processed/episode_070078/images/0012.png",
"fractal20220817_data/processed/episode_070078/images/0013.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"6",
"1",
"0",
"3",
"5",
"0",
"0",
"1",
"6",
"0",
"0",
"1",
"3",
"0",
"0",
"2",
"1",
"6",
"0",
"2",
"3",
"0",
"0",
"2",
"3",
"1",
"1",
"3",
"3",
"3",
"1",
"1",
"0",
"3",
"1",
"0",
"3",
"6",
"1",
"2",
"3",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"6",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"2",
"0",
"1",
"1",
"1",
"3",
"3",
"3",
"0",
"0",
"6",
"3",
"1",
"0",
"6",
"1",
"4",
"1",
"3",
"2",
"0",
"6",
"1",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"4",
"1",
"3",
"0",
"1",
"6",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"6",
"0",
"1",
"1",
"1",
"2",
"3",
"6",
"3",
"1",
"0",
"2",
"0",
"3",
"0",
"0",
"6"
] |
[
"fractal20220817_data/processed/episode_070078/images/0027.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0014.png
|
[
"fractal20220817_data/processed/episode_070078/images/0013.png",
"fractal20220817_data/processed/episode_070078/images/0014.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"6",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"2",
"1",
"6",
"0",
"0",
"3",
"0",
"0",
"2",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"6",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"1",
"0",
"4",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"0",
"6",
"6",
"1",
"0",
"6",
"1",
"2",
"3",
"1",
"1",
"4",
"3",
"3",
"3",
"0",
"0",
"0",
"3",
"1",
"0",
"6",
"1",
"3",
"1",
"3",
"2",
"0",
"6",
"3",
"3",
"0",
"0",
"0",
"6",
"1",
"0",
"6",
"1",
"4",
"1",
"3",
"1",
"1",
"6",
"5",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"3",
"3",
"1",
"0",
"6",
"1",
"3",
"1",
"0",
"2",
"0",
"3",
"3",
"0",
"2",
"3",
"0",
"3",
"0",
"2",
"0",
"1",
"3",
"0",
"0",
"2"
] |
[
"fractal20220817_data/processed/episode_070078/images/0028.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0015.png
|
[
"fractal20220817_data/processed/episode_070078/images/0014.png",
"fractal20220817_data/processed/episode_070078/images/0015.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"6",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"2",
"5",
"6",
"0",
"0",
"1",
"0",
"0",
"2",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"1",
"3",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"0",
"3",
"1",
"0",
"3",
"3",
"3",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"1",
"3",
"3",
"3",
"2",
"0",
"6",
"3",
"3",
"0",
"0",
"0",
"6",
"0",
"0",
"6",
"1",
"4",
"3",
"3",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"0",
"1",
"0",
"6",
"1",
"3",
"0",
"0",
"2",
"0",
"3",
"3",
"1",
"2",
"3",
"3",
"3",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"2",
"0",
"3",
"3",
"0",
"2",
"3",
"1",
"0",
"0",
"2",
"0",
"0",
"6",
"0",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_070078/images/0029.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0016.png
|
[
"fractal20220817_data/processed/episode_070078/images/0015.png",
"fractal20220817_data/processed/episode_070078/images/0016.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"6",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"2",
"5",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"1",
"0",
"3",
"0",
"0",
"3",
"0",
"1",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"3",
"3",
"3",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"1",
"3",
"1",
"3",
"2",
"0",
"6",
"3",
"3",
"0",
"0",
"0",
"6",
"0",
"0",
"6",
"1",
"3",
"3",
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"1",
"0",
"2",
"0",
"0",
"3",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"2",
"3",
"3",
"0",
"0",
"0",
"3",
"1",
"6",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"3",
"6",
"0",
"0",
"3",
"1",
"3",
"0",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_070078/images/0030.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0017.png
|
[
"fractal20220817_data/processed/episode_070078/images/0016.png",
"fractal20220817_data/processed/episode_070078/images/0017.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"1",
"1",
"6",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"2",
"5",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"3",
"0",
"3",
"0",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"0",
"4",
"0",
"0",
"3",
"0",
"1",
"3",
"0",
"0",
"6",
"6",
"0",
"0",
"6",
"1",
"0",
"3",
"1",
"0",
"3",
"3",
"3",
"3",
"0",
"0",
"0",
"3",
"1",
"0",
"0",
"1",
"3",
"1",
"3",
"2",
"0",
"6",
"1",
"3",
"0",
"0",
"0",
"6",
"0",
"0",
"6",
"1",
"4",
"3",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"2",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"2",
"1",
"1",
"0",
"0",
"0",
"0",
"5",
"6",
"0",
"3",
"2",
"0",
"3",
"3",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"3",
"3",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"3",
"3",
"3",
"1",
"1",
"2"
] |
[
"fractal20220817_data/processed/episode_070078/images/0031.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0018.png
|
[
"fractal20220817_data/processed/episode_070078/images/0017.png",
"fractal20220817_data/processed/episode_070078/images/0018.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"3",
"1",
"0",
"1",
"1",
"1",
"6",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"3",
"6",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"3",
"3",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"0",
"4",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"0",
"0",
"6",
"0",
"0",
"6",
"1",
"0",
"3",
"1",
"0",
"3",
"3",
"3",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"6",
"0",
"3",
"1",
"3",
"2",
"0",
"6",
"1",
"3",
"0",
"1",
"0",
"6",
"0",
"0",
"6",
"1",
"3",
"4",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"2",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"2",
"6",
"3",
"3",
"1",
"2",
"0",
"0",
"0",
"0",
"0",
"0",
"5",
"6",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"3",
"6",
"1",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"3",
"3",
"3",
"1",
"1",
"5"
] |
[
"fractal20220817_data/processed/episode_070078/images/0032.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0019.png
|
[
"fractal20220817_data/processed/episode_070078/images/0018.png",
"fractal20220817_data/processed/episode_070078/images/0019.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"1",
"1",
"3",
"2",
"3",
"1",
"0",
"3",
"6",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"3",
"3",
"3",
"0",
"1",
"3",
"3",
"1",
"0",
"3",
"1",
"1",
"4",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"1",
"0",
"6",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"3",
"3",
"1",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"3",
"1",
"3",
"0",
"0",
"6",
"1",
"3",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"3",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"5",
"3",
"1",
"1",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"0",
"5",
"3",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"5",
"3",
"1",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"5",
"3",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"1",
"3",
"0",
"1",
"2",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"5",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"5"
] |
[
"fractal20220817_data/processed/episode_070078/images/0033.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0020.png
|
[
"fractal20220817_data/processed/episode_070078/images/0019.png",
"fractal20220817_data/processed/episode_070078/images/0020.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"0",
"1",
"3",
"1",
"3",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"3",
"1",
"3",
"3",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"3",
"0",
"3",
"3",
"0",
"0",
"0",
"6",
"1",
"0",
"2",
"1",
"6",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"0",
"3",
"1",
"3",
"0",
"0",
"2",
"1",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"2",
"1",
"3",
"3",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"3",
"3",
"3",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"2",
"0",
"3",
"3",
"1",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"5",
"0",
"0",
"1",
"2",
"0",
"3",
"3",
"3",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"1",
"1",
"0",
"1",
"3",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"5",
"1",
"3",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"2",
"0",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0034.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0021.png
|
[
"fractal20220817_data/processed/episode_070078/images/0020.png",
"fractal20220817_data/processed/episode_070078/images/0021.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"6",
"1",
"1",
"0",
"3",
"3",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"1",
"6",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"3",
"3",
"3",
"1",
"1",
"0",
"2",
"2",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"3",
"3",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"3",
"3",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"2",
"0",
"3",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"3",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"2",
"1",
"0",
"0",
"1"
] |
[
"fractal20220817_data/processed/episode_070078/images/0035.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0022.png
|
[
"fractal20220817_data/processed/episode_070078/images/0021.png",
"fractal20220817_data/processed/episode_070078/images/0022.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"0",
"3",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"6",
"0",
"0",
"0",
"1",
"3",
"3",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"3",
"3",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"3",
"1",
"1",
"3",
"5",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"3",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"5",
"0",
"3",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"3",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0036.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0023.png
|
[
"fractal20220817_data/processed/episode_070078/images/0022.png",
"fractal20220817_data/processed/episode_070078/images/0023.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"3",
"3",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"5",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0037.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0024.png
|
[
"fractal20220817_data/processed/episode_070078/images/0023.png",
"fractal20220817_data/processed/episode_070078/images/0024.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"3",
"0",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0038.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0025.png
|
[
"fractal20220817_data/processed/episode_070078/images/0024.png",
"fractal20220817_data/processed/episode_070078/images/0025.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"3",
"3",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"3",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"5",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"3",
"1",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0039.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0026.png
|
[
"fractal20220817_data/processed/episode_070078/images/0025.png",
"fractal20220817_data/processed/episode_070078/images/0026.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"3",
"1",
"1",
"0",
"3",
"0",
"3",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"3",
"3",
"0",
"1",
"0",
"3",
"0",
"3",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"3",
"0",
"3",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"0",
"1",
"3",
"0",
"3",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"0",
"1",
"3",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"6",
"0",
"0",
"0",
"1",
"3",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"3",
"1",
"6",
"1",
"1",
"3",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"6",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"2",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0040.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0027.png
|
[
"fractal20220817_data/processed/episode_070078/images/0026.png",
"fractal20220817_data/processed/episode_070078/images/0027.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"6",
"1",
"1",
"1",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"2",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"2",
"1",
"0",
"0",
"0",
"0",
"6",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"2",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"3",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"6",
"0",
"0",
"0",
"1",
"0",
"2",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0041.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0028.png
|
[
"fractal20220817_data/processed/episode_070078/images/0027.png",
"fractal20220817_data/processed/episode_070078/images/0028.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"6",
"1",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"6",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"2",
"2",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"2",
"2",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"2",
"2",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"6",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"6",
"0",
"0",
"1",
"1",
"0",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"2",
"1",
"0",
"0",
"2",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0042.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0029.png
|
[
"fractal20220817_data/processed/episode_070078/images/0028.png",
"fractal20220817_data/processed/episode_070078/images/0029.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"2",
"6",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0043.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0030.png
|
[
"fractal20220817_data/processed/episode_070078/images/0029.png",
"fractal20220817_data/processed/episode_070078/images/0030.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"2",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"6",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"6",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"2",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"1",
"0",
"3"
] |
[
"fractal20220817_data/processed/episode_070078/images/0044.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0031.png
|
[
"fractal20220817_data/processed/episode_070078/images/0030.png",
"fractal20220817_data/processed/episode_070078/images/0031.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"3",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"1",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0045.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0032.png
|
[
"fractal20220817_data/processed/episode_070078/images/0031.png",
"fractal20220817_data/processed/episode_070078/images/0032.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"6",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"3",
"1",
"0",
"3",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"3",
"1",
"3",
"1",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"3",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"0",
"3",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0046.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0033.png
|
[
"fractal20220817_data/processed/episode_070078/images/0032.png",
"fractal20220817_data/processed/episode_070078/images/0033.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"6",
"1",
"1",
"0",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"3",
"1",
"0",
"3",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"1",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"3",
"1",
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"3",
"1",
"3",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"3",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"3",
"0",
"1",
"1",
"3",
"0",
"0",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0047.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0034.png
|
[
"fractal20220817_data/processed/episode_070078/images/0033.png",
"fractal20220817_data/processed/episode_070078/images/0034.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"1",
"1",
"3",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"5",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"5"
] |
[
"fractal20220817_data/processed/episode_070078/images/0048.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0035.png
|
[
"fractal20220817_data/processed/episode_070078/images/0034.png",
"fractal20220817_data/processed/episode_070078/images/0035.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"3",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"3",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"3",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"3",
"0",
"3",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"5",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"5",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1"
] |
[
"fractal20220817_data/processed/episode_070078/images/0049.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0036.png
|
[
"fractal20220817_data/processed/episode_070078/images/0035.png",
"fractal20220817_data/processed/episode_070078/images/0036.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"3",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"3",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"3",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"5",
"0",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"3",
"0",
"0",
"1",
"0",
"0",
"1",
"5",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0050.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0037.png
|
[
"fractal20220817_data/processed/episode_070078/images/0036.png",
"fractal20220817_data/processed/episode_070078/images/0037.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"3",
"3",
"0",
"1",
"1",
"3",
"1",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"3",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"1",
"1",
"3",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"0",
"0",
"1",
"5",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0051.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
fractal20220817_data_episode_070078_0038.png
|
[
"fractal20220817_data/processed/episode_070078/images/0037.png",
"fractal20220817_data/processed/episode_070078/images/0038.png"
] |
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
|
[
"3",
"1",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"3",
"1",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"3",
"3",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"1",
"0",
"1",
"0",
"3",
"1",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"1",
"0",
"1",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"1",
"0",
"1",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"3",
"0",
"0",
"1",
"6",
"0",
"1",
"0",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"1",
"1",
"0",
"0",
"1",
"6",
"0",
"0",
"5",
"0",
"1",
"1",
"1",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"0",
"0",
"1",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"1",
"0",
"0",
"0",
"6",
"0",
"1",
"0",
"0",
"1",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"0",
"6",
"3",
"1",
"0"
] |
[
"fractal20220817_data/processed/episode_070078/images/0052.png"
] |
[instruction],[vision],latent_state,latent_action
|
[instruction],[vision],latent_state
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.