Datasets:
vipra-project
/
cotrain-dynamics14

Dataset card Data Studio Files
xet
Community
1
id
stringlengths
30
44
image
listlengths
2
2
instruction
stringlengths
50
175
latent_action
listlengths
224
224
latent_state
listlengths
1
1
fields
stringclasses
1 value
fields_ls_only
stringclasses
1 value
fractal20220817_data_episode_070078_0039.png
[ "fractal20220817_data/processed/episode_070078/images/0038.png", "fractal20220817_data/processed/episode_070078/images/0039.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "1", "3", "1", "3", "1", "1", "1", "1", "1", "1", "1", "0", "3", "0", "1", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "5", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "3", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0053.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0040.png
[ "fractal20220817_data/processed/episode_070078/images/0039.png", "fractal20220817_data/processed/episode_070078/images/0040.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "6", "1", "1", "0", "3", "1", "0", "1", "0", "0", "0", "0", "3", "0", "1", "0", "6", "1", "1", "0", "3", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "6", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "6", "0", "1", "5", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "2", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0054.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0041.png
[ "fractal20220817_data/processed/episode_070078/images/0040.png", "fractal20220817_data/processed/episode_070078/images/0041.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "3", "3", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "1", "1", "1", "3", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "3", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "5", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0042.png
[ "fractal20220817_data/processed/episode_070078/images/0041.png", "fractal20220817_data/processed/episode_070078/images/0042.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "1", "1", "0", "0", "0", "3", "1", "1", "3", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "3", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "6", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "6", "0", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "6", "0", "0", "5", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "1", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0043.png
[ "fractal20220817_data/processed/episode_070078/images/0042.png", "fractal20220817_data/processed/episode_070078/images/0043.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "3", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "3", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "6", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "6", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "6", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0044.png
[ "fractal20220817_data/processed/episode_070078/images/0043.png", "fractal20220817_data/processed/episode_070078/images/0044.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "3", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "3", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0045.png
[ "fractal20220817_data/processed/episode_070078/images/0044.png", "fractal20220817_data/processed/episode_070078/images/0045.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "3", "1", "0", "0", "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "3", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0046.png
[ "fractal20220817_data/processed/episode_070078/images/0045.png", "fractal20220817_data/processed/episode_070078/images/0046.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "2", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0047.png
[ "fractal20220817_data/processed/episode_070078/images/0046.png", "fractal20220817_data/processed/episode_070078/images/0047.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "2", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0048.png
[ "fractal20220817_data/processed/episode_070078/images/0047.png", "fractal20220817_data/processed/episode_070078/images/0048.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0049.png
[ "fractal20220817_data/processed/episode_070078/images/0048.png", "fractal20220817_data/processed/episode_070078/images/0049.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0050.png
[ "fractal20220817_data/processed/episode_070078/images/0049.png", "fractal20220817_data/processed/episode_070078/images/0050.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0051.png
[ "fractal20220817_data/processed/episode_070078/images/0050.png", "fractal20220817_data/processed/episode_070078/images/0051.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "3", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0052.png
[ "fractal20220817_data/processed/episode_070078/images/0051.png", "fractal20220817_data/processed/episode_070078/images/0052.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0053.png
[ "fractal20220817_data/processed/episode_070078/images/0052.png", "fractal20220817_data/processed/episode_070078/images/0053.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0054.png
[ "fractal20220817_data/processed/episode_070078/images/0053.png", "fractal20220817_data/processed/episode_070078/images/0054.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0055.png
[ "fractal20220817_data/processed/episode_070078/images/0054.png", "fractal20220817_data/processed/episode_070078/images/0055.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0000.png
[ "fractal20220817_data/processed/episode_036533/images/0000.png", "fractal20220817_data/processed/episode_036533/images/0000.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "0", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "6", "1", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "5", "3", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "2", "3", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "3", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "3", "0", "0", "0", "1", "0", "3", "0", "0", "0", "2", "1", "1", "1", "3", "3", "3", "0", "0", "0", "1", "0", "3", "0", "0", "0", "0", "1", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0014.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0001.png
[ "fractal20220817_data/processed/episode_036533/images/0000.png", "fractal20220817_data/processed/episode_036533/images/0001.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "3", "1", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "1", "3", "1", "0", "1", "1", "0", "6", "1", "0", "0", "0", "0", "1", "3", "1", "0", "1", "0", "0", "3", "0", "1", "5", "1", "0", "0", "0", "0", "0", "3", "1", "3", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "3", "0", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "3", "3", "3", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "6", "1", "3", "3", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "3", "3", "0", "0", "0", "1", "0", "3", "0", "0", "0", "2", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "3", "3", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "3", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0015.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0002.png
[ "fractal20220817_data/processed/episode_036533/images/0001.png", "fractal20220817_data/processed/episode_036533/images/0002.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "1", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "1", "0", "0", "1", "0", "1", "5", "1", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "3", "1", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "3", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "3", "0", "0", "0", "0", "0", "1", "2", "0", "0", "0", "1", "0", "0", "3", "3", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "3", "0", "0", "0", "2", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "6", "0", "0", "0", "6", "0", "0", "0", "0", "2", "0", "3", "1", "0", "0", "0", "3", "0", "0", "0", "3", "0", "0", "0", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0016.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0003.png
[ "fractal20220817_data/processed/episode_036533/images/0002.png", "fractal20220817_data/processed/episode_036533/images/0003.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "3", "0", "1", "3", "0", "1", "6", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "3", "1", "1", "0", "0", "0", "6", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "3", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "6", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "2", "6", "0", "0", "0", "0", "0", "1", "3", "1", "0", "0", "0", "6", "0", "0", "2", "3", "6", "0", "1", "0", "0", "0", "4", "2", "0", "1", "2", "1", "0", "0", "1", "3", "1", "0", "3", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0017.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0004.png
[ "fractal20220817_data/processed/episode_036533/images/0003.png", "fractal20220817_data/processed/episode_036533/images/0004.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "0", "0", "1", "0", "0", "0", "0", "2", "6", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "3", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "3", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "0", "0", "1", "0", "0", "2", "6", "0", "0", "0", "0", "0", "0", "3", "0", "0", "6", "0", "6", "2", "0", "2", "3", "6", "2", "0", "0", "0", "1", "1", "0", "0", "1", "0", "5", "1", "0", "0", "3", "1", "1", "1", "0", "0", "1", "1", "2", "0", "1", "1", "5", "0", "0", "3", "2", "0", "2", "1", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0018.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0005.png
[ "fractal20220817_data/processed/episode_036533/images/0004.png", "fractal20220817_data/processed/episode_036533/images/0005.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "0", "3", "0", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "1", "1", "6", "2", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "3", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "2", "6", "0", "0", "0", "0", "2", "0", "3", "5", "6", "6", "0", "3", "2", "0", "2", "3", "6", "0", "0", "0", "0", "0", "1", "0", "1", "1", "6", "1", "0", "0", "6", "3", "3", "1", "1", "0", "6", "1", "1", "0", "0", "1", "3", "5", "0", "0", "1", "0", "6", "0", "1", "3", "0", "1", "0", "2", "0", "1", "1", "0", "0", "0", "1", "0", "6", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0019.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0006.png
[ "fractal20220817_data/processed/episode_036533/images/0005.png", "fractal20220817_data/processed/episode_036533/images/0006.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "3", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "3", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "3", "5", "0", "6", "0", "3", "0", "0", "2", "3", "0", "2", "0", "0", "0", "0", "1", "0", "0", "1", "6", "1", "1", "0", "3", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "5", "0", "0", "3", "0", "0", "0", "1", "3", "1", "1", "0", "0", "0", "3", "0", "5", "0", "0", "1", "0", "0", "0", "1", "0", "6", "0", "2", "0", "0", "3", "1", "1", "0", "1", "2", "0", "0", "2", "3", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0020.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0007.png
[ "fractal20220817_data/processed/episode_036533/images/0006.png", "fractal20220817_data/processed/episode_036533/images/0007.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "3", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "1", "0", "0", "2", "6", "0", "0", "0", "0", "0", "0", "3", "5", "0", "6", "0", "3", "0", "0", "2", "3", "6", "0", "0", "0", "0", "0", "1", "0", "1", "1", "6", "1", "1", "0", "3", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "5", "0", "0", "3", "0", "0", "0", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "6", "0", "0", "1", "0", "6", "1", "0", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "6", "0", "0", "0", "0", "0", "1", "0", "2", "1", "2", "0", "0", "2", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0021.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0008.png
[ "fractal20220817_data/processed/episode_036533/images/0007.png", "fractal20220817_data/processed/episode_036533/images/0008.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "1", "3", "5", "0", "6", "0", "3", "0", "0", "0", "3", "6", "2", "0", "0", "0", "1", "1", "0", "1", "3", "6", "1", "1", "0", "3", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "1", "5", "0", "0", "3", "0", "0", "0", "1", "3", "1", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "6", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "6", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "1", "0", "6", "1", "0", "0", "0", "2", "0", "0", "0", "5", "6", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0022.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0009.png
[ "fractal20220817_data/processed/episode_036533/images/0008.png", "fractal20220817_data/processed/episode_036533/images/0009.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "3", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "3", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "3", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "1", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "1", "3", "1", "0", "6", "1", "3", "0", "0", "0", "3", "0", "2", "0", "0", "1", "1", "1", "0", "1", "1", "6", "1", "1", "0", "3", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "5", "0", "0", "3", "0", "0", "0", "1", "3", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "2", "0", "0", "0", "0", "0", "6", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "0", "0", "0", "0", "0", "0", "0", "0", "6", "0", "0", "1", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0023.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0010.png
[ "fractal20220817_data/processed/episode_036533/images/0009.png", "fractal20220817_data/processed/episode_036533/images/0010.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "3", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "1", "3", "0", "0", "0", "3", "0", "2", "0", "1", "1", "0", "1", "0", "1", "1", "6", "5", "1", "0", "3", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "5", "0", "0", "3", "0", "0", "0", "1", "3", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "6", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "1", "0", "6", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "6", "0", "0", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0024.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0011.png
[ "fractal20220817_data/processed/episode_036533/images/0010.png", "fractal20220817_data/processed/episode_036533/images/0011.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "1", "2", "1", "3", "2", "0", "0", "3", "6", "0", "0", "1", "1", "1", "1", "1", "1", "1", "6", "5", "0", "0", "3", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "5", "0", "0", "3", "0", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "0", "1", "0", "0", "0", "0", "2", "1", "0", "0", "0", "2", "0", "0", "6", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "0", "0", "1", "6", "0", "0", "6", "1", "0", "2", "1", "1", "3", "0", "0", "0", "0", "0", "1", "6", "0", "0", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0025.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0012.png
[ "fractal20220817_data/processed/episode_036533/images/0011.png", "fractal20220817_data/processed/episode_036533/images/0012.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "1", "6", "0", "1", "6", "0", "0", "0", "3", "2", "2", "0", "1", "1", "0", "1", "0", "1", "1", "0", "5", "1", "1", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "3", "5", "0", "0", "1", "0", "0", "2", "0", "3", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "0", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "0", "3", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "0", "0", "6", "1", "3", "1", "0", "0", "0", "0", "0", "5", "0", "0", "0", "0", "0", "0", "6", "1", "3", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "6", "0", "1", "0", "2", "0", "0", "0", "0", "0", "1", "3", "3", "1", "0", "0", "6", "0", "0", "6", "0", "5", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0026.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0013.png
[ "fractal20220817_data/processed/episode_036533/images/0012.png", "fractal20220817_data/processed/episode_036533/images/0013.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "3", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "2", "2", "0", "0", "0", "0", "1", "3", "1", "3", "0", "1", "6", "0", "0", "0", "3", "2", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "5", "1", "0", "6", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "3", "5", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "3", "0", "0", "1", "0", "6", "1", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "0", "0", "6", "1", "1", "3", "1", "0", "0", "0", "0", "5", "0", "0", "1", "0", "0", "0", "6", "1", "1", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "1", "3", "1", "0", "0", "6", "0", "3", "0", "2", "1", "0", "6", "0", "0", "3", "1", "3", "1", "2", "0", "0", "0", "0", "0", "0", "1", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0027.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0014.png
[ "fractal20220817_data/processed/episode_036533/images/0013.png", "fractal20220817_data/processed/episode_036533/images/0014.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "1", "1", "3", "0", "1", "6", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "5", "0", "1", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "5", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "6", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "6", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "0", "0", "6", "1", "1", "1", "1", "0", "0", "0", "0", "5", "0", "0", "0", "0", "0", "0", "6", "1", "1", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "0", "0", "1", "0", "2", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "0", "0", "1", "0", "2", "0", "0", "0", "0", "0", "3", "1", "3", "1", "0", "0", "6", "0", "1", "0", "2", "1", "0", "0", "0", "1", "3", "3", "3", "3", "0", "0", "6", "0", "3", "0", "2", "1", "0", "6", "0", "0", "6", "3", "1", "1", "0", "0", "6", "0", "0", "2", "0", "1", "2", "6", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0028.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0015.png
[ "fractal20220817_data/processed/episode_036533/images/0014.png", "fractal20220817_data/processed/episode_036533/images/0015.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "1", "1", "3", "0", "1", "6", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "1", "1", "1", "6", "1", "0", "1", "3", "1", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "3", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "6", "1", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "3", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "0", "3", "0", "1", "1", "1", "1", "0", "0", "0", "0", "5", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "6", "0", "1", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "1", "0", "0", "6", "0", "1", "0", "2", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "2", "0", "0", "0", "3", "1", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "2", "0", "0", "6", "1", "0", "3", "1", "1", "1", "0", "0", "0", "0", "3", "0", "2", "1", "0", "0", "1", "0", "3", "3", "1", "3", "0", "0", "0", "0", "3", "0", "2", "3", "2", "6", "1", "0", "6", "3", "1", "1", "0", "0", "0", "0", "0", "0", "2", "1", "2", "3", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0016.png
[ "fractal20220817_data/processed/episode_036533/images/0015.png", "fractal20220817_data/processed/episode_036533/images/0016.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "1", "0", "3", "1", "1", "0", "0", "1", "3", "1", "0", "0", "1", "0", "0", "3", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "0", "0", "0", "3", "1", "3", "1", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "6", "1", "1", "1", "1", "0", "3", "0", "0", "1", "0", "0", "0", "0", "1", "3", "6", "3", "1", "1", "0", "0", "0", "6", "0", "1", "0", "0", "0", "0", "1", "0", "3", "3", "1", "1", "1", "0", "0", "6", "0", "5", "0", "0", "0", "0", "0", "1", "0", "3", "1", "1", "1", "0", "1", "6", "0", "1", "0", "0", "0", "0", "1", "1", "0", "3", "1", "1", "3", "0", "1", "6", "0", "1", "0", "0", "0", "0", "1", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "1", "0", "2", "0", "0", "3", "1", "1", "3", "1", "1", "3", "0", "0", "0", "0", "1", "0", "2", "0", "0", "3", "1", "0", "3", "3", "1", "3", "0", "0", "0", "0", "3", "0", "2", "1", "0", "3", "1", "0", "3", "3", "1", "3", "0", "0", "0", "0", "3", "0", "0", "3", "2", "3", "1", "1", "3", "3", "1", "3", "0", "0", "0", "0", "3", "0", "0", "3", "2", "3", "0", "1", "3", "3", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "2", "3", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0030.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0017.png
[ "fractal20220817_data/processed/episode_036533/images/0016.png", "fractal20220817_data/processed/episode_036533/images/0017.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "3", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "6", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "2", "0", "1", "0", "1", "1", "1", "3", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "0", "1", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "1", "1", "3", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "1", "1", "3", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "1", "0", "6", "0", "0", "3", "3", "1", "6", "0", "0", "0", "0", "3", "0", "3", "3", "2", "6", "0", "1", "3", "3", "1", "1", "0", "0", "0", "0", "1", "0", "3", "3", "2", "6", "0", "1", "3", "3", "1", "1", "1", "6", "0", "0", "3", "0", "1", "6", "2", "6", "0", "1", "0", "1", "1", "1", "1", "3", "0", "1", "6", "5", "0", "0", "2", "3", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0018.png
[ "fractal20220817_data/processed/episode_036533/images/0017.png", "fractal20220817_data/processed/episode_036533/images/0018.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "0", "1", "0", "0", "0", "1", "0", "2", "0", "0", "0", "6", "1", "1", "0", "3", "0", "3", "0", "0", "0", "1", "3", "2", "0", "3", "0", "3", "1", "0", "1", "3", "0", "1", "6", "0", "1", "1", "0", "2", "0", "0", "0", "3", "1", "1", "1", "3", "0", "1", "0", "0", "5", "3", "3", "0", "0", "1", "0", "1", "1", "1", "0", "3", "0", "1", "0", "0", "1", "0", "0", "2", "0", "3", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "1", "0", "6", "0", "0", "3", "0", "0", "1", "1", "1", "3", "0", "1", "0", "0", "1", "0", "3", "0", "0", "3", "0", "1", "3", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "3", "1", "1", "3", "0", "1", "0", "0", "1", "0", "3", "1", "0", "3", "0", "1", "3", "3", "1", "0", "0", "0", "0", "0", "3", "2", "3", "3", "2", "3", "0", "1", "3", "3", "1", "1", "0", "0", "0", "0", "3", "0", "3", "6", "2", "3", "0", "1", "1", "1", "1", "1", "1", "6", "0", "0", "3", "0", "1", "6", "2", "6", "0", "1", "0", "0", "1", "1", "1", "3", "0", "1", "3", "5", "1", "0", "2", "3", "0", "1", "2", "5", "0", "1", "1", "3", "1", "0", "6", "5", "0", "0", "2", "3", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0032.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0019.png
[ "fractal20220817_data/processed/episode_036533/images/0018.png", "fractal20220817_data/processed/episode_036533/images/0019.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "6", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "2", "0", "1", "0", "3", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "2", "0", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "1", "3", "1", "1", "1", "0", "0", "0", "0", "3", "2", "1", "1", "0", "0", "0", "0", "3", "3", "1", "0", "0", "0", "1", "0", "3", "2", "1", "3", "2", "0", "2", "1", "3", "3", "1", "0", "0", "0", "1", "0", "3", "0", "3", "6", "2", "3", "0", "1", "1", "1", "1", "0", "1", "6", "0", "0", "3", "0", "1", "0", "2", "3", "0", "1", "0", "1", "1", "1", "1", "3", "0", "1", "3", "5", "3", "0", "2", "3", "0", "3", "0", "1", "1", "0", "5", "1", "6", "0", "1", "5", "0", "0", "2", "3", "0", "1", "2", "1", "5", "1", "1", "6", "3", "1", "0", "5", "2", "1", "0", "3", "6" ]
[ "fractal20220817_data/processed/episode_036533/images/0033.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0020.png
[ "fractal20220817_data/processed/episode_036533/images/0019.png", "fractal20220817_data/processed/episode_036533/images/0020.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "2", "0", "1", "0", "3", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "2", "0", "1", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "0", "1", "3", "1", "1", "1", "0", "0", "0", "0", "3", "0", "0", "0", "0", "3", "1", "0", "3", "1", "1", "1", "2", "0", "1", "0", "3", "0", "1", "1", "0", "3", "0", "0", "3", "3", "1", "0", "0", "0", "1", "0", "3", "0", "3", "3", "0", "3", "0", "1", "3", "3", "1", "0", "0", "0", "1", "0", "0", "0", "3", "6", "2", "3", "0", "0", "1", "3", "1", "0", "1", "6", "1", "0", "0", "1", "1", "0", "2", "3", "0", "3", "0", "1", "1", "1", "1", "3", "1", "1", "3", "1", "6", "0", "2", "3", "0", "3", "0", "1", "1", "0", "1", "3", "2", "0", "6", "5", "2", "0", "2", "3", "1", "3", "0", "1", "3", "1", "1", "0", "3", "1", "0", "1", "6", "0", "0", "3", "0", "3", "0", "6", "3", "1", "1", "6", "3", "1", "6", "3", "3", "0", "6", "3", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0034.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0021.png
[ "fractal20220817_data/processed/episode_036533/images/0020.png", "fractal20220817_data/processed/episode_036533/images/0021.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "3", "3", "1", "1", "3", "0", "1", "0", "1", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "3", "0", "3", "0", "0", "1", "0", "0", "2", "0", "3", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "3", "0", "1", "3", "1", "1", "1", "0", "0", "0", "0", "3", "0", "1", "0", "0", "6", "0", "1", "3", "3", "1", "1", "0", "0", "0", "0", "3", "0", "1", "1", "0", "3", "0", "0", "3", "3", "1", "0", "0", "1", "1", "0", "6", "2", "3", "3", "0", "3", "0", "1", "3", "3", "1", "0", "1", "0", "1", "0", "3", "0", "3", "0", "2", "3", "0", "1", "1", "3", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "2", "3", "0", "1", "0", "1", "1", "0", "1", "3", "1", "1", "3", "1", "3", "0", "2", "3", "0", "3", "0", "0", "1", "0", "1", "3", "0", "0", "3", "5", "0", "2", "0", "3", "1", "3", "0", "1", "0", "1", "1", "0", "3", "1", "0", "1", "2", "0", "0", "3", "0", "3", "0", "3", "3", "1", "5", "0", "1", "1", "0", "1", "3", "0", "3", "3", "3", "1", "0", "2", "3", "1", "1", "0", "2", "1", "0", "3", "6", "5", "3", "3", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0035.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0022.png
[ "fractal20220817_data/processed/episode_036533/images/0021.png", "fractal20220817_data/processed/episode_036533/images/0022.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "3", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "3", "1", "0", "0", "1", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "3", "1", "0", "0", "1", "3", "0", "2", "6", "0", "1", "1", "3", "1", "0", "1", "0", "1", "0", "3", "1", "1", "0", "2", "0", "0", "1", "0", "1", "1", "0", "1", "3", "1", "0", "3", "1", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "1", "3", "0", "0", "3", "1", "0", "2", "2", "1", "3", "1", "0", "0", "1", "1", "1", "0", "3", "1", "0", "1", "2", "0", "6", "3", "0", "1", "0", "6", "0", "0", "5", "0", "3", "0", "0", "1", "3", "0", "3", "3", "3", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "1", "3", "2", "3", "1", "0", "0", "1", "2", "3", "1", "0", "1", "0", "1", "0", "0", "5", "0", "3", "0", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0036.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0023.png
[ "fractal20220817_data/processed/episode_036533/images/0022.png", "fractal20220817_data/processed/episode_036533/images/0023.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "3", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "3", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "3", "1", "0", "1", "0", "1", "0", "6", "0", "3", "0", "0", "0", "0", "1", "3", "3", "1", "0", "1", "0", "1", "0", "6", "1", "3", "0", "0", "1", "0", "1", "1", "3", "1", "0", "1", "6", "1", "0", "6", "1", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "3", "1", "1", "3", "1", "0", "0", "6", "1", "0", "1", "0", "0", "1", "0", "1", "3", "0", "0", "0", "1", "0", "2", "6", "3", "1", "1", "0", "0", "1", "1", "1", "0", "3", "1", "0", "1", "0", "1", "3", "3", "0", "1", "0", "6", "1", "1", "5", "0", "3", "1", "0", "0", "3", "0", "3", "3", "3", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "6", "0", "3", "1", "1", "0", "3", "0", "3", "0", "0", "0", "0", "1", "0", "0", "1", "0", "3", "1", "3", "0", "3", "2", "3", "1", "0", "0", "2", "0", "0", "0", "5", "0", "3", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0037.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0024.png
[ "fractal20220817_data/processed/episode_036533/images/0023.png", "fractal20220817_data/processed/episode_036533/images/0024.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "3", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "1", "3", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "3", "0", "1", "3", "1", "1", "1", "0", "0", "0", "6", "3", "0", "1", "0", "0", "1", "0", "0", "3", "0", "0", "1", "1", "0", "2", "6", "3", "1", "1", "0", "0", "1", "1", "1", "1", "3", "1", "0", "1", "2", "1", "0", "3", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "3", "0", "3", "3", "3", "1", "0", "0", "3", "1", "0", "1", "0", "1", "0", "3", "6", "0", "3", "1", "1", "0", "3", "2", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "3", "0", "6", "0", "3", "1", "0", "1", "2", "1", "0", "0", "5", "0", "1", "1", "3", "0", "3", "1", "0", "1", "0", "0", "2", "0", "1", "0", "5", "0", "1", "1", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0038.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0025.png
[ "fractal20220817_data/processed/episode_036533/images/0024.png", "fractal20220817_data/processed/episode_036533/images/0025.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "3", "0", "0", "3", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "2", "1", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "1", "3", "1", "1", "3", "1", "0", "0", "0", "3", "0", "1", "0", "0", "1", "0", "0", "3", "0", "0", "3", "1", "0", "2", "0", "3", "1", "1", "0", "1", "1", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "3", "0", "0", "0", "0", "1", "1", "0", "0", "3", "0", "0", "0", "3", "0", "1", "1", "3", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "1", "3", "0", "1", "1", "1", "0", "3", "2", "3", "0", "2", "1", "0", "0", "1", "0", "1", "0", "1", "0", "3", "2", "3", "2", "3", "0", "0", "1", "2", "0", "1", "0", "5", "1", "1", "0", "1", "0", "3", "0", "3", "1", "0", "1", "2", "0", "0", "0", "5", "0", "1", "0", "1", "0", "3", "3", "0", "1", "0", "0", "2", "0", "1", "0", "5", "0", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0039.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0026.png
[ "fractal20220817_data/processed/episode_036533/images/0025.png", "fractal20220817_data/processed/episode_036533/images/0026.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "3", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "1", "1", "3", "0", "3", "0", "0", "0", "0", "0", "0", "1", "3", "3", "1", "1", "0", "1", "3", "0", "3", "1", "0", "0", "2", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "2", "0", "1", "0", "1", "0", "0", "1", "1", "1", "3", "3", "1", "3", "1", "0", "0", "0", "3", "0", "1", "0", "0", "1", "0", "0", "3", "0", "0", "3", "1", "0", "2", "0", "3", "3", "1", "0", "0", "1", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "3", "0", "1", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "3", "0", "1", "3", "3", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "1", "3", "0", "1", "3", "0", "0", "3", "2", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "2", "3", "0", "3", "1", "0", "1", "2", "0", "1", "0", "5", "3", "1", "0", "1", "0", "3", "0", "0", "1", "0", "0", "2", "0", "1", "0", "5", "0", "1", "0", "0", "0", "3", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "3", "6", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0040.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0027.png
[ "fractal20220817_data/processed/episode_036533/images/0026.png", "fractal20220817_data/processed/episode_036533/images/0027.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "3", "3", "0", "3", "1", "1", "0", "0", "1", "0", "0", "2", "0", "0", "0", "1", "3", "3", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "2", "0", "0", "1", "3", "0", "1", "3", "1", "0", "0", "0", "1", "3", "0", "2", "0", "1", "0", "1", "1", "0", "1", "1", "1", "3", "0", "1", "1", "0", "0", "0", "0", "3", "0", "3", "0", "0", "1", "3", "0", "3", "2", "0", "3", "1", "0", "2", "2", "1", "1", "1", "0", "0", "1", "3", "1", "0", "3", "1", "0", "1", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "0", "0", "3", "0", "1", "0", "3", "0", "0", "0", "3", "1", "3", "0", "1", "1", "0", "0", "0", "1", "1", "1", "3", "0", "0", "0", "0", "0", "3", "0", "3", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "3", "2", "3", "0", "3", "1", "0", "1", "2", "0", "1", "0", "5", "0", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "2", "0", "1", "0", "5", "0", "1", "0", "1", "2", "3", "0", "1", "1", "1", "0", "2", "0", "1", "0", "0", "0", "1", "0", "1", "0", "3", "3", "6", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "6", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0041.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0028.png
[ "fractal20220817_data/processed/episode_036533/images/0027.png", "fractal20220817_data/processed/episode_036533/images/0028.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "2", "1", "0", "1", "1", "1", "1", "3", "1", "1", "0", "0", "0", "1", "0", "0", "2", "0", "0", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "0", "1", "0", "2", "1", "1", "1", "1", "1", "0", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "3", "0", "0", "1", "3", "1", "1", "0", "0", "3", "0", "0", "0", "3", "0", "0", "0", "3", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "3", "0", "0", "1", "0", "0", "3", "0", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "2", "3", "0", "3", "0", "1", "1", "2", "0", "1", "0", "5", "0", "0", "0", "3", "0", "3", "0", "1", "1", "1", "1", "2", "0", "1", "0", "5", "0", "0", "0", "1", "0", "3", "0", "1", "0", "1", "0", "2", "0", "1", "0", "0", "0", "0", "1", "1", "0", "3", "1", "6", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "3", "3", "1", "0", "1", "1", "1", "3", "1", "1", "0", "0", "0", "0", "1", "0", "6", "3", "1", "2", "0", "0", "3", "3", "0", "1", "0", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0042.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0029.png
[ "fractal20220817_data/processed/episode_036533/images/0028.png", "fractal20220817_data/processed/episode_036533/images/0029.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "0", "1", "1", "1", "1", "3", "1", "0", "1", "1", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "3", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "3", "0", "1", "0", "3", "0", "0", "1", "3", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "3", "0", "0", "3", "0", "0", "1", "0", "3", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "1", "3", "0", "0", "0", "3", "0", "1", "1", "2", "0", "1", "0", "5", "0", "0", "1", "1", "1", "3", "0", "3", "1", "1", "1", "2", "0", "1", "0", "5", "0", "0", "1", "0", "0", "3", "0", "1", "0", "3", "0", "0", "0", "1", "0", "0", "2", "0", "1", "1", "1", "3", "1", "6", "0", "1", "0", "0", "0", "1", "0", "0", "0", "2", "1", "0", "3", "3", "1", "0", "1", "1", "3", "0", "1", "1", "0", "0", "0", "0", "1", "1", "3", "0", "3", "2", "0", "1", "1", "3", "0", "1", "0", "3", "0", "0", "1", "0", "6", "0", "3", "2", "0", "1", "1", "3", "0", "1", "0", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0043.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0030.png
[ "fractal20220817_data/processed/episode_036533/images/0029.png", "fractal20220817_data/processed/episode_036533/images/0030.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "0", "1", "0", "1", "3", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "3", "0", "0", "1", "0", "1", "0", "1", "0", "0", "1", "3", "1", "1", "0", "0", "3", "0", "1", "0", "3", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "3", "0", "0", "0", "0", "0", "3", "0", "3", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "1", "0", "3", "0", "1", "1", "2", "0", "1", "0", "5", "0", "0", "0", "1", "1", "3", "1", "3", "1", "1", "1", "2", "0", "1", "0", "5", "0", "0", "0", "0", "0", "3", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "2", "0", "0", "0", "1", "3", "1", "6", "0", "1", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "3", "3", "1", "0", "1", "1", "3", "1", "1", "1", "0", "0", "0", "0", "0", "1", "3", "3", "3", "0", "0", "1", "1", "3", "0", "1", "0", "0", "0", "6", "0", "0", "3", "3", "3", "2", "0", "3", "1", "3", "0", "1", "0", "6", "0", "6", "0", "3", "0", "0", "3", "2", "0", "0", "0", "3", "0", "0", "0", "6", "0", "6", "0", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0044.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0031.png
[ "fractal20220817_data/processed/episode_036533/images/0030.png", "fractal20220817_data/processed/episode_036533/images/0031.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "3", "0", "1", "0", "0", "0", "3", "0", "0", "1", "1", "0", "2", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "3", "1", "1", "3", "0", "0", "0", "1", "0", "1", "1", "3", "1", "0", "0", "0", "3", "0", "1", "0", "3", "0", "0", "0", "3", "1", "3", "1", "1", "0", "1", "1", "0", "0", "1", "3", "3", "0", "1", "0", "0", "0", "3", "0", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "3", "0", "3", "0", "3", "0", "1", "1", "2", "0", "1", "0", "5", "0", "0", "0", "1", "1", "3", "0", "3", "1", "1", "1", "2", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "2", "0", "0", "1", "1", "3", "1", "6", "0", "1", "1", "0", "0", "0", "0", "0", "0", "6", "0", "0", "3", "3", "1", "0", "1", "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "3", "3", "0", "0", "1", "1", "3", "0", "0", "2", "0", "0", "6", "0", "0", "3", "3", "3", "2", "0", "1", "1", "3", "0", "1", "0", "0", "0", "6", "0", "1", "3", "1", "3", "0", "0", "0", "3", "3", "0", "0", "0", "6", "0", "6", "6", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "3", "2", "6", "6", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0045.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0032.png
[ "fractal20220817_data/processed/episode_036533/images/0031.png", "fractal20220817_data/processed/episode_036533/images/0032.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "3", "1", "0", "1", "0", "0", "0", "1", "2", "0", "1", "3", "1", "1", "0", "1", "3", "0", "1", "0", "3", "0", "0", "1", "3", "1", "1", "1", "3", "1", "1", "1", "0", "0", "0", "1", "3", "0", "1", "1", "0", "0", "3", "0", "3", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "0", "3", "0", "3", "1", "1", "1", "0", "0", "0", "0", "5", "0", "0", "1", "0", "1", "3", "0", "3", "1", "1", "1", "0", "0", "0", "0", "5", "0", "1", "1", "0", "1", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "3", "1", "6", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "3", "0", "0", "0", "1", "3", "0", "0", "2", "1", "0", "6", "1", "0", "3", "1", "3", "0", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "0", "0", "0", "0", "3", "0", "0", "0", "6", "2", "6", "0", "1", "0", "1", "3", "0", "0", "0", "1", "3", "0", "0", "0", "0", "2", "6", "0", "1", "1", "1", "3", "0", "0", "0", "1", "6", "0", "0", "0", "0", "0", "6", "1", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0046.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0033.png
[ "fractal20220817_data/processed/episode_036533/images/0032.png", "fractal20220817_data/processed/episode_036533/images/0033.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "1", "1", "1", "1", "0", "0", "3", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "1", "1", "1", "6", "0", "0", "0", "2", "0", "2", "0", "0", "0", "1", "0", "1", "6", "0", "1", "0", "1", "0", "0", "0", "3", "0", "6", "0", "0", "1", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "3", "0", "1", "0", "1", "1", "0", "3", "5", "0", "1", "1", "3", "0", "0", "2", "3", "2", "6", "1", "0", "3", "0", "3", "0", "0", "0", "1", "3", "0", "0", "0", "6", "0", "6", "1", "1", "1", "0", "3", "0", "0", "0", "0", "3", "0", "0", "0", "6", "2", "6", "6", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "2", "6", "0", "1", "1", "0", "1", "0", "0", "0", "1", "3", "0", "0", "0", "3", "0", "6", "0", "1", "0", "0", "1", "0", "0", "0", "5", "6", "0", "0", "0", "3", "2", "6", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0047.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0034.png
[ "fractal20220817_data/processed/episode_036533/images/0033.png", "fractal20220817_data/processed/episode_036533/images/0034.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "3", "3", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "3", "1", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "2", "0", "2", "0", "1", "0", "1", "0", "1", "6", "0", "1", "0", "1", "0", "0", "0", "0", "0", "2", "1", "0", "1", "0", "1", "0", "1", "0", "0", "3", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "1", "5", "3", "0", "0", "2", "0", "2", "6", "0", "0", "0", "0", "3", "0", "0", "0", "5", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "0", "0", "6", "0", "3", "0", "0", "0", "6", "2", "2", "0", "1", "2", "0", "1", "0", "0", "0", "0", "3", "0", "1", "0", "0", "2", "6", "0", "1", "0", "0", "1", "0", "0", "1", "1", "6", "0", "0", "0", "0", "0", "2", "0", "3", "0", "0", "0", "0", "1", "0", "1", "6", "0", "1", "6", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "2", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0048.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0035.png
[ "fractal20220817_data/processed/episode_036533/images/0034.png", "fractal20220817_data/processed/episode_036533/images/0035.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "1", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "3", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0", "1", "0", "1", "6", "3", "0", "0", "1", "0", "0", "1", "0", "0", "6", "0", "0", "1", "0", "1", "0", "1", "0", "1", "3", "1", "1", "0", "1", "5", "1", "0", "0", "0", "0", "3", "0", "0", "0", "5", "3", "0", "0", "0", "1", "2", "6", "0", "0", "0", "0", "3", "0", "1", "0", "5", "3", "0", "0", "1", "0", "0", "6", "2", "1", "0", "0", "1", "0", "1", "6", "0", "3", "0", "0", "1", "6", "2", "6", "2", "3", "6", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "1", "2", "6", "2", "1", "0", "0", "1", "1", "3", "0", "1", "6", "0", "0", "1", "1", "0", "6", "2", "3", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "6", "2", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "6", "0", "3", "1", "1", "1", "1", "1", "0", "1", "2", "0", "0", "1", "0", "0", "2", "0", "3" ]
[ "fractal20220817_data/processed/episode_036533/images/0049.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0036.png
[ "fractal20220817_data/processed/episode_036533/images/0035.png", "fractal20220817_data/processed/episode_036533/images/0036.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "3", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "1", "1", "1", "1", "1", "0", "3", "0", "2", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "3", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "6", "0", "0", "1", "1", "0", "0", "3", "0", "0", "6", "0", "0", "1", "1", "1", "0", "1", "0", "1", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "5", "3", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "1", "0", "0", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "3", "0", "0", "1", "6", "0", "6", "0", "1", "6", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "2", "6", "0", "0", "1", "1", "1", "1", "0", "1", "1", "6", "0", "0", "3", "1", "0", "6", "0", "3", "1", "1", "0", "1", "1", "0", "1", "6", "0", "0", "3", "1", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "0", "2", "0", "1", "1", "1", "0", "1", "1", "1", "3", "0", "0", "0", "3", "3", "0", "2", "0", "0", "1", "1", "0", "1", "0", "1", "3", "2", "0", "0", "1", "0", "0", "6", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0050.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0037.png
[ "fractal20220817_data/processed/episode_036533/images/0036.png", "fractal20220817_data/processed/episode_036533/images/0037.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "6", "1", "1", "0", "1", "0", "1", "1", "3", "0", "0", "0", "1", "0", "0", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "1", "1", "6", "0", "1", "1", "0", "0", "0", "3", "1", "0", "6", "0", "0", "1", "1", "1", "1", "1", "0", "3", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "3", "0", "0", "0", "1", "3", "0", "0", "0", "3", "0", "6", "0", "0", "0", "1", "3", "0", "0", "0", "1", "6", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "1", "3", "0", "0", "1", "6", "0", "6", "6", "1", "6", "1", "1", "1", "0", "0", "0", "6", "0", "0", "1", "0", "2", "6", "0", "0", "1", "1", "3", "1", "0", "1", "1", "6", "0", "0", "1", "1", "0", "6", "0", "3", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "0", "0", "0", "1", "3", "1", "1", "3", "0", "0", "1", "6", "0", "0", "3", "1", "0", "2", "0", "0", "3", "1", "0", "3", "0", "1", "3", "0", "0", "0", "3", "0", "0", "6", "0", "0", "3", "1", "0", "3", "0", "1", "3", "0", "0", "1", "1", "3", "0", "2", "1", "0", "0", "1", "0", "3", "0", "1", "3", "2", "0", "0", "1", "0", "0", "2", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0051.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0038.png
[ "fractal20220817_data/processed/episode_036533/images/0037.png", "fractal20220817_data/processed/episode_036533/images/0038.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "6", "0", "1", "1", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "1", "1", "0", "1", "1", "3", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "1", "3", "5", "0", "1", "1", "3", "0", "0", "0", "0", "0", "6", "0", "0", "3", "1", "3", "5", "0", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "1", "0", "1", "0", "0", "1", "6", "0", "6", "0", "1", "6", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "2", "6", "0", "0", "1", "1", "1", "1", "0", "1", "1", "6", "0", "0", "1", "1", "0", "6", "0", "3", "1", "3", "1", "1", "1", "1", "1", "6", "0", "0", "3", "1", "0", "0", "0", "1", "3", "3", "1", "1", "0", "0", "3", "6", "0", "0", "3", "1", "0", "6", "0", "0", "1", "3", "0", "1", "0", "1", "3", "0", "0", "0", "3", "1", "0", "2", "0", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "1", "1", "1", "0", "6", "1", "0", "1", "1", "1", "3", "0", "1", "3", "0", "0", "0", "3", "3", "0", "2", "1", "0", "1", "1", "1", "3", "0", "1", "3", "2", "0", "1", "3", "1", "0", "2", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0052.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0039.png
[ "fractal20220817_data/processed/episode_036533/images/0038.png", "fractal20220817_data/processed/episode_036533/images/0039.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "6", "3", "1", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "3", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "3", "5", "0", "1", "1", "3", "0", "0", "0", "0", "2", "6", "0", "0", "1", "1", "1", "0", "1", "1", "0", "3", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "0", "0", "0", "0", "3", "6", "2", "0", "6", "3", "6", "1", "0", "1", "0", "0", "0", "3", "0", "0", "1", "0", "2", "6", "0", "0", "1", "1", "1", "1", "1", "1", "1", "6", "0", "0", "3", "1", "0", "0", "0", "3", "1", "1", "0", "1", "1", "1", "1", "6", "0", "0", "3", "1", "0", "0", "0", "0", "3", "1", "0", "1", "0", "0", "1", "6", "0", "0", "3", "1", "0", "2", "0", "0", "3", "1", "0", "1", "0", "1", "3", "0", "0", "0", "3", "0", "0", "2", "0", "0", "3", "1", "0", "3", "0", "1", "3", "0", "0", "1", "0", "3", "0", "2", "1", "0", "1", "1", "0", "3", "0", "3", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "1", "0", "3", "0", "1", "3", "0", "0", "0", "3", "3", "0", "0", "3", "0", "0", "1", "0", "1", "2", "1", "3", "2", "2", "1", "3", "3", "0", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_036533/images/0053.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0040.png
[ "fractal20220817_data/processed/episode_036533/images/0039.png", "fractal20220817_data/processed/episode_036533/images/0040.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "0", "3", "3", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "3", "1", "3", "0", "1", "6", "0", "0", "0", "0", "0", "6", "0", "0", "3", "1", "1", "1", "3", "1", "1", "6", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "0", "3", "3", "0", "6", "0", "1", "6", "1", "1", "1", "0", "0", "1", "3", "0", "0", "1", "0", "0", "6", "0", "0", "1", "1", "1", "1", "3", "1", "1", "6", "0", "0", "6", "1", "0", "0", "0", "3", "1", "1", "0", "3", "3", "0", "3", "6", "0", "0", "6", "1", "0", "0", "0", "0", "3", "1", "0", "3", "0", "0", "3", "6", "0", "0", "6", "1", "0", "2", "0", "0", "3", "1", "0", "3", "1", "1", "3", "0", "0", "0", "3", "1", "0", "2", "1", "0", "3", "1", "0", "3", "0", "1", "3", "0", "0", "1", "0", "3", "0", "6", "1", "0", "1", "1", "0", "3", "1", "1", "3", "2", "0", "1", "0", "3", "0", "0", "1", "0", "3", "1", "0", "3", "0", "1", "3", "2", "0", "1", "0", "3", "1", "0", "1", "0", "1", "1", "0", "3", "0", "0", "3", "2", "2", "1", "3", "3", "0", "0", "3", "0", "1", "1", "0", "1", "0", "1", "3", "2", "2", "1", "0", "3", "1", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0054.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0041.png
[ "fractal20220817_data/processed/episode_036533/images/0040.png", "fractal20220817_data/processed/episode_036533/images/0041.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "6", "0", "0", "3", "1", "1", "0", "1", "1", "0", "3", "0", "0", "0", "5", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "1", "3", "0", "6", "6", "3", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "0", "6", "0", "1", "1", "1", "1", "1", "1", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "3", "1", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "3", "0", "1", "3", "3", "0", "1", "0", "1", "0", "2", "1", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "1", "3", "0", "0", "2", "1", "0", "3", "1", "0", "1", "0", "1", "3", "0", "0", "1", "0", "1", "0", "2", "1", "0", "1", "0", "0", "1", "0", "3", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "3", "0", "0", "1", "0", "1", "1", "1", "1", "2", "1", "1", "0", "2", "1", "0", "3", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "1", "0", "2", "1", "0", "3", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "1", "0", "2", "1", "0", "1", "0", "0", "6", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0055.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0042.png
[ "fractal20220817_data/processed/episode_036533/images/0041.png", "fractal20220817_data/processed/episode_036533/images/0042.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "0", "1", "1", "0", "6", "1", "0", "3", "0", "2", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "6", "0", "0", "0", "1", "0", "0", "1", "3", "3", "1", "0", "1", "1", "0", "3", "6", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "3", "0", "0", "1", "3", "1", "0", "0", "1", "0", "3", "1", "0", "1", "0", "1", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "3", "1", "0", "1", "0", "1", "3", "0", "0", "1", "0", "3", "0", "0", "1", "0", "1", "0", "0", "1", "0", "3", "3", "0", "0", "1", "1", "3", "0", "0", "1", "0", "3", "1", "1", "1", "0", "3", "1", "0", "0", "1", "1", "3", "0", "0", "1", "0", "1", "1", "1", "1", "2", "3", "1", "0", "2", "1", "3", "3", "0", "0", "6", "0", "3", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "3", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "6", "0", "0", "1", "1", "1", "0", "1", "0", "6", "0", "1", "0", "0", "0", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0056.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0043.png
[ "fractal20220817_data/processed/episode_036533/images/0042.png", "fractal20220817_data/processed/episode_036533/images/0043.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "3", "0", "0", "0", "3", "6", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "3", "3", "1", "1", "1", "1", "0", "3", "1", "0", "1", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "3", "1", "0", "1", "0", "1", "0", "2", "1", "0", "3", "1", "1", "1", "0", "1", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "3", "1", "1", "1", "0", "1", "3", "0", "0", "1", "0", "3", "0", "2", "1", "0", "1", "0", "1", "0", "0", "1", "3", "0", "0", "1", "0", "6", "0", "0", "1", "0", "3", "1", "1", "1", "0", "1", "1", "0", "0", "1", "1", "3", "0", "0", "1", "0", "1", "1", "1", "1", "2", "0", "1", "0", "2", "1", "0", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "3", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "3", "0", "0", "1", "1", "3", "0", "1", "2", "0", "5", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0057.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0044.png
[ "fractal20220817_data/processed/episode_036533/images/0043.png", "fractal20220817_data/processed/episode_036533/images/0044.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "3", "1", "0", "1", "1", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "3", "3", "0", "1", "1", "1", "0", "6", "0", "0", "0", "1", "0", "0", "0", "6", "1", "1", "0", "1", "1", "1", "0", "3", "0", "0", "1", "0", "2", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "1", "0", "1", "3", "0", "0", "2", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "6", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "6", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "2", "1", "3", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "2", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "3", "0", "1", "0", "0", "5", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0058.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0045.png
[ "fractal20220817_data/processed/episode_036533/images/0044.png", "fractal20220817_data/processed/episode_036533/images/0045.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "2", "0", "0", "0", "0", "1", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "2", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "5", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "3", "0", "1", "0", "2", "1", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0059.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0046.png
[ "fractal20220817_data/processed/episode_036533/images/0045.png", "fractal20220817_data/processed/episode_036533/images/0046.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "3", "1", "0", "0", "0", "1", "3", "1", "1", "0", "0", "1", "0", "2", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "2", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "2", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "5", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "2", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0047.png
[ "fractal20220817_data/processed/episode_036533/images/0046.png", "fractal20220817_data/processed/episode_036533/images/0047.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "2", "1", "6", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "2", "1", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "2", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0048.png
[ "fractal20220817_data/processed/episode_036533/images/0047.png", "fractal20220817_data/processed/episode_036533/images/0048.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "3", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "2", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "2", "1", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "2", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0049.png
[ "fractal20220817_data/processed/episode_036533/images/0048.png", "fractal20220817_data/processed/episode_036533/images/0049.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "3", "0", "6", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "3", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "2", "0", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "2", "0", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0050.png
[ "fractal20220817_data/processed/episode_036533/images/0049.png", "fractal20220817_data/processed/episode_036533/images/0050.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "3", "0", "0", "3", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "3", "3", "3", "1", "3", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "3", "3", "1", "6", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "3", "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "5", "1", "0", "2", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "1", "5", "1", "0", "2", "1", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "1", "1", "1", "0", "2", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "1", "1", "0", "2", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0051.png
[ "fractal20220817_data/processed/episode_036533/images/0050.png", "fractal20220817_data/processed/episode_036533/images/0051.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "3", "0", "0", "0", "1", "0", "1", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "2", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "2", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "1", "3", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0052.png
[ "fractal20220817_data/processed/episode_036533/images/0051.png", "fractal20220817_data/processed/episode_036533/images/0052.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "2", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0053.png
[ "fractal20220817_data/processed/episode_036533/images/0052.png", "fractal20220817_data/processed/episode_036533/images/0053.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0054.png
[ "fractal20220817_data/processed/episode_036533/images/0053.png", "fractal20220817_data/processed/episode_036533/images/0054.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "2", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "2", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0055.png
[ "fractal20220817_data/processed/episode_036533/images/0054.png", "fractal20220817_data/processed/episode_036533/images/0055.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0056.png
[ "fractal20220817_data/processed/episode_036533/images/0055.png", "fractal20220817_data/processed/episode_036533/images/0056.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0057.png
[ "fractal20220817_data/processed/episode_036533/images/0056.png", "fractal20220817_data/processed/episode_036533/images/0057.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0058.png
[ "fractal20220817_data/processed/episode_036533/images/0057.png", "fractal20220817_data/processed/episode_036533/images/0058.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0059.png
[ "fractal20220817_data/processed/episode_036533/images/0058.png", "fractal20220817_data/processed/episode_036533/images/0059.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_036533_0060.png
[ "fractal20220817_data/processed/episode_036533/images/0059.png", "fractal20220817_data/processed/episode_036533/images/0060.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_036533/images/0060.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0000.png
[ "fractal20220817_data/processed/episode_060804/images/0000.png", "fractal20220817_data/processed/episode_060804/images/0000.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "1", "3", "0", "1", "3", "1", "0", "3", "0", "0", "0", "1", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "1", "3", "0", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "0", "0", "1", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "3", "0", "1", "1", "0", "1", "3", "1", "0", "0", "1", "1", "0", "0", "1", "0", "3", "0", "1", "1", "1", "1", "3", "0", "0", "1", "1", "0", "0", "0", "1", "0", "3", "0", "3", "1", "1", "1", "3", "0", "1", "1", "3", "1", "0", "1", "1", "0", "6", "0", "1", "1", "0", "1", "3", "1", "0", "1", "1", "1", "0", "1", "1", "1", "3", "0", "1", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "6", "0", "1", "0", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "3", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "1", "0", "3", "0", "0", "0", "1", "1", "2", "1", "3", "0", "3", "0", "3", "1", "0", "0", "3", "0", "0", "2", "0", "0", "0", "1", "1", "0", "3", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0014.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0001.png
[ "fractal20220817_data/processed/episode_060804/images/0000.png", "fractal20220817_data/processed/episode_060804/images/0001.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "1", "3", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "3", "0", "0", "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "1", "0", "0", "1", "3", "1", "0", "0", "1", "1", "1", "0", "1", "0", "3", "0", "0", "1", "1", "1", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "3", "0", "3", "1", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "6", "0", "1", "0", "0", "1", "3", "1", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "3", "0", "1", "1", "0", "6", "0", "1", "0", "0", "0", "3", "0", "0", "0", "1", "3", "0", "1", "1", "0", "6", "0", "3", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "0", "0", "3", "0", "3", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "0", "0", "0", "3", "0", "2", "2", "1", "0", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "1", "0", "0", "2", "1", "0", "0", "1", "1", "0", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0015.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0002.png
[ "fractal20220817_data/processed/episode_060804/images/0001.png", "fractal20220817_data/processed/episode_060804/images/0002.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "3", "0", "1", "3", "0", "1", "0", "0", "0", "0", "3", "0", "1", "0", "1", "0", "3", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "3", "0", "1", "1", "0", "1", "3", "0", "0", "0", "1", "1", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "0", "0", "0", "3", "1", "0", "1", "1", "0", "6", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "0", "1", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "3", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "3", "0", "0", "2", "1", "0", "0", "1", "1", "0", "3", "0", "1", "1", "0", "0", "1", "0", "2", "2", "3", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "2", "1", "0", "0", "1", "1", "0", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0016.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0003.png
[ "fractal20220817_data/processed/episode_060804/images/0002.png", "fractal20220817_data/processed/episode_060804/images/0003.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "0", "1", "3", "0", "1", "1", "0", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "1", "0", "0", "3", "1", "1", "0", "1", "1", "6", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "1", "3", "0", "1", "1", "0", "1", "3", "0", "0", "0", "1", "1", "0", "0", "0", "0", "6", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "0", "0", "3", "0", "3", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "0", "1", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "1", "3", "0", "1", "0", "0", "0", "3", "0", "2", "2", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "2", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "2", "2", "0", "0", "0", "1", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "2", "0", "0", "0", "5", "0", "1", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0017.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0004.png
[ "fractal20220817_data/processed/episode_060804/images/0003.png", "fractal20220817_data/processed/episode_060804/images/0004.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "0", "0", "1", "3", "0", "1", "1", "3", "0", "0", "1", "0", "1", "3", "1", "0", "0", "1", "1", "0", "0", "0", "1", "3", "0", "0", "1", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "0", "0", "0", "3", "1", "0", "0", "1", "1", "6", "0", "1", "0", "0", "1", "3", "1", "0", "0", "1", "1", "0", "1", "0", "1", "3", "0", "1", "1", "0", "1", "3", "0", "0", "0", "1", "3", "0", "1", "1", "0", "3", "0", "1", "0", "0", "1", "3", "0", "0", "0", "1", "3", "0", "1", "1", "0", "3", "0", "3", "1", "0", "1", "3", "0", "0", "0", "1", "1", "0", "1", "1", "1", "3", "0", "1", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "1", "1", "0", "3", "0", "1", "0", "0", "1", "3", "0", "0", "2", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "1", "3", "0", "2", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "2", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "3", "0", "0", "0", "6", "0", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "1", "0", "1", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0018.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0005.png
[ "fractal20220817_data/processed/episode_060804/images/0004.png", "fractal20220817_data/processed/episode_060804/images/0005.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "0", "3", "0", "0", "1", "0", "0", "1", "0", "0", "1", "3", "0", "0", "3", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "3", "0", "3", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "1", "6", "0", "1", "3", "1", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "1", "3", "0", "1", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "0", "0", "0", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "3", "1", "1", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "3", "0", "0", "0", "3", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "6", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "3", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "0", "6", "1", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0019.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0006.png
[ "fractal20220817_data/processed/episode_060804/images/0005.png", "fractal20220817_data/processed/episode_060804/images/0006.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "0", "0", "0", "3", "0", "1", "0", "1", "0", "3", "1", "1", "1", "1", "1", "0", "0", "1", "1", "3", "0", "0", "1", "6", "0", "1", "0", "0", "1", "3", "1", "0", "0", "1", "1", "1", "1", "1", "1", "3", "0", "1", "1", "0", "1", "3", "1", "0", "0", "1", "3", "0", "1", "1", "0", "3", "0", "3", "0", "0", "1", "3", "0", "0", "0", "1", "3", "0", "1", "1", "0", "3", "0", "3", "0", "0", "1", "3", "1", "0", "0", "0", "1", "0", "1", "1", "1", "3", "0", "3", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "1", "1", "0", "3", "0", "3", "0", "0", "1", "3", "0", "0", "2", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "0", "1", "3", "0", "0", "2", "0", "1", "0", "1", "1", "0", "1", "0", "3", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "6", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "2", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0020.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0007.png
[ "fractal20220817_data/processed/episode_060804/images/0006.png", "fractal20220817_data/processed/episode_060804/images/0007.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "3", "0", "1", "3", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "1", "1", "3", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "3", "1", "0", "1", "1", "3", "0", "1", "1", "0", "0", "3", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "3", "3", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "3", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "6", "0", "0", "1", "6", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "5", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0021.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0008.png
[ "fractal20220817_data/processed/episode_060804/images/0007.png", "fractal20220817_data/processed/episode_060804/images/0008.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "0", "1", "1", "1", "3", "0", "0", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "1", "6", "1", "0", "1", "3", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "5", "1", "0", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "5", "0", "0", "1", "1", "0", "0", "0", "0", "0", "2", "2", "5" ]
[ "fractal20220817_data/processed/episode_060804/images/0022.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0009.png
[ "fractal20220817_data/processed/episode_060804/images/0008.png", "fractal20220817_data/processed/episode_060804/images/0009.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "3", "1", "0", "1", "0", "1", "1", "0", "3", "0", "3", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "0", "3", "0", "0", "0", "3", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "3", "1", "1", "0", "3", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "3", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "1", "3", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "6", "0", "0", "2", "0", "0", "1", "0", "2", "2", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "2", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0023.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0010.png
[ "fractal20220817_data/processed/episode_060804/images/0009.png", "fractal20220817_data/processed/episode_060804/images/0010.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "3", "0", "3", "0", "3", "3", "1", "1", "3", "0", "0", "1", "0", "1", "1", "0", "3", "1", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "3", "0", "3", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "3", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "3", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "3", "0", "3", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "1", "0", "1", "3", "0", "3", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "2", "0", "1", "1", "0", "0", "0", "0", "0", "3", "1", "0", "0", "6", "0", "0", "2", "2", "1", "1", "1", "2", "2", "1", "0", "1", "5", "1", "0", "0", "1", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0024.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0011.png
[ "fractal20220817_data/processed/episode_060804/images/0010.png", "fractal20220817_data/processed/episode_060804/images/0011.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "3", "1", "0", "1", "0", "1", "1", "0", "0", "1", "3", "0", "3", "1", "1", "1", "3", "3", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "3", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "3", "1", "3", "0", "1", "0", "0", "1", "1", "1", "0", "1", "3", "1", "1", "1", "3", "0", "3", "0", "0", "1", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "6", "5", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "2", "1", "1", "1", "0", "0", "1", "0", "3", "1", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "0", "2", "1", "0", "1", "1", "1", "1", "0", "1", "0", "1", "2", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0025.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0012.png
[ "fractal20220817_data/processed/episode_060804/images/0011.png", "fractal20220817_data/processed/episode_060804/images/0012.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "3", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "1", "1", "3", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "3", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "3", "1", "3", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "6", "0", "3", "0", "0", "1", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "2", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3" ]
[ "fractal20220817_data/processed/episode_060804/images/0026.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0013.png
[ "fractal20220817_data/processed/episode_060804/images/0012.png", "fractal20220817_data/processed/episode_060804/images/0013.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "6", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "1", "0", "3", "1", "3", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "3", "0", "3", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "2", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "3", "1", "0", "0", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_060804/images/0027.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0014.png
[ "fractal20220817_data/processed/episode_060804/images/0013.png", "fractal20220817_data/processed/episode_060804/images/0014.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "1", "0", "3", "0", "1", "3", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "0", "3", "1", "1", "3", "1", "0", "0", "1", "0", "1", "0", "1", "0", "3", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "1", "1", "0", "3", "0", "3", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "3", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0028.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0015.png
[ "fractal20220817_data/processed/episode_060804/images/0014.png", "fractal20220817_data/processed/episode_060804/images/0015.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "0", "1", "1", "1", "3", "1", "0", "1", "1", "3", "0", "0", "1", "0", "3", "0", "0", "1", "0", "1", "3", "1", "0", "0", "1", "1", "1", "0", "3", "0", "3", "0", "1", "0", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "3", "0", "3", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "3", "1", "0", "0", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "3", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "6", "1", "0", "0", "1", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0016.png
[ "fractal20220817_data/processed/episode_060804/images/0015.png", "fractal20220817_data/processed/episode_060804/images/0016.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "3", "3", "1", "0", "1", "0", "3", "1", "0", "1", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "3", "1", "3", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "3", "0", "3", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "3", "1", "0", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "0", "1", "2", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "3", "1", "0", "0", "6", "0", "0", "0", "3", "0", "0", "3", "0" ]
[ "fractal20220817_data/processed/episode_060804/images/0030.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0017.png
[ "fractal20220817_data/processed/episode_060804/images/0016.png", "fractal20220817_data/processed/episode_060804/images/0017.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "3", "1", "0", "0", "1", "1", "1", "0", "3", "0", "3", "0", "1", "3", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "3", "0", "3", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "3", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "3", "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "3", "1", "0", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "0", "0", "2", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "3", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "3", "1", "1", "1", "0", "3", "1", "0", "1", "2", "1", "0", "0", "1", "0", "1", "3", "0", "0", "0", "0", "3", "1", "0", "0", "6", "1", "0", "2", "3", "0", "0", "3", "2" ]
[ "fractal20220817_data/processed/episode_060804/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0018.png
[ "fractal20220817_data/processed/episode_060804/images/0017.png", "fractal20220817_data/processed/episode_060804/images/0018.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "1", "3", "0", "1", "0", "3", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "0", "3", "0", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "1", "3", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "1", "1", "1", "0", "3", "1", "1", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "0", "0", "0", "3", "1", "0", "0", "6", "0", "0", "0", "3", "0", "1", "3", "1", "0", "0", "0", "3", "1", "0", "1", "6", "0", "0", "0", "3", "0", "0", "3", "0", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "3", "0", "1", "3", "1", "0", "1", "1", "3", "1", "0", "1", "6", "0", "0", "0", "6", "0", "0", "3", "0", "0", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "6", "0", "0", "3", "2" ]
[ "fractal20220817_data/processed/episode_060804/images/0032.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0019.png
[ "fractal20220817_data/processed/episode_060804/images/0018.png", "fractal20220817_data/processed/episode_060804/images/0019.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "3", "0", "3", "3", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "3", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "3", "3", "0", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "0", "3", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "3", "0", "3", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "3", "0", "1", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "1", "3", "0", "1", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "6", "0", "0", "3", "2" ]
[ "fractal20220817_data/processed/episode_060804/images/0033.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0020.png
[ "fractal20220817_data/processed/episode_060804/images/0019.png", "fractal20220817_data/processed/episode_060804/images/0020.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "3", "0", "0", "1", "1", "0", "0", "3", "0", "0", "0", "1", "0", "1", "0", "0", "3", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "3", "0", "1", "1", "0", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "1", "3", "0", "1", "1", "1", "1", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "1", "0", "3", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "3", "3", "1", "0", "3", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "0", "1", "6", "0", "3", "1", "2" ]
[ "fractal20220817_data/processed/episode_060804/images/0034.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060804_0021.png
[ "fractal20220817_data/processed/episode_060804/images/0020.png", "fractal20220817_data/processed/episode_060804/images/0021.png" ]
<s> You are a helpful assistant. USER: place blue plastic bottle upright ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "3", "0", "0", "1", "1", "1", "0", "3", "0", "0", "3", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "3", "0", "3", "3", "1", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "3", "0", "0", "3", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "1", "0", "1", "1", "0", "1", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "3", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "3", "0", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "3", "0", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "1", "0", "1", "1", "1", "0", "3", "1", "1", "0", "0", "0", "0", "0", "1", "2", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "3", "1", "1", "0", "1", "1", "3", "0", "3", "1", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3", "0", "3", "0", "0", "6", "1", "2" ]
[ "fractal20220817_data/processed/episode_060804/images/0035.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state