Datasets:
vipra-project
/
cotrain-dynamics14

Dataset card Data Studio Files
xet
Community
1
id
stringlengths
30
44
image
listlengths
2
2
instruction
stringlengths
50
175
latent_action
listlengths
224
224
latent_state
listlengths
1
1
fields
stringclasses
1 value
fields_ls_only
stringclasses
1 value
fractal20220817_data_episode_069661_0001.png
[ "fractal20220817_data/processed/episode_069661/images/0000.png", "fractal20220817_data/processed/episode_069661/images/0001.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "3", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "0", "0", "0", "1", "3", "1", "0", "0", "1", "0", "1", "0", "0", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "1", "1", "3", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "1", "0", "1", "0", "0", "2", "1", "0", "1", "1", "1", "3", "0", "0", "1", "5", "1", "0", "1", "0", "0", "0", "1", "0", "3", "1", "1", "3", "0", "0", "0", "5", "0", "0", "1", "0", "0", "2", "0", "0", "3", "1", "1", "3", "0", "1", "1", "5", "1", "1", "1", "0", "0", "2", "0", "0", "1", "1", "3", "3", "1", "1", "1", "5", "1", "1", "1", "0", "1", "0", "0", "0", "3", "0", "1", "1", "0", "0", "0", "5", "0", "0", "1", "0", "0", "2", "0", "1", "0", "0", "1", "3", "0", "0", "0", "5", "0", "0", "1", "2", "0", "2", "0", "1" ]
[ "fractal20220817_data/processed/episode_069661/images/0015.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0002.png
[ "fractal20220817_data/processed/episode_069661/images/0001.png", "fractal20220817_data/processed/episode_069661/images/0002.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "0", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "3", "0", "0", "3", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "3", "0", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "3", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "1", "0", "1", "0", "1", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "2", "0", "0", "3", "0", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "2", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "3", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "2", "0", "0", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "2", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "2", "0", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0016.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0003.png
[ "fractal20220817_data/processed/episode_069661/images/0002.png", "fractal20220817_data/processed/episode_069661/images/0003.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "6", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "6", "3", "0", "1", "0", "1", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "6", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "3", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "1", "0", "1", "0", "1", "3", "0", "0", "0", "0", "3", "1", "1", "3", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "2", "0", "0", "1", "0", "0", "0", "0", "3", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0017.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0004.png
[ "fractal20220817_data/processed/episode_069661/images/0003.png", "fractal20220817_data/processed/episode_069661/images/0004.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "6", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "3", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0018.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0005.png
[ "fractal20220817_data/processed/episode_069661/images/0004.png", "fractal20220817_data/processed/episode_069661/images/0005.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "6", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6" ]
[ "fractal20220817_data/processed/episode_069661/images/0019.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0006.png
[ "fractal20220817_data/processed/episode_069661/images/0005.png", "fractal20220817_data/processed/episode_069661/images/0006.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "3", "0", "3", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "3", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "2", "0", "0", "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "2", "0", "0", "0", "2", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "0", "0", "3", "1", "6", "0", "0", "0", "0", "0", "0", "6", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "2", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0020.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0007.png
[ "fractal20220817_data/processed/episode_069661/images/0006.png", "fractal20220817_data/processed/episode_069661/images/0007.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "3", "3", "1", "0", "1", "0", "3", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "0", "1", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "6", "0", "0", "0", "3", "0", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "3", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "6", "0", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "6", "2", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0021.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0008.png
[ "fractal20220817_data/processed/episode_069661/images/0007.png", "fractal20220817_data/processed/episode_069661/images/0008.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "0", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "6", "0", "0", "0", "1", "0", "0", "6", "0", "0", "0", "6", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "6", "6", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "6", "6", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "6", "2", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0022.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0009.png
[ "fractal20220817_data/processed/episode_069661/images/0008.png", "fractal20220817_data/processed/episode_069661/images/0009.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "6", "0", "0", "1", "0", "3", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "3", "1", "1", "3", "1", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "0", "3", "1", "0", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "3", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "1", "3", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "3", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "3", "1", "1", "1", "3", "0", "0", "1", "0", "1", "0", "0", "6", "0", "0", "1", "0", "1", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "6", "2", "0", "0", "0", "1", "1", "1", "3", "0", "0", "1", "0", "1", "0", "0", "6", "2", "0", "0", "0", "1", "0", "1", "3", "0", "0", "0", "1", "0", "0", "0", "6", "2", "0", "0", "2", "0", "0", "1", "3", "0", "0", "0", "0", "0", "1", "0", "6", "2", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0023.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0010.png
[ "fractal20220817_data/processed/episode_069661/images/0009.png", "fractal20220817_data/processed/episode_069661/images/0010.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "3", "1", "0", "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "6", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "6", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "2", "6", "0", "0", "0", "0", "0", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "2", "0", "0", "3", "3", "0", "0", "0", "0", "0", "0", "2", "6", "6", "2", "1", "2", "1", "0", "1", "3", "2", "1", "1", "0", "1", "1", "0", "6", "0", "1", "1", "2", "1", "0", "0", "3", "0", "0", "0", "1", "0", "1", "0", "6", "2", "2", "0", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0024.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0011.png
[ "fractal20220817_data/processed/episode_069661/images/0010.png", "fractal20220817_data/processed/episode_069661/images/0011.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "2", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "6", "2", "2", "0", "0", "0", "1", "1", "3", "2", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "0", "0", "0", "3", "1", "2", "0", "0", "0", "0", "0", "6", "6", "6", "2", "0", "0", "0", "1", "1", "1", "2", "1", "1", "1", "1", "1", "0", "3", "0", "0", "0", "0", "3", "0", "0", "3", "0", "0", "0", "1", "0", "0", "6", "6", "2", "0", "1", "1", "1", "1", "1", "3", "0", "0", "0", "1", "1", "0", "0", "1", "0", "6", "1", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0025.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0012.png
[ "fractal20220817_data/processed/episode_069661/images/0011.png", "fractal20220817_data/processed/episode_069661/images/0012.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "3", "1", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "0", "0", "1", "1", "3", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "3", "0", "0", "0", "1", "0", "1", "6", "0", "2", "0", "0", "0", "1", "1", "3", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "5", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "6", "1", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0026.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0013.png
[ "fractal20220817_data/processed/episode_069661/images/0012.png", "fractal20220817_data/processed/episode_069661/images/0013.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "1", "0", "6", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "0", "2", "0", "0", "0", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "6", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "0", "0", "0", "0", "0", "6", "0", "2", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "1", "1", "0", "3", "0", "0", "1", "0", "3", "0", "0", "3", "0", "0", "0", "0", "0", "1", "6", "6", "2", "0", "1", "1", "1", "1", "1", "3", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "1", "3", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "3", "0", "6", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "2", "6", "1", "2" ]
[ "fractal20220817_data/processed/episode_069661/images/0027.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0014.png
[ "fractal20220817_data/processed/episode_069661/images/0013.png", "fractal20220817_data/processed/episode_069661/images/0014.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "3", "1", "1", "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "3", "1", "1", "3", "1", "1", "0", "1", "0", "1", "0", "0", "1", "3", "0", "0", "1", "1", "1", "3", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "3", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "3", "0", "0", "0", "1", "1", "0", "0", "1", "0", "6", "1", "3", "0", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0028.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0015.png
[ "fractal20220817_data/processed/episode_069661/images/0014.png", "fractal20220817_data/processed/episode_069661/images/0015.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "1", "0", "3", "0", "1", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "3", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "6", "0", "0", "0", "1", "0", "0", "6", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "3", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0016.png
[ "fractal20220817_data/processed/episode_069661/images/0015.png", "fractal20220817_data/processed/episode_069661/images/0016.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "3", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "3", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "3", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "3", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "1", "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "1" ]
[ "fractal20220817_data/processed/episode_069661/images/0030.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0017.png
[ "fractal20220817_data/processed/episode_069661/images/0016.png", "fractal20220817_data/processed/episode_069661/images/0017.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "1", "3", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "2", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0018.png
[ "fractal20220817_data/processed/episode_069661/images/0017.png", "fractal20220817_data/processed/episode_069661/images/0018.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "1", "3", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "3", "0", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "2", "1", "1", "1", "3", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "6", "2", "0", "0", "1", "1", "1", "3", "1", "2", "0", "0", "0", "1", "0", "0", "6", "2", "0", "1", "3", "1", "0", "3", "1", "2", "0", "1", "0", "1", "0", "1", "0", "2", "0", "1", "1", "1", "0", "1", "1", "2", "0", "0", "0", "1", "0", "0", "6", "2", "0", "0", "3", "0", "0", "1", "1", "2", "0", "0", "0", "1", "0", "0", "6", "2", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0019.png
[ "fractal20220817_data/processed/episode_069661/images/0018.png", "fractal20220817_data/processed/episode_069661/images/0019.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "1", "2", "0", "0", "0", "1", "0", "0", "6", "0", "0", "0", "3", "0", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "6", "2", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0020.png
[ "fractal20220817_data/processed/episode_069661/images/0019.png", "fractal20220817_data/processed/episode_069661/images/0020.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "3", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "6", "2", "0", "1", "1", "1", "1", "3", "1", "2", "0", "1", "0", "1", "0", "0", "6", "2", "0", "0", "3", "1", "0", "3", "3", "2", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "3", "2", "0", "1", "0", "1", "0", "0", "6", "2", "0", "0", "3", "0", "0", "1", "3", "2", "0", "1", "0", "1", "0", "0", "6", "2", "0", "1", "3", "1", "0", "1", "1", "2", "0", "0", "0", "1", "0", "0", "6", "2", "0", "1", "3", "0", "0", "0", "1", "2", "0", "0", "0", "1", "0", "0", "6", "2", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0021.png
[ "fractal20220817_data/processed/episode_069661/images/0020.png", "fractal20220817_data/processed/episode_069661/images/0021.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "3", "1", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "3", "0", "0", "1", "1", "2", "0", "1", "0", "1", "0", "0", "6", "0", "0", "1", "3", "1", "0", "1", "1", "2", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "3", "0", "0", "0", "1", "2", "0", "0", "0", "1", "1", "0", "6", "2", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0022.png
[ "fractal20220817_data/processed/episode_069661/images/0021.png", "fractal20220817_data/processed/episode_069661/images/0022.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "3", "1", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "3", "1", "1", "1", "0", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "0", "3", "3", "3", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "3", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "3", "3", "3", "0", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "1", "1", "1", "3", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "3", "3", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "3", "1", "0", "1", "3", "0", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "3", "1", "0", "1", "3", "0", "0", "1", "0", "1", "0", "0", "6", "0", "0", "1", "3", "1", "0", "1", "3", "0", "0", "0", "0", "1", "0", "0", "6", "0", "0", "1", "3", "1", "0", "1", "3", "0", "0", "0", "0", "1", "1", "0", "6", "0", "0", "1", "3", "3", "0", "0", "3", "0", "0", "0", "0", "1", "1", "0", "6", "0", "0", "1", "3", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0023.png
[ "fractal20220817_data/processed/episode_069661/images/0022.png", "fractal20220817_data/processed/episode_069661/images/0023.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "6", "3", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "3", "1", "0", "0", "0", "0", "3", "0", "0", "6", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "3", "1", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "3", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "6", "0", "0", "0", "3", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "6", "2", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "3", "3", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "6", "2", "0", "3", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0024.png
[ "fractal20220817_data/processed/episode_069661/images/0023.png", "fractal20220817_data/processed/episode_069661/images/0024.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "1", "1", "3", "0", "3", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "3", "0", "3", "0", "1", "0", "0", "0", "0", "1", "0", "3", "3", "0", "1", "1", "3", "1", "3", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "3", "0", "3", "1", "0", "0", "0", "0", "3", "0", "0", "0", "0", "1", "3", "1", "3", "1", "3", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "3", "1", "3", "3", "0", "1", "3", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "3", "0", "1", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "3", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "3", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "3", "3", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "3", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "3", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0025.png
[ "fractal20220817_data/processed/episode_069661/images/0024.png", "fractal20220817_data/processed/episode_069661/images/0025.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0026.png
[ "fractal20220817_data/processed/episode_069661/images/0025.png", "fractal20220817_data/processed/episode_069661/images/0026.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "3", "1", "1", "1", "1", "0", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "3", "3", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "3", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "1", "3", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "2", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0027.png
[ "fractal20220817_data/processed/episode_069661/images/0026.png", "fractal20220817_data/processed/episode_069661/images/0027.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0028.png
[ "fractal20220817_data/processed/episode_069661/images/0027.png", "fractal20220817_data/processed/episode_069661/images/0028.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "3", "3", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0029.png
[ "fractal20220817_data/processed/episode_069661/images/0028.png", "fractal20220817_data/processed/episode_069661/images/0029.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0030.png
[ "fractal20220817_data/processed/episode_069661/images/0029.png", "fractal20220817_data/processed/episode_069661/images/0030.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_069661_0031.png
[ "fractal20220817_data/processed/episode_069661/images/0030.png", "fractal20220817_data/processed/episode_069661/images/0031.png" ]
<s> You are a helpful assistant. USER: close middle drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_069661/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0000.png
[ "fractal20220817_data/processed/episode_060115/images/0000.png", "fractal20220817_data/processed/episode_060115/images/0000.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "3", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "3", "0", "0", "0", "0", "0", "2", "1", "1", "1", "0", "0", "0", "1", "0", "0", "3", "0", "1", "1", "0", "0", "0", "1", "1", "3", "0", "0", "0", "1", "0", "0", "3", "0", "0", "0", "1", "0", "2", "3", "3", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "2", "0", "3", "3", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "2", "3", "3", "1", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "3", "3", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "3", "3", "1", "0", "0", "3", "1", "1", "0", "1", "0", "1", "0", "2", "0", "0", "3", "4", "0", "2", "2", "1", "1", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0014.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0001.png
[ "fractal20220817_data/processed/episode_060115/images/0000.png", "fractal20220817_data/processed/episode_060115/images/0001.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "3", "0", "0", "1", "0", "1", "0", "0", "0", "3", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "0", "3", "0", "0", "0", "1", "0", "2", "1", "1", "1", "0", "0", "0", "3", "0", "0", "3", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "3", "0", "1", "0", "1", "0", "2", "3", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "3", "2", "2", "3", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "2", "3", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "3", "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "3", "1", "1", "0", "6", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "3", "3", "6", "0", "0", "3", "0", "1", "0", "6", "1", "1", "0", "0", "0", "0", "3", "3", "1", "2", "2", "0", "1", "1", "0", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0015.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0002.png
[ "fractal20220817_data/processed/episode_060115/images/0001.png", "fractal20220817_data/processed/episode_060115/images/0002.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "0", "0", "3", "0", "1", "3", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "3", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "3", "0", "0", "1", "0", "0", "0", "1", "0", "2", "1", "1", "1", "0", "0", "0", "3", "0", "0", "1", "0", "1", "1", "1", "0", "2", "1", "3", "3", "0", "0", "0", "1", "0", "3", "3", "0", "1", "0", "1", "0", "2", "3", "3", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "3", "2", "2", "3", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "2", "3", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "3", "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "3", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "3", "1", "6", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "3", "3", "1", "0", "0", "3", "1", "1", "0", "0", "3", "1", "1", "0", "0", "0", "3", "3", "1", "0", "0", "1", "1", "1", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0016.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0003.png
[ "fractal20220817_data/processed/episode_060115/images/0002.png", "fractal20220817_data/processed/episode_060115/images/0003.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "3", "0", "0", "3", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "0", "0", "3", "0", "0", "3", "0", "0", "0", "1", "0", "2", "1", "1", "1", "0", "0", "0", "3", "0", "0", "1", "0", "1", "1", "0", "0", "2", "1", "1", "3", "0", "0", "0", "3", "0", "3", "3", "0", "1", "0", "1", "0", "2", "3", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "3", "0", "2", "3", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "2", "3", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "6", "3", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "3", "3", "1", "0", "6", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "3", "3", "6", "0", "2", "1", "0", "1", "0", "6", "1", "1", "0", "5", "0", "0", "3", "3", "1", "0", "2", "0", "1", "1", "0", "1", "1", "1", "1", "5", "0", "1", "3", "3", "1", "0", "0", "3", "3", "1", "1", "0", "3", "1", "1", "0", "0", "1", "3", "3", "1", "0", "0", "1", "1", "1", "1", "3" ]
[ "fractal20220817_data/processed/episode_060115/images/0017.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0004.png
[ "fractal20220817_data/processed/episode_060115/images/0003.png", "fractal20220817_data/processed/episode_060115/images/0004.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "3", "1", "1", "3", "0", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "1", "3", "1", "0", "0", "1", "0", "2", "1", "1", "1", "0", "0", "0", "3", "0", "0", "3", "0", "1", "1", "0", "0", "0", "1", "1", "3", "0", "0", "0", "1", "0", "3", "3", "0", "1", "0", "1", "0", "2", "3", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "1", "1", "0", "2", "0", "3", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "2", "3", "3", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "3", "3", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "3", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "3", "1", "6", "0", "0", "1", "0", "1", "0", "2", "1", "1", "0", "0", "0", "0", "3", "3", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "5", "0", "1", "3", "3", "1", "1", "0", "0", "1", "1", "1", "1", "3", "1", "1", "0", "0", "1", "3", "1", "3", "1", "0", "3", "3", "1", "1", "1", "3", "1", "1", "1", "0", "1", "0", "6", "1", "0", "0", "3", "1", "1", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0018.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0005.png
[ "fractal20220817_data/processed/episode_060115/images/0004.png", "fractal20220817_data/processed/episode_060115/images/0005.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "3", "3", "3", "1", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "3", "0", "1", "3", "3", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "3", "1", "1", "0", "0", "0", "1", "1", "3", "0", "0", "0", "1", "0", "3", "3", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "3", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "3", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "1", "3", "1", "0", "1", "1", "1", "1", "1", "0", "3", "1", "0", "1", "6", "0", "1", "3", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "3", "3", "6", "0", "0", "0", "0", "1", "0", "6", "1", "1", "1", "0", "6", "0", "3", "3", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "1", "0", "0", "1", "3", "3", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "3", "3", "1", "1", "0", "0", "3", "1", "1", "1", "3", "1", "1", "1", "0", "1", "0", "0", "1", "0", "1", "3", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "3", "1", "1", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0019.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0006.png
[ "fractal20220817_data/processed/episode_060115/images/0005.png", "fractal20220817_data/processed/episode_060115/images/0006.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "0", "3", "1", "1", "1", "0", "1", "0", "3", "1", "1", "1", "0", "0", "3", "1", "0", "1", "1", "1", "1", "0", "0", "0", "3", "1", "3", "1", "0", "0", "1", "1", "3", "3", "0", "0", "0", "1", "0", "0", "3", "3", "1", "1", "0", "0", "1", "0", "1", "5", "0", "1", "1", "6", "0", "0", "3", "0", "1", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "6", "1", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "3", "1", "1", "1", "0", "3", "1", "0", "1", "0", "0", "1", "3", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "6", "0", "3", "3", "0", "0", "0", "0", "0", "0", "0", "2", "1", "1", "1", "5", "0", "0", "3", "3", "0", "0", "0", "6", "1", "0", "0", "0", "1", "1", "1", "5", "0", "1", "3", "3", "1", "1", "0", "0", "3", "1", "1", "0", "3", "1", "1", "5", "0", "1", "3", "6", "1", "1", "0", "6", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "6", "1", "1", "1", "0", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "6", "3", "1", "1", "1", "1", "1", "1", "1", "1", "1", "2", "2", "1", "0", "1", "6", "1", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0020.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0007.png
[ "fractal20220817_data/processed/episode_060115/images/0006.png", "fractal20220817_data/processed/episode_060115/images/0007.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "3", "1", "0", "0", "3", "1", "3", "6", "3", "1", "0", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "6", "0", "0", "0", "0", "0", "1", "0", "0", "3", "1", "1", "0", "3", "1", "1", "3", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "3", "1", "1", "0", "6", "0", "3", "3", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "6", "0", "3", "3", "6", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "5", "6", "0", "3", "3", "0", "1", "0", "0", "1", "0", "0", "0", "3", "1", "1", "5", "0", "1", "3", "3", "1", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "3", "0", "1", "1", "0", "0", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "1", "0", "3", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "3", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "2", "1", "0", "3", "3", "6", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "0", "0", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0021.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0008.png
[ "fractal20220817_data/processed/episode_060115/images/0007.png", "fractal20220817_data/processed/episode_060115/images/0008.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "3", "3", "3", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "3", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "3", "1", "1", "1", "6", "0", "3", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "6", "0", "3", "1", "2", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "3", "3", "0", "0", "0", "0", "1", "0", "6", "1", "3", "1", "1", "1", "0", "1", "6", "0", "1", "1", "0", "0", "3", "1", "1", "1", "3", "1", "1", "1", "0", "1", "3", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "2", "0", "0", "1", "1", "6", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "2", "0", "0", "1", "0", "0", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0022.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0009.png
[ "fractal20220817_data/processed/episode_060115/images/0008.png", "fractal20220817_data/processed/episode_060115/images/0009.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "1", "0", "3", "1", "1", "1", "1", "6", "0", "0", "0", "0", "3", "0", "0", "0", "3", "0", "3", "0", "1", "1", "1", "0", "1", "0", "1", "0", "3", "0", "0", "0", "1", "0", "3", "0", "0", "1", "1", "0", "0", "0", "1", "1", "3", "1", "1", "0", "3", "0", "1", "0", "6", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "6", "0", "1", "0", "2", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "6", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "3", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "3", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "3", "1", "0", "1", "0", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "2", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "2", "0", "0", "1", "0", "6", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "2", "0", "2", "0", "0", "0", "0", "2", "2" ]
[ "fractal20220817_data/processed/episode_060115/images/0023.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0010.png
[ "fractal20220817_data/processed/episode_060115/images/0009.png", "fractal20220817_data/processed/episode_060115/images/0010.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "3", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "3", "1", "1", "0", "6", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "6", "0", "1", "1", "2", "0", "0", "0", "0", "0", "0", "2", "1", "1", "1", "0", "3", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "1", "1", "3", "1", "0", "1", "0", "2", "1", "0", "0", "3", "1", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "2", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "2", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "2", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "2", "0", "2", "0", "2", "0", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_060115/images/0024.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0011.png
[ "fractal20220817_data/processed/episode_060115/images/0010.png", "fractal20220817_data/processed/episode_060115/images/0011.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "1", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "3", "1", "0", "0", "3", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "6", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "3", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "1", "3", "1", "0", "1", "1", "1", "3", "1", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "3", "1", "0", "1", "0", "0", "1", "0", "1", "3", "1", "1", "1", "1", "0", "1", "3", "1", "0", "1", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "0", "1", "0", "0", "2", "0", "2", "0", "0", "0", "2", "0", "0", "1", "1", "0", "2", "1", "0", "0", "2", "2", "2", "0", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_060115/images/0025.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0012.png
[ "fractal20220817_data/processed/episode_060115/images/0011.png", "fractal20220817_data/processed/episode_060115/images/0012.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "3", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "3", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "2", "3", "3", "1", "0", "3", "0", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "1", "3", "1", "1", "0", "3", "3", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "3", "1", "0", "0", "1", "3", "1", "1", "0", "1", "0", "0", "1", "0", "1", "3", "3", "1", "1", "0", "1", "3", "1", "1", "1", "1", "0", "0", "1", "0", "0", "3", "1", "1", "1", "0", "1", "3", "1", "1", "1", "0", "0", "0", "1", "0", "1", "3", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "1", "0", "0", "0", "1", "0", "0", "2", "0", "6", "1", "0", "0", "2", "0", "1", "3", "0", "1", "0", "1", "6", "6", "2", "0", "1", "0", "0", "0", "2", "0", "3", "1", "0", "1", "0", "1", "3", "1", "0", "0", "2", "0", "1", "1", "2" ]
[ "fractal20220817_data/processed/episode_060115/images/0026.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0013.png
[ "fractal20220817_data/processed/episode_060115/images/0012.png", "fractal20220817_data/processed/episode_060115/images/0013.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "0", "0", "1", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "0", "0", "0", "3", "1", "1", "0", "0", "3", "0", "0", "1", "3", "1", "1", "1", "0", "1", "0", "3", "1", "1", "1", "1", "3", "1", "1", "0", "1", "3", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "3", "1", "1", "1", "1", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "0", "2", "0", "3", "0", "0", "3", "0", "0", "0", "6", "2", "2", "1", "0", "0", "0", "2", "0", "1", "1", "1", "3", "0", "1", "1", "1", "0", "0", "5", "1", "1", "1", "2", "0", "1", "0", "0", "1", "2", "1", "3", "2", "0", "6", "2", "0", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_060115/images/0027.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0014.png
[ "fractal20220817_data/processed/episode_060115/images/0013.png", "fractal20220817_data/processed/episode_060115/images/0014.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "0", "1", "3", "3", "3", "1", "3", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "3", "3", "1", "1", "3", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "3", "3", "1", "3", "3", "1", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "3", "3", "1", "3", "3", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "3", "3", "1", "3", "3", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "2", "3", "1", "1", "3", "1", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "2", "3", "3", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "2", "6", "6", "0", "1", "3", "0", "1", "1", "6", "2", "0", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "0", "1", "3", "1", "0", "0", "0", "1", "1", "1", "0", "0", "3", "3", "6", "0", "0", "1", "3", "6", "0", "6", "2", "6", "0", "2", "0", "0", "1", "1", "3", "1", "0", "3", "1", "0", "1", "3", "1", "1", "1", "1", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0028.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0015.png
[ "fractal20220817_data/processed/episode_060115/images/0014.png", "fractal20220817_data/processed/episode_060115/images/0015.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "3", "1", "0", "0", "0", "0", "0", "1", "3", "1", "1", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "0", "1", "0", "3", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "3", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "2", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "0", "1", "1", "2", "0", "2", "1", "1", "0", "0", "2", "1", "1", "1", "1", "1", "0", "3", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "3", "3", "2", "1", "6", "0", "6", "0", "2", "0", "3", "0", "1", "3", "0", "0", "3", "1", "1", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "6", "0", "0", "6", "1", "1", "1", "1", "1", "0", "1", "1", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0016.png
[ "fractal20220817_data/processed/episode_060115/images/0015.png", "fractal20220817_data/processed/episode_060115/images/0016.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "0", "1", "3", "1", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "3", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "2", "0", "3", "1", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "2", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "2", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "2", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "1", "0", "0", "6", "2", "2", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "3", "3", "0", "0", "0", "3", "3", "2", "0", "6", "0", "6", "0", "2", "0", "1", "1", "1", "1", "1", "0", "3", "1", "1", "1", "3", "1", "1", "1", "1", "0", "0", "1", "1", "0", "3", "0", "6", "1", "0", "3", "3", "1", "1", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0017.png
[ "fractal20220817_data/processed/episode_060115/images/0016.png", "fractal20220817_data/processed/episode_060115/images/0017.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "0", "3", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "6", "1", "0", "1", "0", "2", "6", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "1", "3", "1", "1", "3", "1", "1", "1", "1", "1", "0", "3", "1", "0", "0", "0", "1", "3", "2", "0", "6", "0", "6", "0", "2", "0", "1", "1", "1", "3", "1", "1", "0", "3", "1", "3", "3", "1", "1", "1", "1", "0", "0", "1", "1", "3", "0", "0", "0", "1", "1", "3", "3", "1", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "1", "1", "3", "3", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "3", "1", "1", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0018.png
[ "fractal20220817_data/processed/episode_060115/images/0017.png", "fractal20220817_data/processed/episode_060115/images/0018.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "3", "1", "0", "0", "0", "3", "0", "0", "1", "3", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "6", "1", "0", "0", "6", "2", "0", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "1", "3", "1", "1", "3", "1", "1", "1", "1", "1", "0", "3", "3", "0", "6", "0", "1", "3", "2", "0", "6", "0", "6", "0", "2", "0", "1", "1", "1", "3", "3", "0", "0", "3", "1", "1", "3", "1", "1", "1", "1", "0", "0", "1", "1", "3", "3", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "3", "1", "3", "1", "0", "1", "6", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "1", "6" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0019.png
[ "fractal20220817_data/processed/episode_060115/images/0018.png", "fractal20220817_data/processed/episode_060115/images/0019.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "1", "3", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "0", "0", "1", "6", "1", "0", "0", "6", "0", "2", "1", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "1", "1", "1", "0", "1", "1", "1", "1", "1", "0", "3", "3", "0", "0", "0", "1", "3", "2", "0", "0", "0", "6", "0", "2", "0", "1", "1", "3", "3", "1", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "3", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "1", "6", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0020.png
[ "fractal20220817_data/processed/episode_060115/images/0019.png", "fractal20220817_data/processed/episode_060115/images/0020.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "3", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "0", "0", "1", "6", "1", "0", "0", "0", "0", "2", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "0", "0", "1", "1", "0", "1", "1", "1", "1", "1", "0", "6", "0", "0", "0", "0", "1", "3", "2", "0", "0", "0", "6", "0", "2", "6", "1", "1", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "3", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "3", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "0", "1", "0", "1", "1", "1", "1", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0021.png
[ "fractal20220817_data/processed/episode_060115/images/0020.png", "fractal20220817_data/processed/episode_060115/images/0021.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "1", "6", "1", "0", "0", "6", "0", "0", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "3", "0", "0", "0", "1", "3", "2", "1", "0", "0", "6", "2", "2", "6", "1", "1", "1", "3", "0", "0", "3", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "1", "1", "3", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "3", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0022.png
[ "fractal20220817_data/processed/episode_060115/images/0021.png", "fractal20220817_data/processed/episode_060115/images/0022.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "3", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "0", "1", "6", "3", "0", "0", "6", "6", "0", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "0", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "2", "0", "0", "0", "6", "2", "2", "6", "1", "1", "1", "3", "0", "0", "3", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "3", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "3", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "3", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0023.png
[ "fractal20220817_data/processed/episode_060115/images/0022.png", "fractal20220817_data/processed/episode_060115/images/0023.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "0", "1", "0", "3", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "1", "3", "3", "0", "0", "0", "0", "0", "1", "0", "0", "0", "2", "1", "1", "1", "1", "3", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "2", "0", "0", "0", "6", "2", "2", "6", "1", "1", "1", "3", "1", "1", "3", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "1", "3", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "6", "0", "1", "1", "3", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "6", "1", "0", "1", "3", "0", "1", "0", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "0", "0", "1", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "3", "1", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "1", "1", "1", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0024.png
[ "fractal20220817_data/processed/episode_060115/images/0023.png", "fractal20220817_data/processed/episode_060115/images/0024.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "0", "0", "1", "3", "3", "0", "0", "0", "0", "0", "0", "3", "0", "6", "2", "1", "1", "1", "1", "3", "0", "1", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "3", "0", "0", "0", "3", "1", "2", "0", "0", "0", "6", "0", "2", "0", "1", "1", "3", "1", "0", "0", "3", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "3", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "1", "3", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "1", "1", "3", "0", "1", "1", "0", "3", "0", "1", "0", "1", "1", "0", "0", "1", "1", "1", "3", "0", "0", "1", "0", "3", "1", "1", "0", "1", "1", "0", "0", "1", "3", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "0", "1", "3", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "3", "0", "1", "0", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "3", "0", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "6", "0", "1", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0025.png
[ "fractal20220817_data/processed/episode_060115/images/0024.png", "fractal20220817_data/processed/episode_060115/images/0025.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "1", "1", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "6", "1", "1", "1", "3", "0", "1", "1", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "3", "1", "0", "1", "0", "1", "1", "1", "3", "1", "0", "1", "0", "1", "1", "0", "3", "0", "0", "1", "0", "1", "1", "1", "3", "1", "0", "1", "0", "1", "0", "0", "3", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "3", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0026.png
[ "fractal20220817_data/processed/episode_060115/images/0025.png", "fractal20220817_data/processed/episode_060115/images/0026.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "0", "3", "1", "0", "1", "0", "1", "0", "0", "6", "0", "6", "0", "0", "0", "0", "1", "1", "3", "3", "1", "1", "1", "0", "1", "3", "0", "1", "1", "1", "1", "0", "3", "1", "1", "3", "1", "0", "1", "0", "0", "3", "0", "1", "1", "1", "1", "0", "3", "1", "1", "3", "1", "0", "1", "0", "0", "3", "0", "1", "1", "1", "1", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "2", "0", "1", "0", "1", "1" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0027.png
[ "fractal20220817_data/processed/episode_060115/images/0026.png", "fractal20220817_data/processed/episode_060115/images/0027.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "1", "1", "3", "3", "3", "1", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "1", "1", "1", "3", "3", "0", "0", "0", "1", "1", "0", "1", "1", "1", "3", "0", "1", "1", "1", "3", "3", "0", "0", "0", "1", "1", "0", "1", "1", "1", "3", "0", "1", "0", "1", "1", "3", "0", "0", "0", "1", "1", "0", "0", "1", "1", "3", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "3", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0028.png
[ "fractal20220817_data/processed/episode_060115/images/0027.png", "fractal20220817_data/processed/episode_060115/images/0028.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "3", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "0", "1", "1", "2", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_060115_0029.png
[ "fractal20220817_data/processed/episode_060115/images/0028.png", "fractal20220817_data/processed/episode_060115/images/0029.png" ]
<s> You are a helpful assistant. USER: pick green can ASSISTANT:
[ "3", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_060115/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0000.png
[ "fractal20220817_data/processed/episode_070078/images/0000.png", "fractal20220817_data/processed/episode_070078/images/0000.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "0", "1", "0", "1", "0", "3", "1", "0", "1", "1", "3", "0", "1", "3", "6", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "0", "3", "0", "1", "3", "6", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "3", "0", "0", "3", "1", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "1", "0", "1", "6", "3", "0", "2", "1", "6", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "6", "6", "0", "0", "3", "0", "0", "3", "1", "0", "0", "1", "6", "1", "0", "0", "3", "6", "0", "0", "3", "0", "0", "1", "1", "0", "1", "1", "3", "1", "2", "1", "5", "6", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "2", "1", "5", "6", "6", "0", "0", "1", "0", "1", "0", "0", "1", "0", "3", "1", "0", "3", "5", "6", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "2", "6", "6", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0014.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0001.png
[ "fractal20220817_data/processed/episode_070078/images/0000.png", "fractal20220817_data/processed/episode_070078/images/0001.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "0", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "3", "1", "1", "3", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "3", "1", "0", "3", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "0", "1", "0", "3", "1", "0", "1", "1", "3", "0", "1", "1", "6", "1", "0", "1", "0", "1", "0", "3", "0", "0", "0", "0", "3", "0", "1", "0", "6", "0", "0", "0", "1", "1", "0", "3", "0", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "3", "0", "1", "0", "0", "1", "0", "1", "0", "3", "0", "2", "1", "6", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "2", "6", "0", "0", "3", "6", "0", "3", "3", "0", "0", "1", "6", "1", "0", "0", "3", "6", "0", "0", "3", "0", "0", "1", "1", "0", "1", "1", "3", "1", "0", "1", "5", "6", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "2", "3", "5", "6", "6", "0", "0", "1", "0", "0", "1", "0", "0", "0", "3", "0", "0", "1", "5", "6", "6", "0", "0", "1", "0", "0", "0", "0", "1", "0", "6", "0", "0", "1", "5", "6", "6", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "2", "1", "0", "0", "6", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0015.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0002.png
[ "fractal20220817_data/processed/episode_070078/images/0001.png", "fractal20220817_data/processed/episode_070078/images/0002.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "3", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "3", "1", "1", "0", "0", "1", "0", "1", "1", "3", "0", "1", "1", "0", "1", "0", "3", "1", "0", "1", "0", "3", "0", "1", "1", "6", "0", "0", "1", "0", "1", "0", "3", "0", "0", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "1", "0", "1", "0", "3", "0", "2", "1", "6", "0", "1", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "0", "3", "1", "0", "0", "3", "6", "1", "0", "0", "3", "6", "0", "0", "3", "0", "0", "1", "1", "0", "1", "1", "3", "1", "2", "1", "5", "6", "1", "0", "3", "0", "0", "0", "1", "0", "0", "0", "3", "0", "2", "3", "5", "0", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "5", "6", "6", "0", "0", "1", "0", "0", "0", "0", "3", "1", "0", "0", "2", "1", "5", "0", "6", "0", "0", "1", "0", "0", "0", "0", "3", "0", "0", "0", "2", "1", "0", "0", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "2", "1", "0", "0", "6", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0016.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0003.png
[ "fractal20220817_data/processed/episode_070078/images/0002.png", "fractal20220817_data/processed/episode_070078/images/0003.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "3", "1", "0", "1", "1", "1", "1", "1", "1", "6", "1", "1", "3", "0", "3", "1", "6", "1", "0", "0", "3", "1", "0", "1", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "3", "1", "0", "3", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "6", "1", "1", "1", "0", "1", "0", "1", "1", "0", "3", "0", "1", "0", "0", "1", "6", "0", "3", "3", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "3", "6", "0", "3", "1", "0", "0", "1", "6", "1", "0", "0", "1", "0", "1", "0", "3", "1", "0", "3", "1", "0", "1", "3", "3", "1", "0", "3", "5", "0", "1", "0", "3", "0", "0", "1", "1", "0", "0", "3", "3", "0", "2", "3", "5", "0", "6", "0", "0", "1", "0", "1", "1", "1", "0", "1", "3", "0", "0", "3", "5", "0", "0", "0", "0", "1", "0", "1", "0", "1", "3", "1", "3", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "1", "1", "1", "3", "1", "0", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "3", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "2", "0", "0", "0", "0", "0", "6", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0017.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0004.png
[ "fractal20220817_data/processed/episode_070078/images/0003.png", "fractal20220817_data/processed/episode_070078/images/0004.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "1", "0", "0", "0", "0", "1", "3", "0", "3", "0", "6", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "1", "1", "6", "0", "0", "0", "3", "1", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "3", "1", "1", "1", "0", "1", "0", "1", "1", "0", "3", "0", "1", "0", "0", "0", "6", "0", "1", "3", "1", "0", "1", "1", "6", "0", "0", "0", "1", "0", "0", "6", "0", "0", "3", "1", "1", "0", "1", "6", "3", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "3", "3", "1", "0", "3", "5", "1", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "3", "0", "2", "3", "5", "0", "6", "0", "0", "1", "1", "1", "1", "1", "0", "0", "3", "0", "0", "1", "5", "1", "0", "0", "0", "1", "1", "1", "1", "1", "3", "0", "6", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "1", "1", "1", "3", "0", "6", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "3", "1", "1", "3", "0", "0", "0", "0", "0", "5", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "0", "2", "6", "2", "0", "0", "0", "0", "0", "0", "0", "1", "6", "0", "0", "0", "0", "2", "6", "2", "0", "5", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0018.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0005.png
[ "fractal20220817_data/processed/episode_070078/images/0004.png", "fractal20220817_data/processed/episode_070078/images/0005.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "3", "3", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "6", "3", "1", "1", "1", "1", "0", "0", "3", "0", "1", "1", "0", "0", "0", "0", "6", "0", "3", "3", "1", "0", "1", "0", "6", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "1", "1", "0", "3", "6", "3", "0", "0", "3", "0", "0", "0", "0", "1", "0", "3", "1", "1", "1", "3", "3", "1", "0", "3", "5", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "3", "3", "0", "0", "1", "5", "1", "6", "0", "0", "1", "1", "1", "1", "3", "0", "3", "1", "0", "0", "1", "5", "1", "0", "0", "0", "0", "1", "1", "1", "3", "3", "1", "0", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "1", "1", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "1", "1", "1", "1", "2", "6", "0", "0", "5", "0", "1", "0", "0", "0", "1", "3", "1", "0", "0", "1", "2", "6", "0", "0", "0", "0", "1", "0", "0", "0", "1", "6", "1", "0", "0", "1", "2", "6", "0", "0", "0", "0", "0", "0", "0", "0", "1", "6", "1", "0", "0", "1", "2", "6", "0", "0", "0", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0019.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0006.png
[ "fractal20220817_data/processed/episode_070078/images/0005.png", "fractal20220817_data/processed/episode_070078/images/0006.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "0", "1", "3", "1", "1", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "1", "1", "3", "1", "1", "1", "3", "0", "3", "1", "0", "1", "0", "1", "6", "1", "3", "3", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "3", "0", "1", "3", "1", "3", "1", "1", "6", "3", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "3", "1", "3", "3", "3", "0", "1", "5", "1", "1", "0", "3", "0", "0", "0", "1", "3", "1", "3", "3", "0", "0", "1", "5", "1", "6", "0", "0", "1", "1", "1", "1", "3", "1", "1", "3", "1", "0", "1", "5", "1", "0", "0", "0", "0", "1", "1", "1", "3", "3", "1", "0", "1", "0", "1", "5", "1", "0", "0", "0", "1", "1", "0", "1", "1", "3", "1", "0", "0", "0", "1", "5", "1", "0", "0", "0", "1", "1", "0", "1", "1", "3", "1", "0", "0", "0", "1", "5", "0", "1", "0", "0", "0", "1", "6", "1", "0", "0", "1", "2", "0", "0", "0", "5", "0", "1", "0", "0", "0", "1", "6", "1", "0", "0", "1", "2", "6", "0", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "0", "1", "1", "0", "6", "0", "1", "0", "0", "1", "0", "0", "0", "0", "6", "1", "0", "0", "0", "2", "6", "0", "2", "5", "0", "0", "2", "5" ]
[ "fractal20220817_data/processed/episode_070078/images/0020.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0007.png
[ "fractal20220817_data/processed/episode_070078/images/0006.png", "fractal20220817_data/processed/episode_070078/images/0007.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "1", "1", "1", "0", "1", "1", "3", "0", "3", "3", "0", "1", "0", "0", "3", "0", "3", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "6", "1", "0", "0", "3", "6", "1", "0", "1", "1", "1", "1", "1", "1", "1", "3", "3", "1", "0", "3", "5", "6", "1", "0", "3", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "3", "5", "0", "6", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "0", "3", "0", "0", "0", "1", "1", "1", "1", "0", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "1", "2", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "6", "1", "0", "0", "1", "2", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "6", "1", "0", "0", "1", "2", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "6", "0", "0", "3", "0", "2", "1", "0", "2", "0", "0", "6", "3", "0", "0", "0", "5", "2", "0", "2", "3", "2", "0", "2", "1", "1", "0", "6", "3", "1", "5", "1", "5", "0", "0", "0", "3", "0", "1", "2", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0021.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0008.png
[ "fractal20220817_data/processed/episode_070078/images/0007.png", "fractal20220817_data/processed/episode_070078/images/0008.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "3", "3", "3", "0", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "3", "1", "1", "6", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "3", "1", "0", "3", "1", "0", "1", "1", "0", "1", "0", "1", "1", "1", "0", "1", "3", "0", "0", "3", "0", "0", "1", "5", "0", "6", "0", "0", "1", "1", "1", "1", "3", "0", "0", "3", "1", "0", "1", "5", "1", "0", "0", "0", "1", "1", "0", "1", "3", "3", "0", "0", "0", "0", "1", "5", "0", "0", "0", "0", "1", "1", "0", "1", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "1", "2", "6", "0", "0", "5", "0", "0", "0", "0", "0", "1", "6", "3", "0", "0", "1", "2", "6", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "1", "6", "6", "0", "3", "0", "0", "1", "0", "2", "0", "0", "0", "3", "0", "0", "0", "5", "6", "0", "2", "1", "0", "0", "2", "1", "0", "3", "3", "3", "1", "0", "1", "2", "3", "0", "0", "3", "0", "1", "2", "3", "1", "2", "3", "1", "1", "1", "1", "1", "6", "0", "0", "6", "0", "1", "2", "6" ]
[ "fractal20220817_data/processed/episode_070078/images/0022.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0009.png
[ "fractal20220817_data/processed/episode_070078/images/0008.png", "fractal20220817_data/processed/episode_070078/images/0009.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "0", "1", "1", "1", "6", "1", "0", "0", "1", "6", "1", "1", "1", "1", "0", "1", "1", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "1", "3", "1", "0", "1", "1", "0", "0", "1", "3", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "3", "1", "1", "0", "0", "3", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "3", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "3", "0", "3", "1", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "3", "1", "3", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "6", "1", "0", "0", "1", "2", "0", "0", "0", "0", "0", "1", "0", "0", "6", "1", "6", "3", "0", "0", "1", "2", "6", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "6", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "3", "0", "0", "0", "5", "2", "0", "2", "3", "0", "0", "2", "3", "0", "3", "3", "3", "1", "5", "1", "2", "1", "0", "0", "3", "6", "1", "0", "3", "1", "1", "3", "3", "0", "5", "1", "5", "3", "0", "0", "3", "0", "1", "0", "3", "1", "2", "3", "1", "1", "5", "1", "1", "3", "0", "0", "6", "3", "1", "0", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0023.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0010.png
[ "fractal20220817_data/processed/episode_070078/images/0009.png", "fractal20220817_data/processed/episode_070078/images/0010.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "3", "3", "1", "0", "0", "3", "0", "1", "0", "1", "3", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "6", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "6", "0", "0", "1", "0", "0", "0", "0", "3", "1", "0", "1", "0", "0", "1", "0", "6", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "6", "0", "0", "1", "0", "0", "0", "1", "0", "1", "6", "1", "0", "0", "1", "0", "6", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "1", "6", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "5", "0", "5", "6", "0", "2", "3", "0", "0", "2", "1", "1", "3", "3", "3", "1", "5", "3", "0", "3", "0", "0", "3", "0", "1", "2", "3", "1", "0", "3", "1", "1", "5", "3", "1", "3", "0", "0", "3", "3", "1", "2", "3", "1", "0", "1", "1", "0", "1", "3", "1", "3", "0", "0", "3", "3", "1", "2", "3", "1", "2", "1", "0", "1", "1", "3", "1", "1", "0", "0", "6", "3", "1", "0", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0024.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0011.png
[ "fractal20220817_data/processed/episode_070078/images/0010.png", "fractal20220817_data/processed/episode_070078/images/0011.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "3", "1", "0", "3", "3", "3", "3", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "3", "1", "1", "3", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "0", "3", "3", "1", "3", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "1", "3", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "5", "0", "1", "1", "1", "3", "0", "0", "3", "0", "0", "1", "0", "6", "0", "0", "0", "0", "0", "0", "0", "5", "2", "0", "2", "3", "0", "0", "2", "3", "0", "3", "3", "3", "1", "1", "3", "0", "1", "1", "0", "3", "6", "1", "0", "3", "1", "0", "3", "1", "1", "1", "3", "1", "3", "0", "0", "6", "3", "1", "0", "3", "1", "0", "1", "0", "0", "3", "3", "1", "3", "0", "0", "6", "6", "1", "0", "3", "1", "2", "1", "5", "1", "1", "3", "1", "1", "0", "0", "6", "3", "1", "0", "6", "1", "3", "1", "1", "0", "2", "6", "1", "1", "0", "0", "6", "3", "1", "0", "6" ]
[ "fractal20220817_data/processed/episode_070078/images/0025.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0012.png
[ "fractal20220817_data/processed/episode_070078/images/0011.png", "fractal20220817_data/processed/episode_070078/images/0012.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "3", "0", "1", "1", "0", "1", "3", "0", "1", "1", "0", "1", "0", "1", "3", "3", "3", "0", "0", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "1", "3", "3", "3", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "3", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "1", "3", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "0", "0", "1", "0", "6", "1", "0", "1", "0", "0", "1", "1", "0", "0", "0", "1", "3", "0", "5", "2", "0", "2", "0", "2", "1", "0", "0", "2", "1", "1", "3", "3", "3", "0", "1", "1", "0", "3", "1", "0", "3", "6", "1", "0", "3", "1", "0", "3", "1", "0", "1", "1", "1", "3", "0", "0", "6", "1", "1", "0", "3", "1", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "6", "6", "0", "0", "6", "1", "2", "1", "1", "0", "1", "3", "3", "3", "0", "0", "6", "3", "1", "0", "3", "1", "3", "1", "3", "0", "0", "3", "1", "3", "0", "1", "6", "6", "0", "0", "6", "1", "1", "3", "3", "0", "5", "6", "3", "1", "0", "0", "6", "3", "0", "0", "6" ]
[ "fractal20220817_data/processed/episode_070078/images/0026.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0013.png
[ "fractal20220817_data/processed/episode_070078/images/0012.png", "fractal20220817_data/processed/episode_070078/images/0013.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "0", "0", "3", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "1", "6", "1", "0", "3", "5", "0", "0", "1", "6", "0", "0", "1", "3", "0", "0", "2", "1", "6", "0", "2", "3", "0", "0", "2", "3", "1", "1", "3", "3", "3", "1", "1", "0", "3", "1", "0", "3", "6", "1", "2", "3", "1", "0", "3", "1", "1", "1", "1", "1", "3", "0", "0", "6", "1", "1", "0", "3", "1", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "6", "6", "0", "0", "6", "1", "2", "0", "1", "1", "1", "3", "3", "3", "0", "0", "6", "3", "1", "0", "6", "1", "4", "1", "3", "2", "0", "6", "1", "3", "0", "0", "6", "6", "0", "0", "6", "1", "4", "1", "3", "0", "1", "6", "1", "1", "1", "1", "1", "3", "1", "0", "6", "0", "1", "1", "1", "2", "3", "6", "3", "1", "0", "2", "0", "3", "0", "0", "6" ]
[ "fractal20220817_data/processed/episode_070078/images/0027.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0014.png
[ "fractal20220817_data/processed/episode_070078/images/0013.png", "fractal20220817_data/processed/episode_070078/images/0014.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "6", "1", "0", "3", "0", "0", "1", "1", "0", "0", "0", "0", "3", "0", "0", "2", "1", "6", "0", "0", "3", "0", "0", "2", "0", "1", "1", "3", "3", "1", "1", "1", "0", "3", "0", "0", "3", "6", "1", "0", "3", "1", "1", "6", "1", "1", "1", "1", "1", "3", "0", "0", "3", "1", "1", "0", "3", "1", "0", "4", "0", "0", "3", "0", "3", "3", "0", "0", "6", "6", "1", "0", "6", "1", "2", "3", "1", "1", "4", "3", "3", "3", "0", "0", "0", "3", "1", "0", "6", "1", "3", "1", "3", "2", "0", "6", "3", "3", "0", "0", "0", "6", "1", "0", "6", "1", "4", "1", "3", "1", "1", "6", "5", "1", "0", "1", "1", "3", "1", "0", "0", "0", "3", "3", "1", "2", "3", "3", "3", "1", "0", "6", "1", "3", "1", "0", "2", "0", "3", "3", "0", "2", "3", "0", "3", "0", "2", "0", "1", "3", "0", "0", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0028.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0015.png
[ "fractal20220817_data/processed/episode_070078/images/0014.png", "fractal20220817_data/processed/episode_070078/images/0015.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "6", "1", "0", "3", "0", "0", "1", "1", "0", "1", "1", "1", "3", "0", "0", "2", "5", "6", "0", "0", "1", "0", "0", "2", "0", "1", "1", "3", "3", "1", "1", "1", "0", "3", "0", "0", "3", "6", "1", "0", "3", "1", "1", "3", "1", "1", "1", "1", "3", "3", "0", "0", "3", "3", "1", "0", "3", "1", "1", "3", "0", "0", "3", "0", "3", "3", "0", "0", "6", "6", "0", "0", "6", "1", "0", "3", "1", "0", "3", "3", "3", "1", "0", "0", "0", "3", "1", "0", "0", "1", "3", "3", "3", "2", "0", "6", "3", "3", "0", "0", "0", "6", "0", "0", "6", "1", "4", "3", "3", "0", "0", "3", "1", "1", "0", "1", "0", "3", "1", "0", "0", "0", "3", "3", "1", "2", "3", "1", "0", "1", "0", "6", "1", "3", "0", "0", "2", "0", "3", "3", "1", "2", "3", "3", "3", "0", "0", "0", "0", "3", "0", "0", "2", "0", "3", "3", "0", "2", "3", "1", "0", "0", "2", "0", "0", "6", "0", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0029.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0016.png
[ "fractal20220817_data/processed/episode_070078/images/0015.png", "fractal20220817_data/processed/episode_070078/images/0016.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "0", "1", "1", "0", "6", "1", "0", "3", "0", "0", "1", "1", "0", "1", "0", "1", "3", "0", "0", "2", "5", "6", "0", "0", "0", "0", "0", "2", "0", "1", "1", "3", "3", "1", "1", "1", "0", "3", "0", "0", "3", "6", "1", "0", "3", "1", "1", "3", "1", "1", "1", "1", "3", "3", "0", "0", "3", "1", "1", "0", "3", "1", "0", "3", "0", "0", "3", "0", "1", "3", "0", "0", "6", "6", "0", "0", "6", "1", "0", "3", "1", "1", "3", "3", "3", "3", "0", "0", "0", "3", "1", "0", "0", "1", "3", "1", "3", "2", "0", "6", "3", "3", "0", "0", "0", "6", "0", "0", "6", "1", "3", "3", "3", "1", "0", "0", "1", "1", "0", "1", "0", "3", "1", "0", "0", "0", "3", "3", "1", "2", "3", "1", "1", "1", "0", "0", "1", "3", "0", "1", "2", "0", "3", "3", "1", "2", "3", "1", "1", "0", "2", "0", "0", "3", "0", "1", "2", "0", "3", "3", "1", "2", "3", "3", "0", "0", "0", "3", "1", "6", "0", "1", "2", "0", "3", "3", "1", "0", "3", "3", "6", "0", "0", "3", "1", "3", "0", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0030.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0017.png
[ "fractal20220817_data/processed/episode_070078/images/0016.png", "fractal20220817_data/processed/episode_070078/images/0017.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "1", "1", "6", "1", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "3", "0", "0", "2", "5", "6", "0", "0", "0", "0", "0", "2", "0", "3", "1", "1", "3", "1", "1", "3", "0", "3", "0", "0", "3", "6", "1", "0", "3", "1", "1", "3", "1", "1", "1", "1", "3", "3", "0", "0", "3", "3", "1", "0", "3", "1", "0", "4", "0", "0", "3", "0", "1", "3", "0", "0", "6", "6", "0", "0", "6", "1", "0", "3", "1", "0", "3", "3", "3", "3", "0", "0", "0", "3", "1", "0", "0", "1", "3", "1", "3", "2", "0", "6", "1", "3", "0", "0", "0", "6", "0", "0", "6", "1", "4", "3", "3", "0", "0", "0", "1", "1", "0", "1", "0", "3", "0", "0", "0", "0", "3", "3", "1", "2", "3", "1", "0", "1", "0", "0", "1", "3", "0", "0", "2", "0", "3", "3", "1", "2", "3", "1", "1", "0", "0", "0", "0", "3", "0", "1", "2", "0", "3", "3", "1", "2", "1", "1", "0", "0", "0", "0", "5", "6", "0", "3", "2", "0", "3", "3", "1", "0", "0", "3", "0", "0", "0", "0", "3", "3", "0", "1", "0", "0", "3", "3", "1", "0", "1", "3", "0", "0", "0", "3", "3", "3", "1", "1", "2" ]
[ "fractal20220817_data/processed/episode_070078/images/0031.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0018.png
[ "fractal20220817_data/processed/episode_070078/images/0017.png", "fractal20220817_data/processed/episode_070078/images/0018.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "1", "0", "1", "1", "1", "6", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "0", "3", "0", "0", "0", "1", "6", "0", "0", "0", "0", "0", "0", "0", "3", "1", "1", "3", "1", "1", "1", "0", "3", "1", "0", "3", "6", "1", "0", "3", "1", "1", "3", "1", "0", "1", "1", "3", "3", "0", "0", "3", "3", "1", "0", "3", "1", "0", "4", "0", "0", "3", "0", "3", "3", "0", "0", "0", "6", "0", "0", "6", "1", "0", "3", "1", "0", "3", "3", "3", "3", "0", "0", "0", "3", "1", "1", "6", "0", "3", "1", "3", "2", "0", "6", "1", "3", "0", "1", "0", "6", "0", "0", "6", "1", "3", "4", "3", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "1", "0", "0", "3", "3", "1", "2", "3", "1", "0", "1", "0", "0", "1", "3", "0", "1", "2", "0", "3", "3", "1", "0", "3", "1", "1", "0", "0", "0", "0", "3", "1", "1", "2", "6", "3", "3", "1", "2", "0", "0", "0", "0", "0", "0", "5", "6", "0", "1", "2", "0", "3", "3", "1", "0", "1", "1", "0", "0", "0", "0", "1", "3", "1", "1", "2", "0", "3", "3", "1", "0", "0", "1", "0", "0", "0", "3", "3", "6", "1", "1", "2", "0", "3", "3", "1", "0", "0", "1", "0", "0", "1", "3", "3", "3", "1", "1", "5" ]
[ "fractal20220817_data/processed/episode_070078/images/0032.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0019.png
[ "fractal20220817_data/processed/episode_070078/images/0018.png", "fractal20220817_data/processed/episode_070078/images/0019.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "0", "3", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "3", "3", "1", "1", "3", "2", "3", "1", "0", "3", "6", "1", "0", "1", "1", "1", "3", "1", "1", "1", "3", "3", "3", "0", "1", "3", "3", "1", "0", "3", "1", "1", "4", "0", "0", "3", "0", "3", "3", "0", "1", "0", "6", "0", "0", "3", "1", "0", "1", "1", "1", "3", "3", "1", "3", "0", "0", "0", "3", "1", "1", "1", "0", "3", "1", "3", "0", "0", "6", "1", "3", "0", "1", "0", "6", "0", "0", "0", "1", "3", "3", "3", "1", "0", "0", "0", "1", "0", "1", "5", "3", "1", "1", "0", "0", "3", "3", "1", "0", "3", "0", "0", "1", "0", "0", "5", "3", "0", "1", "0", "0", "3", "3", "1", "0", "3", "0", "0", "0", "0", "0", "5", "3", "1", "1", "2", "0", "3", "3", "1", "0", "3", "0", "0", "0", "0", "0", "5", "3", "0", "1", "2", "0", "3", "3", "1", "0", "3", "1", "0", "0", "0", "1", "1", "1", "1", "1", "0", "1", "3", "1", "1", "0", "1", "1", "0", "0", "1", "3", "1", "3", "0", "1", "2", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "3", "1", "1", "5", "0", "3", "3", "1", "1", "1", "1", "0", "1", "1", "0", "0", "3", "1", "1", "5" ]
[ "fractal20220817_data/processed/episode_070078/images/0033.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0020.png
[ "fractal20220817_data/processed/episode_070078/images/0019.png", "fractal20220817_data/processed/episode_070078/images/0020.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "0", "1", "3", "1", "3", "0", "0", "3", "0", "0", "1", "6", "1", "0", "1", "1", "1", "3", "1", "1", "3", "1", "3", "3", "0", "1", "0", "3", "1", "0", "1", "0", "0", "1", "0", "0", "3", "0", "3", "3", "0", "0", "0", "6", "1", "0", "2", "1", "6", "1", "1", "0", "3", "3", "1", "1", "0", "0", "0", "3", "1", "1", "0", "0", "3", "1", "3", "0", "0", "2", "1", "1", "0", "1", "0", "6", "0", "0", "2", "1", "3", "3", "3", "1", "1", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "3", "3", "3", "0", "3", "0", "0", "0", "0", "0", "0", "1", "0", "1", "2", "0", "3", "3", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "1", "2", "0", "3", "3", "1", "0", "3", "0", "0", "0", "1", "0", "5", "0", "0", "1", "2", "0", "3", "3", "3", "1", "3", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "3", "3", "1", "1", "3", "0", "0", "0", "1", "3", "3", "0", "1", "1", "0", "1", "3", "3", "3", "1", "1", "1", "0", "1", "1", "1", "3", "1", "1", "1", "0", "1", "1", "3", "3", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "1", "5", "1", "3", "3", "3", "1", "0", "0", "0", "0", "1", "0", "2", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0034.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0021.png
[ "fractal20220817_data/processed/episode_070078/images/0020.png", "fractal20220817_data/processed/episode_070078/images/0021.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "0", "0", "1", "1", "0", "0", "1", "1", "0", "0", "6", "1", "1", "0", "3", "3", "1", "1", "0", "0", "3", "0", "1", "1", "0", "0", "0", "0", "0", "0", "6", "1", "6", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "3", "3", "3", "1", "1", "0", "2", "2", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "3", "3", "3", "1", "0", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "3", "3", "3", "3", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "1", "3", "3", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "0", "3", "3", "1", "0", "0", "0", "0", "0", "1", "6", "0", "0", "0", "0", "2", "0", "3", "3", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "3", "1", "1", "1", "0", "3", "0", "0", "1", "0", "3", "0", "1", "0", "0", "1", "1", "1", "3", "1", "0", "3", "0", "1", "1", "0", "3", "1", "1", "3", "0", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "3", "1", "1", "1", "0", "0", "0", "0", "1", "0", "2", "1", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_070078/images/0035.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0022.png
[ "fractal20220817_data/processed/episode_070078/images/0021.png", "fractal20220817_data/processed/episode_070078/images/0022.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "0", "3", "3", "0", "0", "1", "0", "0", "1", "0", "6", "0", "6", "0", "0", "0", "1", "3", "3", "1", "1", "3", "1", "1", "0", "0", "1", "0", "1", "0", "1", "1", "1", "3", "3", "1", "0", "0", "0", "1", "1", "0", "1", "0", "6", "0", "0", "0", "1", "3", "3", "0", "1", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "3", "3", "1", "0", "3", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "3", "3", "1", "0", "3", "1", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "3", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "3", "1", "1", "1", "1", "0", "0", "0", "1", "3", "0", "1", "0", "0", "1", "3", "0", "3", "1", "1", "3", "5", "0", "0", "0", "1", "0", "1", "0", "0", "1", "3", "0", "3", "1", "1", "1", "0", "1", "1", "0", "3", "1", "1", "0", "0", "1", "1", "0", "3", "1", "1", "1", "0", "1", "1", "0", "0", "0", "1", "0", "5", "0", "3", "0", "3", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "1", "0", "3", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "1", "1", "3", "0", "3", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0036.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0023.png
[ "fractal20220817_data/processed/episode_070078/images/0022.png", "fractal20220817_data/processed/episode_070078/images/0023.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "3", "1", "1", "1", "1", "1", "3", "0", "1", "1", "1", "1", "1", "1", "3", "3", "1", "1", "0", "0", "0", "1", "3", "0", "1", "1", "0", "1", "0", "0", "3", "1", "1", "3", "3", "1", "0", "0", "3", "0", "0", "0", "1", "1", "1", "1", "3", "1", "1", "1", "3", "1", "1", "1", "3", "0", "0", "1", "1", "1", "1", "0", "3", "1", "1", "1", "1", "1", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "3", "0", "1", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "3", "0", "1", "1", "1", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "3", "0", "0", "1", "1", "1", "0", "0", "3", "1", "1", "3", "1", "1", "1", "0", "3", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "3", "1", "1", "1", "0", "3", "1", "0", "0", "1", "1", "0", "1", "3", "1", "0", "3", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "0", "5", "1", "0", "0", "1", "1", "0", "1", "0", "6", "0", "0", "0", "0", "3", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "6", "0", "0", "0", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0037.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0024.png
[ "fractal20220817_data/processed/episode_070078/images/0023.png", "fractal20220817_data/processed/episode_070078/images/0024.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "1", "3", "3", "1", "1", "0", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "3", "0", "3", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "3", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "3", "1", "1", "0", "3", "0", "1", "0", "0", "3", "1", "0", "1", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "1", "1", "0", "1", "3", "1", "0", "1", "1", "1", "1", "3", "1", "1", "1", "0", "1", "1", "0", "0", "1", "1", "0", "1", "0", "3", "0", "3", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "1", "1", "0", "1", "1", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "0", "3", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0038.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0025.png
[ "fractal20220817_data/processed/episode_070078/images/0024.png", "fractal20220817_data/processed/episode_070078/images/0025.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "0", "1", "3", "1", "1", "0", "0", "1", "1", "0", "1", "1", "0", "1", "3", "1", "1", "1", "3", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "1", "1", "0", "1", "3", "1", "1", "1", "3", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "3", "3", "1", "0", "1", "0", "0", "1", "1", "1", "3", "0", "0", "3", "1", "0", "3", "1", "1", "1", "0", "3", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "3", "1", "1", "1", "5", "1", "1", "1", "1", "3", "1", "0", "0", "1", "1", "0", "3", "1", "1", "1", "1", "3", "1", "0", "1", "3", "1", "0", "0", "1", "1", "0", "3", "1", "0", "1", "1", "1", "1", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "1", "1", "0", "0", "1", "6", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "1", "6", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "6", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "6", "0", "0", "0", "0", "0", "2", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0039.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0026.png
[ "fractal20220817_data/processed/episode_070078/images/0025.png", "fractal20220817_data/processed/episode_070078/images/0026.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "1", "1", "0", "3", "0", "3", "1", "0", "1", "1", "6", "0", "0", "0", "3", "3", "0", "1", "0", "3", "0", "3", "1", "0", "1", "0", "6", "0", "0", "0", "1", "3", "0", "3", "0", "0", "0", "3", "1", "1", "1", "0", "6", "0", "0", "0", "1", "3", "0", "3", "1", "1", "0", "0", "1", "0", "1", "1", "3", "1", "0", "0", "1", "3", "0", "3", "0", "1", "0", "1", "1", "1", "0", "1", "6", "0", "0", "0", "1", "3", "1", "3", "0", "1", "0", "1", "1", "1", "0", "0", "3", "1", "6", "1", "1", "3", "1", "3", "0", "1", "0", "1", "1", "1", "0", "0", "6", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "3", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "6", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "2", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0040.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0027.png
[ "fractal20220817_data/processed/episode_070078/images/0026.png", "fractal20220817_data/processed/episode_070078/images/0027.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "1", "0", "3", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "1", "0", "1", "0", "0", "0", "3", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "1", "1", "0", "1", "1", "1", "1", "1", "0", "1", "0", "3", "1", "0", "0", "0", "1", "1", "1", "3", "1", "1", "1", "1", "1", "1", "0", "0", "1", "1", "6", "1", "1", "1", "1", "3", "1", "0", "1", "1", "1", "1", "0", "2", "0", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "1", "2", "1", "0", "0", "0", "0", "6", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "0", "0", "1", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "1", "6", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "6", "0", "0", "0", "0", "0", "2", "0", "0", "0", "0", "1", "3", "0", "0", "3", "6", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "3", "0", "0", "0", "1", "1", "0", "1", "1", "6", "0", "0", "0", "1", "0", "2", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0041.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0028.png
[ "fractal20220817_data/processed/episode_070078/images/0027.png", "fractal20220817_data/processed/episode_070078/images/0028.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "0", "0", "0", "0", "3", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "6", "1", "0", "0", "3", "0", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "0", "1", "0", "1", "3", "0", "0", "0", "1", "1", "1", "3", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "6", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "2", "2", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "2", "2", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "1", "0", "2", "2", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "1", "0", "6", "0", "3", "1", "1", "0", "1", "0", "0", "1", "0", "6", "0", "0", "1", "1", "0", "0", "3", "0", "1", "0", "1", "1", "1", "1", "2", "0", "0", "0", "1", "1", "3", "0", "3", "0", "1", "0", "1", "0", "1", "1", "0", "0", "0", "2", "1", "0", "0", "2", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0042.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0029.png
[ "fractal20220817_data/processed/episode_070078/images/0028.png", "fractal20220817_data/processed/episode_070078/images/0029.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "1", "1", "1", "3", "1", "1", "1", "0", "1", "3", "0", "0", "3", "1", "0", "1", "1", "1", "1", "3", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "6", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "1", "0", "6", "0", "0", "1", "0", "0", "0", "3", "1", "1", "0", "1", "0", "1", "0", "0", "6", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "1", "1", "1", "1", "0", "6", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "1", "0", "1", "0", "2", "6", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "0", "1", "1", "1", "0", "6", "0", "0", "1", "1", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0043.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0030.png
[ "fractal20220817_data/processed/episode_070078/images/0029.png", "fractal20220817_data/processed/episode_070078/images/0030.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "0", "0", "1", "0", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "6", "2", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "0", "6", "6", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "6", "6", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "6", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "1", "0", "3", "0", "1", "1", "1", "0", "1", "0", "0", "6", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "1", "1", "1", "1", "2", "0", "0", "0", "1", "1", "1", "0", "3", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "3", "1", "0", "3" ]
[ "fractal20220817_data/processed/episode_070078/images/0044.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0031.png
[ "fractal20220817_data/processed/episode_070078/images/0030.png", "fractal20220817_data/processed/episode_070078/images/0031.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "1", "3", "3", "1", "1", "1", "1", "1", "1", "0", "1", "1", "0", "1", "0", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "1", "0", "1", "6", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "0", "3", "0", "1", "1", "1", "0", "1", "0", "1", "3", "0", "0", "0", "1", "1", "0", "3", "0", "1", "0", "1", "1", "1", "0", "1", "3", "0", "0", "0", "1", "1", "0", "3", "1", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "3", "0", "1", "0", "1", "0", "1", "0", "1", "1", "0", "0", "0", "3", "1", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0045.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0032.png
[ "fractal20220817_data/processed/episode_070078/images/0031.png", "fractal20220817_data/processed/episode_070078/images/0032.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "0", "1", "3", "1", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "6", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "6", "0", "0", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "3", "0", "1", "1", "1", "0", "0", "1", "1", "0", "0", "0", "1", "0", "0", "0", "3", "1", "1", "1", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "1", "3", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "1", "3", "1", "0", "3", "0", "1", "1", "1", "0", "0", "0", "1", "3", "0", "1", "0", "3", "1", "0", "3", "0", "1", "0", "0", "0", "1", "1", "1", "1", "0", "1", "0", "3", "1", "1", "3", "1", "1", "0", "1", "0", "1", "0", "1", "0", "1", "3", "1", "3", "1", "1", "3", "0", "0", "0", "1", "0", "0", "0", "1", "1", "0", "3", "0", "3", "1", "0", "3", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "3", "0", "3", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0046.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0033.png
[ "fractal20220817_data/processed/episode_070078/images/0032.png", "fractal20220817_data/processed/episode_070078/images/0033.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "0", "1", "3", "0", "0", "0", "0", "0", "0", "1", "1", "0", "0", "6", "1", "1", "0", "1", "3", "1", "1", "0", "0", "0", "0", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "1", "1", "0", "3", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "3", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "1", "1", "3", "1", "0", "3", "0", "1", "0", "1", "0", "0", "0", "1", "3", "0", "1", "1", "3", "1", "0", "1", "0", "1", "0", "0", "1", "1", "0", "0", "1", "0", "3", "1", "3", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "3", "1", "3", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "3", "1", "3", "1", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "3", "0", "1", "1", "3", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "3", "0", "1", "1", "3", "0", "0", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0047.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0034.png
[ "fractal20220817_data/processed/episode_070078/images/0033.png", "fractal20220817_data/processed/episode_070078/images/0034.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "1", "1", "1", "1", "3", "1", "1", "1", "0", "0", "0", "0", "3", "0", "1", "0", "0", "1", "0", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "1", "0", "3", "0", "0", "1", "1", "1", "1", "1", "0", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "1", "1", "0", "3", "1", "1", "3", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "3", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "1", "1", "0", "1", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "3", "1", "1", "1", "0", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "1", "1", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "5", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "5" ]
[ "fractal20220817_data/processed/episode_070078/images/0048.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0035.png
[ "fractal20220817_data/processed/episode_070078/images/0034.png", "fractal20220817_data/processed/episode_070078/images/0035.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "3", "1", "1", "0", "1", "0", "0", "1", "0", "3", "0", "0", "1", "1", "0", "1", "3", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "0", "0", "1", "0", "1", "3", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "1", "3", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "0", "1", "1", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "1", "3", "1", "1", "1", "1", "0", "1", "1", "1", "1", "0", "1", "0", "1", "0", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "0", "0", "3", "0", "3", "0", "1", "1", "1", "1", "0", "1", "0", "0", "1", "1", "0", "0", "1", "0", "3", "0", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "3", "1", "1", "1", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "3", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "3", "0", "3", "1", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "0", "1", "3", "0", "0", "1", "0", "0", "1", "5", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "1", "5", "0", "1", "0", "0", "0", "0", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1" ]
[ "fractal20220817_data/processed/episode_070078/images/0049.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0036.png
[ "fractal20220817_data/processed/episode_070078/images/0035.png", "fractal20220817_data/processed/episode_070078/images/0036.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "1", "0", "0", "1", "0", "1", "1", "1", "0", "1", "1", "1", "1", "0", "3", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "1", "1", "1", "1", "3", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "1", "1", "3", "1", "0", "0", "0", "0", "1", "0", "3", "1", "1", "1", "0", "0", "0", "1", "3", "0", "0", "1", "3", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "0", "3", "0", "0", "0", "1", "0", "1", "0", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "0", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "3", "0", "0", "1", "1", "0", "1", "0", "0", "0", "1", "1", "1", "0", "0", "0", "3", "0", "1", "1", "0", "0", "1", "0", "0", "1", "0", "1", "1", "0", "0", "1", "3", "0", "0", "1", "0", "0", "1", "5", "0", "1", "0", "1", "1", "0", "0", "1", "3", "0", "0", "1", "0", "0", "1", "5", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0050.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0037.png
[ "fractal20220817_data/processed/episode_070078/images/0036.png", "fractal20220817_data/processed/episode_070078/images/0037.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "1", "3", "1", "1", "0", "0", "0", "0", "1", "0", "1", "1", "3", "3", "0", "1", "1", "3", "1", "1", "0", "0", "0", "1", "0", "0", "1", "0", "0", "3", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "3", "1", "1", "1", "1", "0", "1", "0", "1", "1", "0", "1", "0", "1", "1", "1", "3", "0", "1", "1", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "0", "1", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "1", "1", "1", "1", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "1", "1", "1", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "1", "1", "0", "0", "1", "0", "0", "1", "5", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "0", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0051.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state
fractal20220817_data_episode_070078_0038.png
[ "fractal20220817_data/processed/episode_070078/images/0037.png", "fractal20220817_data/processed/episode_070078/images/0038.png" ]
<s> You are a helpful assistant. USER: place blue chip bag into bottom drawer ASSISTANT:
[ "3", "1", "1", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "1", "1", "1", "3", "1", "1", "1", "1", "0", "0", "0", "0", "0", "1", "0", "3", "3", "1", "1", "1", "1", "0", "1", "1", "1", "0", "0", "1", "0", "1", "0", "3", "1", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "3", "0", "0", "0", "0", "0", "1", "1", "0", "1", "0", "0", "1", "0", "0", "0", "1", "0", "0", "0", "1", "0", "1", "1", "1", "1", "0", "1", "1", "0", "0", "0", "0", "0", "0", "1", "1", "0", "1", "1", "0", "1", "0", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "0", "3", "0", "0", "1", "6", "0", "1", "0", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "0", "6", "0", "0", "1", "0", "1", "1", "1", "0", "0", "0", "1", "1", "0", "0", "1", "6", "0", "0", "5", "0", "1", "1", "1", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "0", "1", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "6", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "1", "0", "0", "0", "6", "0", "1", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "0", "6", "3", "1", "0" ]
[ "fractal20220817_data/processed/episode_070078/images/0052.png" ]
[instruction],[vision],latent_state,latent_action
[instruction],[vision],latent_state