Request access to this embedding cache
Access requests are reviewed manually by the author. Expect a few days for processing.
These embeddings are derived from CUB-200-2011 images and generated captions.
By requesting access, you agree to:
- Use the data for non-commercial research and evaluation purposes only.
- Not redistribute it, in whole or in part, to any third party.
- Cite CUB-200-2011 and the associated work in any publication that uses it.
Log in or Sign Up to review the conditions and access this dataset content.
CUB-200-2011 crossmodal embedding cache
Embeddings image et texte pré-calculés pour CUB-200-2011, tels que consommés par les SAE crossmodaux. Publier ce cache permet de reproduire les entraînements sans recalculer les features ni redistribuer les images.
Contenu
291 fichiers, 8.0 Go, sur 24 runs.
runs/<run>/ # un dossier par configuration expérimentale
bundles/ # bundle .npz de l'ablation note/tie
captions/ # captions CUB générées (4 variantes x 3 versions)
Fichiers par run
| Fichier | Contenu | Forme |
|---|---|---|
A_img.npy |
embeddings image (DINOv2) | [N, 768] |
A_txt.npy |
embedding texte, caption principale | [N, D_txt] |
A_txt5.npy |
5 captions par image | [N, 5, D_txt] |
A_txtnp.npy |
8 syntagmes nominaux par image | [N, 8, D_txt] |
cat_embeds.npy |
embeddings des 312 attributs | [312, D_txt] |
Y_vlgbce.npy |
labels concepts VLG-CBM | [N, 471] |
image_ids.npy |
identifiants images (ordre de référence) | [N] |
caps_by_img.json |
captions brutes par image | — |
img_to_cats.json, img_to_words.json |
mappings concepts / mots | — |
cat_names.json, vlgbce_concepts*.json |
vocabulaires | — |
scaler.pkl |
scaler de normalisation | — |
Variantes présentes selon le run : Y_vlgbce_rich, Y_vlgbce_tro,
vlgbce_concepts_rich, vlgbce_concepts_tro.
Deux tailles de N
N = 5990— split train CUBN = 11780— train + test
Encodeurs texte (D_txt)
| Encodeur | D_txt |
Runs |
|---|---|---|
| SBERT | 384 | ds_v1, ds_v3, datasets, grid_v*_sbert, abl_sbert, ds_c_species, … |
| CLIP | 768 | datasets_clip, abl_clip, grid_v*_clip, textenc_clip, … |
| MPNet | 768 | datasets_mpnet, textenc_mpnet |
| BGE | 1024 | datasets_bge, abl_bge, grid_v*_bge, textenc_bge |
A_img est toujours en 768 (DINOv2) : seul le côté texte change.
Runs au contenu strictement identique
Vérifié par hash MD5 sur les 272 fichiers — ces paires sont des doublons exacts, conservées sous leurs deux noms pour que les tags d'expérience restent résolvables :
abl_bge==datasets_bgeabl_clip==datasets_clipds_c_species==grid_v2_sbert
Sur les 7.69 Go de runs/, 5.61 Go sont des contenus uniques (27 % de redondance
inter-runs). Le stockage Xet de HuggingFace déduplique à l'upload.
Chargement
import numpy as np, json
A_img = np.load("runs/ds_v1/A_img.npy") # [5990, 768]
A_txt = np.load("runs/ds_v1/A_txt.npy") # [5990, 384]
Y = np.load("runs/ds_v1/Y_vlgbce.npy") # [5990, 471]
ids = np.load("runs/ds_v1/image_ids.npy")
concepts = json.load(open("runs/ds_v1/vlgbce_concepts.json"))
Les lignes sont alignées sur image_ids.npy dans tous les tableaux d'un même run.
Captions
captions/ contient les captions CUB générées en 4 variantes (free, fine,
attributes, comparative), chacune en version complète et en deux shards.
Licence
Dérivé de CUB-200-2011 (Caltech-UCSD Birds). Usage recherche non commercial. Les images sources ne sont pas redistribuées — uniquement les embeddings et les captions générées.
Citation
TODO — référence de l'article + Wah et al. (2011) pour CUB-200-2011.
- Downloads last month
- 13