CLIP

CLIP pour (Contrastive Language–Image Pre-training) a été introduit par OpenAi en 2021. L'objectif est de contourner certains problèmes de l'apprentissage supervisé, par exemple, ceux liés aux coûts des Datasets (voir ImageNet), à leur limitation de prédiction à l'ensemble des catégories entrainées, et à leur faible performance (parfois).

L'apprentissage décrit par OpenAi s'est fait avec 256 GPU durant 2 semaines.