Catégorie : Introduction
-
Pourquoi Llama 2
Llama pour « Large Language Model Meta AI », le nom est bien choisi. La première version a été annoncée en février 2023 et la version 2, Llama 2, en juillet 2023. Entre-temps, Stanford, avait sorti Alpaca : We are releasing our findings about an instruction-following language model, dubbed Alpaca, which is fine-tuned from Meta’s LLaMA 7B model. https://crfm.stanford.edu/2023/03/13/alpaca.html Alpaca…
-
Llama 2 vs Llama
En février 2023, Meta annonçait Llama, un modèle essentiellement destiné à la recherche. Le modèle, comme les fringues ! est proposé dans différentes tailles (7B, 13B, 33B, and 65B). Llama a été entraîné sur 1000 milliards de tokens pour la version 7B et encore plus pour les versions supérieures. We trained LLaMA 65B and LLaMA…