Llama

Description

Llama, abréviation initiale de « Large Language Model Meta AI », est une famille de modèles fondamentaux développée par Meta. Un modèle Llama n’est pas une application unique : ce sont des poids neuronaux, une architecture, un format de dialogue et des ressources que des développeurs utilisent pour construire assistants, outils de rédaction, moteurs de recherche augmentée ou systèmes exécutés localement. Meta propose plusieurs tailles et variantes, certaines limitées au texte, d’autres capables de traiter texte et images. Les fonctions exactes changent selon la génération ; il faut donc toujours consulter la model card de la version concernée. La première génération fut annoncée en février 2023 par FAIR, le laboratoire de recherche de Meta. L’objectif déclaré était d’offrir aux chercheurs des modèles plus petits mais performants, entraînés sur de grandes quantités de texte. L’accès initial était contrôlé, mais les poids furent rapidement diffusés hors du circuit prévu. Llama 2, publié quelques mois plus tard avec Microsoft comme partenaire privilégié, élargit l’usage commercial. Llama 3 améliora l’entraînement, le vocabulaire et les performances, puis les générations suivantes ajoutèrent contexte plus long, variantes multimodales et outils de sécurité. Cette succession rapide explique pourquoi « Llama » désigne désormais un écosystème plutôt qu’un seul artefact. La disponibilité des poids change la relation au fournisseur. Une organisation peut télécharger une version autorisée, l’exécuter sur son propre matériel, la quantifier pour réduire sa consommation, l’affiner sur un domaine ou la distribuer via un service cloud. Cela facilite la recherche, l’expérimentation hors ligne et certains besoins de souveraineté. Cependant, disposer des poids ne révèle pas nécessairement les données d’entraînement ni tout le procédé de fabrication. L’exploitation d’un grand modèle exige aussi GPU, mémoire, logiciel d’inférence, évaluation et dispositifs de sécurité. Meta qualifie couramment Llama d’open source, mais cette formule fait débat. Les modèles sont largement accessibles et modifiables, tout en restant soumis à une licence communautaire comportant des conditions propres à Meta. Cette situation ne correspond pas automatiquement aux définitions historiques de l’open source logiciel. La distinction utile est donc entre modèle fermé accessible seulement par API, modèle à poids ouverts, et modèle publié avec code, données et licence pleinement ouverte. Llama appartient surtout à la catégorie des poids largement disponibles sous licence spécifique. Comme tout grand modèle, Llama prédit des suites de tokens et peut halluciner, reproduire des biais ou générer du contenu dangereux. Les variantes destinées au dialogue ont été ajustées, et Meta diffuse des composants tels que Llama Guard ou Prompt Guard, mais la sécurité dépend du système complet : sources documentaires, outils, permissions, filtrage et supervision humaine. Le rabbit hole de Llama mène aux poids ouverts, à la quantification, au fine-tuning, aux licences de modèles, à l’exécution locale et à la compétition entre écosystèmes ouverts et API propriétaires. La carte symbolise moins un chatbot précis que la possibilité de posséder et transformer une partie du moteur.

À savoir

Llama est une famille de modèles de langage développée par Meta dont les poids peuvent être téléchargés et adaptés sous une licence propre à Meta.

Sources

• Meta — annonce du premier LLaMA ↗
• Meta — histoire de l’écosystème Llama ↗
• Meta — documentation et model cards Llama ↗
• Open Source Initiative — définition de l’Open Source AI ↗

Pour aller plus loin

• Comparer les générations Llama ↗

  Pour consulter les modèles, licences et ressources actuellement disponibles.

• Lire la définition Open Source AI ↗

  Pour comprendre pourquoi poids accessibles et open source ne sont pas toujours synonymes.