L’intelligence artificielle évolue à pas de géant. Récemment, Meta (la société derrière Facebook) a présenté LLAMA 2, la deuxième version de son modèle linguistique LLAMA. Ce lancement représente une révolution dans le domaine de l’IA et une concurrence directe avec ChatGPT d’OpenAI. Parlons de ces points :
- ✨ LLAMA 2 est la nouvelle version du modèle de langage Meta, concurrence directe de ChatGPT.
- 👩💻 La communauté open source a cherché à créer un modèle alternatif à ChatGPT.
- 🔓 Meta publie LLAMA de manière open source pour accélérer l’innovation.
- 🚀 LAMA promeut les nouveaux modèles et les avancées de la communauté technologique.
- ⬆️ LAMA 2 est plus puissant et dispose d’une licence commerciale.
- 🤝 Microsoft s’associe à Meta dans cette version.
- 🔮 Une explosion d’applications conversationnelles basées sur LAMA est attendue.
- ⚡️ LLAMA accélère la course à la maîtrise des modèles de langage.
- 🌎 Démocratise l’accès à l’IA générative conversationnelle.
- 💡 Ouvre de grandes possibilités d’innovation entre les mains de la communauté.
Qu’est-ce que LLAMA et pourquoi est-ce important ?
LLAMA est un modèle de langage développé par Meta. Il s’agit d’une IA entraînée sur d’énormes quantités de texte dont la tâche est d’apprendre à prédire les prochains mots d’une phrase. De cette manière, LLAMA apprend la langue et est capable de générer du texte de manière cohérente.
Bien que LLAMA ne soit pas un chatbot conversationnel comme ChatGPT, des modèles comme LLAMA constituent la base du développement de chatbots avancés.
Une fois que vous disposez d’un modèle qui génère couramment le langage, vous pouvez l’entraîner à dialoguer de manière cohérente et à suivre les instructions.
L’importance de LAMA réside dans le fait que Meta a décidé de le publier de manière open source. Cela permet à toute personne ou entreprise d’accéder et d’utiliser LLAMA gratuitement. De plus, en étant ouverte, la communauté tech peut contribuer à améliorer le modèle.
L’origine : la communauté open source cherchait son propre ChatGPT
Après le succès du ChatGPT d’OpenAI fin 2022, la question s’est posée dans la communauté open source : pourrait-on créer un modèle similaire mais open source ?
OpenAI avait conservé ChatGPT comme modèle privé et commercial. Mais la communauté en ligne s’est sentie capable de franchir le cap, après le succès de Stable Diffusion en août 2022.
Stable Diffusion a démontré que les modèles d’IA avancés n’étaient pas réservés aux grandes entreprises. Cependant, des ressources et des financements étaient nécessaires pour former un modèle similaire dans le domaine linguistique.
Meta permet un accès open source à LLAMA
En février 2023, Meta présente LLAMA, un modèle linguistique à grande échelle compétitif avec ChatGPT. Mais au début, l’information n’est pas rendue publique, mais seulement un accès contrôlé aux chercheurs.
En quelques jours, le code de LLAMA a été divulgué en ligne. Que ce soit intentionnel ou non, LAMA était disponible pour la communauté open source.
Des modèles dérivés de LLAMA ont rapidement émergé, reconvertis en chatbots conversationnels, comme Alpaca ou Vicuña. La communauté technologique disposait désormais de sa propre alternative open source à ChatGPT.
LLAMA alimente les modèles de langage open source
Le code de LLAMA étant accessible, la communauté open source a commencé à travailler pour améliorer ses capacités. En quelques semaines, ils ont mis en œuvre des avancées qui auraient pris des mois aux grandes entreprises :
- Intégration de vision : pour les modèles multimodaux de texte et d’images.
- Reconversion efficace : des techniques telles que LoRA réduisent considérablement les ressources informatiques nécessaires.
- Compression : grâce à l’élagage et à la quantification, la taille du modèle est réduite afin qu’il puisse être exécuté sur des GPU conventionnels.
- Améliorations du chat : fenêtres contextuelles plus grandes, détection de toxicité, etc.
Grâce à ces avancées, les modèles open source ont réduit de plusieurs mois l’écart avec les modèles privés comme ChatGPT.
LLAMA 2, plus puissant et avec une licence commerciale
En juillet 2023, Meta publie LLAMA 2, une version améliorée désormais sous licence pour un usage commercial. Cela résout le principal écueil de la version précédente.
LLAMA 2 est comparable à ChatGPT 3.5 en termes de capacités, avec une fenêtre contextuelle de 4 000 jetons. 3 versions de tailles différentes ont été publiées pour répondre aux différents besoins en performances et en ressources.
De plus, Meta a publié un modèle dérivé déjà formé en tant que chatbot conversationnel. De cette manière, la communauté dispose d’un modèle de base et d’un autre prêt à intégrer dans les applications.
Microsoft s’associe à Meta dans ce lancement
L’une des initiatives les plus curieuses est que Microsoft s’est associé à Meta pour le lancement de LLAMA 2. Cela est surprenant, puisque Microsoft avait déjà conclu une alliance avec OpenAI pour utiliser ChatGPT dans ses produits.
Il est toutefois logique que Microsoft facilite le développement de modèles open source. De cette façon, vos produits bénéficieront également indirectement en intégrant des améliorations développées par la communauté.
En publiant LLAMA 2, Meta rompt également avec la position plus conservatrice d’OpenAI consistant à restreindre l’accès à ces modèles. Peut-être que maintenant OpenAI reconsidérera le partage de davantage d’avancées afin de ne pas perdre son leadership dans ce domaine.
L’impact de LLAMA 2 sur l’écosystème de l’IA
Avec LLAMA 2, et sa licence d’utilisation commerciale, une explosion d’applications basées sur ce type de modèle est attendue :
- De nouveaux chatbots et assistants virtuels accessibles à toute entreprise ou développeur.
- Optimisations pour nécessiter moins de ressources de calcul et s’exécuter sur plus d’appareils.
- Des modèles spécialisés grâce à une reconversion dans des domaines spécifiques (service client, support technique, consultations médicales, etc.).
- Intégration dans les applications existantes pour offrir des capacités conversationnelles.
La communauté open source dispose désormais des outils nécessaires pour continuer à innover à un rythme vertigineux. Nous pourrions bientôt voir des alternatives viables aux grands modèles privés actuels.
Sans aucun doute, grâce à LLAMA 2, la course à la domination dans le domaine des modèles linguistiques a pris une tournure fascinante. Il reste à voir comment OpenAI et d’autres sociétés réagiront à cette démarche de Meta visant à démocratiser l’IA conversationnelle.
Les capacités de compression et de génération de langage progressent à pas de géant. Le paysage concurrentiel entre les grandes entreprises technologiques deviendra également plus dynamique grâce à ce soutien au mouvement open source.
Les prochains mois seront passionnants en termes d’évolutions dans le domaine de l’IA générative. Et LLAMA a été l’étincelle qui peut déclencher une nouvelle vague d’innovation ouverte et collaborative avec l’ensemble de la communauté technologique internationale.
