Meta a publié la plus grande et la meilleure maquette d'interface utilisateur open source à ce jour
En avril dernier, Meta a annoncé qu'elle travaillait sur le premier modèle d'IA de ce type : un modèle open source avec des performances comparables aux meilleurs modèles privés d'entreprises comme OpenAI.
Enfin, le modèle annoncé est là. Meta a publié Llama 3.1, le plus grand modèle d'IA open source à ce jour, qui, selon la société, surpasse GPT-4o et Claude 3.5 Sonnet d'Anthropic dans de nombreux paramètres. Meta rend désormais l'assistant Meta AI, basé sur Llama, disponible dans davantage de pays et de langues, et ajoute en même temps une fonction avec laquelle il est possible de créer des images basées sur les préférences spécifiques d'un individu. Le PDG Mark Zuckerberg prédit désormais que Meta AI sera l'assistant d'interface utilisateur le plus utilisé d'ici la fin de l'année, dépassant même ChatGPT.
Llama 3.1 est un modèle beaucoup plus complexe que Llama 3, sorti il y a quelques mois. Il est formé sur 15 000 milliards de puces, pour lesquelles ils ont utilisé plus de 16 000 cartes Nvidia H1000. Le modèle se compose de 405 milliards de paramètres, c'est-à-dire des valeurs numériques dans le réseau neuronal. Comme prévu, Meta ne veut pas divulguer le coût de développement du nouveau modèle Llama 3.1, mais il est clair que si l'on en juge par le prix des puces Nvidia individuelles, nous parlons de centaines de millions de dollars.
Alors, étant donné le coût, pourquoi Meta continue-t-il d'accorder une licence à Llama et n'exige-t-il que l'approbation d'entreprises comptant des centaines de millions d'utilisateurs ? Dans une lettre publiée sur le blog Meta de l'entreprise, Zuckerberg affirme que les modèles d'IA open source dépasseront – et s'améliorent déjà plus rapidement – que les modèles propriétaires, un peu comme la façon dont Linux est devenu le système d'exploitation open source qui alimente la plupart des téléphones, serveurs et appareils. aujourd'hui. "Je pense que Llama 3.1 marquera un tournant dans l'industrie, où la plupart des développeurs commenceront à utiliser principalement l'open source.", dit Zuckerberg.
Meta travaille avec plus de deux douzaines d'entreprises, dont Microsoft, Amazon, Google, Nvidia et Databricks, pour affiner Llama 3.1 et aider les développeurs à déployer leurs propres versions. Meta affirme que Llama 3.1 coûte environ la moitié du prix de GPT-4o pour fonctionner en production. Meta a également rendu publics les pondérations du modèle, afin que les entreprises puissent l'entraîner sur leurs données et l'adapter à leurs préférences.
Meta ne dit pas grand-chose sur les données utilisées pour entraîner Llama 3.1. Les personnes qui travaillent dans des sociétés d’IA affirment qu’elles retiennent ces informations parce qu’il s’agit d’un secret commercial, tandis que les critiques affirment qu’il s’agit d’une tactique visant à retarder l’inévitable assaut des poursuites en matière de droits d’auteur à venir.
La propre interprétation de Llama par Meta est son assistant d'interface utilisateur, qui est un chatbot général comme ChatGPT et peut être trouvé dans presque toutes les parties d'Instagram, Facebook et WhatsApp. À partir de cette semaine, Llama 3.1 sera d'abord disponible via WhatsApp et le site Web Meta AI aux États-Unis. Instagram et Facebook suivront dans les semaines à venir.
Alors que le modèle Llama 3.1 le plus avancé avec 405 milliards de paramètres est gratuit dans Meta AI, l'assistant vous fera passer à un modèle réduit avec 70 milliards une fois qu'il aura dépassé un nombre indéterminé d'invites au cours d'une semaine donnée. Cela suggère que le modèle de 405 milliards de dollars est trop coûteux pour que le Meta puisse fonctionner à pleine échelle.