Meta a introduit une version mise à jour de Code Llama. Ce système de création de code profite d’une efficacité de traitement améliorée, d’une précision accrue et d’une assistance optimisée pour des langages spécifiques tels que Python.

Au terme de l’été dernier, Meta avait présenté Code Llama, un profil LLM spécialement conçu pour les développeurs. La compagnie a aujourd’hui amélioré son outil de génération de code avec la sortie de Llama 70B. Il s’agit d’une version améliorée de Llama 2, ayant été formée sur plus de 500 milliards de tokens de code et de données associées, ce qui fait de lui un modèle beaucoup plus efficace et solide que les versions précédentes. Il dispose également d’une fenêtre contextuelle élargie à 100 000 tokens, lui permettant ainsi de générer des codes plus sophistiqués.

Meta offre au public plusieurs déclinaisons de Code Llama 70B, dont une appelée CodeLlama-70B-Instruct. Cette dernière est capable d’effectuer diverses tâches en langage naturel, comme le tri, la recherche, le filtrage et la manipulation de données, ainsi que l’implémentation d’algorithmes, tels que la recherche binaire et factorielle.

Des améliorations spécifiques pour Python

CodeLlama-70B-Python est une version optimisée de l’outil, conçue spécifiquement pour générer du code en Python. Elle a été améliorée avec 100 milliards de tokens supplémentaires basés sur le code Python, afin d’assurer une plus grande exactitude et une meilleure maîtrise de ce langage. Elle est en mesure de gérer une panoplie de tâches, comme le web scraping, l’analyse de données, l’apprentissage automatique (ML) et le développement web. Les modèles Code Llama 70B sont accessibles dès maintenant sur plusieurs plateformes, dont Hugging Face, PyTorch, Jupyter Notebook et TensorFlow.

Le PDG de Meta, Mark Zuckerberg, a personnellement présenté ce modèle dans un message public sur Facebook. « L’écriture et l’édition de code se sont révélées être parmi les utilités les plus importantes des modèles d’IA aujourd’hui », a-t-il déclaré. Il a aussi ajouté que « la capacité à coder s’est avérée essentielle pour que les modèles d’IA traitent les informations dans d’autres domaines de manière plus rigoureuse et logique. Je suis fier des progrès accomplis dans ce domaine et j’ai hâte d’intégrer ces avancées dans le Llama 3 et dans les modèles à venir ». Le secteur de la génération de code est très prometteur, avec la présence de plusieurs acteurs majeurs comme Copilot de GitHub (basé sur OpenAI), mais aussi Code Whisperer d’AWS ou AI Code Generation de Google Cloud.