(Article publié le 22 avril 2024)
Nouvel acteur français dans le paysage des IA propriétaires.
Arrivé officiellement le 26 février 2024, Mistral Large est un nouveau modèle de langage (rivalisant avec GPT-4), ainsi que Le Chat (se prononce comme l’animal), une interface de chat.
Un nouveau service à destination des entreprises, un nouveau modèle d’IA, un nouveau partenariat (1):
L’entreprise Mistralspécialisée dans les modèles de langage capables de générer du texte, a été cofondée en avril 2024 par Arthur Mensch(anciennement salarié du laboratoire DeepMind chez Google), Guillaume Lample et Timothée Lacroix (ex salariés chez Meta).
(2)
Un nouveau service :
Rapide, performant et éthique.
(3) En matière de performance moyenne, Mistral Large se classe second au monde.
Un nouveau modèle :
Un nouveau modèle de LLM from Scratch : Un modèle affranchi des grandes infrastructures habituelles de l’industrie des supports des AI (ex Google, Méta) et donc nouvellement architecturé (code base d’entrainement, les data de préprocessing France Scrach, conçu sous licence Apache 2 et publié en Open Source sur un Torrent, entraîné avec 7 milliards de paramètres (équivalent à la taille du plus petit LLama), capable de traiter des séquences d’entrées plus longues (8000 tockens équivalent à 10 pages) avec un protocole de fenêtres glissantes sur le passé (Sliding windows : fenêtres d’attention qui se décalent avec le temps), et enfin moins énergivore (1 GPU de moins de 24 Gigas de mémoire RAM peut suffire). A noter, le nombre de paramètres linéaires et non quadratiques pour une meilleure efficacité dans le traitement des prompts longs. C’est un avantage significatif dans le domaine de l’IA générative.
Un nouveau partenariat :
- Arthur Mensch annonce également la signature d’un partenariat exclusif avec Microsoft. Les modèles de Mistral seront déployés à côté de ceux d’OpenAI dans Azure. Microsoft, qui fait à présent partie du capital de l’entreprise, tout comme Xavier Niel (4).
(1) Extrait article : Le Monde – Arthur Mensch, de Mistral AI : « En intelligence artificielle, nous pouvons rivaliser avec Google ou OpenAI »
(2) source photo : article Les Echos – Le Français Mistral AI lève 105 millions pour concurrencer OpenAI
(3) Le journal du Net – Avec Le Chat et Mistral Large, le français Mistral impressionne (encore).
(4) Podcast : Guillaume Lample– Intelligence Artificielle – Data Driven 101 – Le podcast IA & Data 100% en français.
(5) Article : Le Monde : on a testé Mistral AI