Mistral lance de nouveaux modèles d'IA optimisés pour les ordinateurs portables et les téléphones
infohightech ·
La startup française d'IA Mistral a publié ses premiers modèles d'IA génératifs conçus pour être exécutés sur des appareils périphériques, comme les ordinateurs portables et les téléphones.
La nouvelle famille de modèles, que Mistral appelle « Les Ministraux », peut être utilisée ou réglée pour une variété d’applications, de la génération de texte de base au travail en conjonction avec des modèles plus performants pour accomplir des tâches.
Deux modèles Les Ministraux sont disponibles — Ministral 3B et Ministral 8B — tous deux dotés d'une fenêtre contextuelle de 128 000 jetons (tokens), ce qui signifie qu'ils peuvent ingérer environ la longueur d'un livre de 50 pages.
« Nos clients et partenaires les plus innovants demandent de plus en plus une inférence locale et respectueuse de la vie privée pour des applications critiques telles que la traduction sur appareil, les assistants intelligents sans Internet, l’analyse locale et la robotique autonome », écrit Mistral dans un article de blog. « Les Ministraux ont été conçus pour fournir une solution efficace en termes de calcul et à faible latence pour ces scénarios. »
Ministral 8B est disponible en téléchargement dès aujourd'hui, mais uniquement à des fins de recherche. Mistral demande aux développeurs et aux entreprises intéressées par les configurations d'auto-déploiement de Ministral 8B ou Ministral 3B de le contacter pour obtenir une licence commerciale.
Sinon, les développeurs peuvent utiliser Ministral 3B et Ministral 8B via la plateforme cloud de Mistral, La Platforme, et d'autres clouds avec lesquels la startup s'est associée dans les semaines à venir. Ministral 8B coûte 10 centimes par million de jetons de sortie/entrée (~750 000 mots), tandis que Ministral 3B coûte 4 centimes par million de jetons de sortie/entrée.
La tendance est aux petits modèles, qui sont moins chers et plus rapides à former, à affiner et à exécuter que leurs homologues plus grands. Google continue d'ajouter des modèles à sa famille de petits modèles Gemma , tandis que Microsoft propose sa collection de modèles Phi . Dans la dernière mise à jour de sa suite Llama , Meta a introduit plusieurs petits modèles optimisés pour le matériel de pointe.
Mistral affirme que Ministral 3B et Ministral 8B surpassent les modèles comparables Llama et Gemma — ainsi que son propre Mistral 7B — sur plusieurs tests d'IA conçus pour évaluer les capacités de suivi des instructions et de résolution de problèmes.
Basée à Paris, Mistral, qui a récemment levé 640 millions de dollars en capital-risque, continue d'élargir progressivement son portefeuille de produits d'IA. Au cours des derniers mois, la société a lancé un service gratuit permettant aux développeurs de tester ses modèles, un SDK permettant aux clients d'affiner ces modèles et de nouveaux modèles , notamment un modèle génératif pour le code appelé Codestral .
Cofondée par des anciens de Meta et de DeepMind de Google, Mistral a pour mission de créer des modèles phares qui rivalisent avec les modèles les plus performants d'aujourd'hui, comme GPT-4o d'OpenAI et Claude d'Anthropic, et idéalement de gagner de l'argent au passage. Bien que la partie « gagner de l'argent » s'avère difficile ( comme c'est le cas pour la plupart des startups d'IA générative ), Mistral aurait commencé à générer des revenus cet été.