Groq a signé un accord de licence non exclusif avec Nvidia sur sa technologie d’inférence en intelligence artificielle. La start-up californienne conserve son indépendance, malgré le départ de plusieurs dirigeants vers Nvidia.
Alors que la presse américaine évoquait un rachat pour près de 20 milliards de dollars, Grok a annoncé le 24 décembre avoir conclu un accord de licence non exclusif avec Nvidia portant sur sa technologie d’inférence en intelligence artificielle.
Cet accord vise à élargir l’accès à des capacités d’inférence à la fois performantes et à faible coût, d’après la start-up californienne, fondée en 2016 par Jonathan Ross, l’un des inventeurs des processeurs TPU de Google.
Il s’agit d’un enjeu central pour le déploiement à grande échelle des applications d’IA générative, dont les coûts d’exécution représentent une part croissante des dépenses.
Des dirigeants de Groq rejoignent Nvidia
Dans le cadre de cet accord, le fondateur accompagné de Sunny Madra, le président de Groq, ainsi que d’autres membres de l’équipe rejoignent Nvidia. Groq précise néanmoins continuer à opérer comme une entité indépendante, désormais dirigée par Simon Edwards, jusqu’ici directeur financier.
Les entreprises présentent leur opération comme un accord de licence et non comme un rachat. Elle pourrait s’apparenter à ce que l’on appelle un “acqui-hire”, une pratique qui consiste à recruter une équipe dirigeante et à obtenir l’accès à une technologie, sans procéder à une acquisition formelle.
Nvidia évite ainsi les contraintes liées à un rachat, notamment les procédures de validation réglementaires anticoncurrentielles.
L’inférence au coeur de l’IA
Groq est spécialisé dans l’inférence, ce qui désigne la phase d’utilisation d’un modèle, par opposition à sa phase d’entraînement. Concrètement, elle correspond aux calculs réalisés lorsqu’un utilisateur interagit avec une IA.
La start-up s’est positionnée précisément sur ce segment en développant des processeurs dédiés à l’exécution des modèles de langage, appelés LPU pour “Language Processing Units”. Ils ont la particularité d’avoir été conçus dès l’origine pour l’inférence, une étape essentielle dans le fonctionnement des modèles de langage de type LLM.
Contrairement à Nvidia, qui s’appuie principalement sur des GPU conçus à l’origine pour les jeux vidéo puis adaptés à l’intelligence artificielle, Groq a fait le choix d’une architecture pensée dès le départ pour faire fonctionner les modèles de langage.
Nvidia complète son portefeuille
Les GPU de Nvidia sont polyvalents et capables de traiter un grand nombre de tâches différentes, ce qui en fait une référence pour de nombreux usages en production. En revanche, cette polyvalence peut être moins adaptée lorsque l’objectif est d’exécuter rapidement un grand nombre de requêtes individuelles, comme celles générées par les assistants conversationnels.
Pour Nvidia, cet accord permet de compléter son offre. Le géant de Santa Clara conserve sa position dominante sur l’entraînement des modèles et sur les infrastructures généralistes, tout en s’appuyant sur une technologie ultra-spécialisée.
Une autonomie préservée sur le papier
Groq souligne que ce deal est non exclusif, ce qui lui permet de conserver la maîtrise de sa technologie et de poursuivre ses activités de manière autonome. La start-up précise également que GroqCloud, sa plateforme permettant aux développeurs d’exécuter des modèles d’IA sur ses propres infrastructures, continuera de fonctionner sans interruption.
Il reste à voir comment Groq préservera son autonomie opérationnelle et stratégique, au-delà de l’indépendance formellement affichée par les deux entreprises.
