Groq : notre avis

Groq ne fabrique pas de modèles : l'entreprise fabrique des puces, les LPU (Language Processing Units), et loue le calcul qui tourne dessus pour faire tourner des modèles ouverts — Llama, GPT OSS, Qwen — plus vite qu'un GPU classique ne le permet. C'est une carte à jouer précise : la vitesse de génération, pas le choix du modèle ni une interface soignée.

La vitesse comme argument, chiffrée

La page tarifs affiche, modèle par modèle, une cadence en jetons par seconde à côté du prix : 1 000 TPS pour GPT OSS 20B, 840 pour Llama 3.1 8B Instant. Ce chiffre a un sens concret pour un agent conversationnel ou un outil de transcription en direct, où l'utilisateur perçoit chaque seconde d'attente. Un développeur qui bâtit un agent IA réactif y trouve un avantage mesurable, pas une promesse marketing.

Ce que ça coûte, modèle par modèle

La facturation suit le jeton, à l'entrée et à la sortie, sans abonnement. Llama 3.1 8B Instant facture 0,05 $ le million de jetons en entrée et 0,08 $ en sortie — l'un des tarifs les plus bas du marché pour un modèle ouvert utilisable en production. GPT OSS 120B monte à 0,15 $ et 0,60 $, et Llama 3.3 70B Versatile à 0,59 $ et 0,79 $. Un vrai Free Plan, avec ses propres limites de débit, permet de tester avant de basculer sur le Developer Plan payant, qui débloque des limites plus larges ainsi que le traitement par lot.

Ce qui manque : la région de traitement

C'est le point que Groq ne traite pas comme Scaleway ou OVHcloud AI Endpoints. Le Data Processing Addendum, document public et lisible sans détour technique, se contente d'indiquer que les données peuvent être traitées « aux États-Unis et dans d'autres pays où Groq ou ses sous-traitants maintiennent des opérations » — sans nommer un seul pays précis. Impossible donc de répondre à un client qui demande où tournent ses données. En échange, le Services Agreement engage Groq à ne pas entraîner ses modèles sur les entrées et sorties client, et propose une rétention zéro activable dans la console : la promesse sur l'usage des données est plus nette que celle sur leur localisation.

Là où ça coince

Trois réserves avant de s'engager. La première, déjà dite : aucune région de traitement précise n'est publiée. La deuxième concerne les certifications : Groq communique sur SOC 2 et HIPAA, mais le Trust Center qui devrait le prouver se charge entièrement en JavaScript (un portail Vanta), et aucune page lisible directement ne confirme ces certifications par écrit. La troisième est structurelle : Groq vend une API, pas un produit. Sans développeur pour l'intégrer, il n'y a rien à en tirer.

Notre recommandation

Si la latence est votre contrainte principale — un agent vocal, un chat qui doit répondre sans délai perceptible — Groq est un choix défendable, à tester d'abord sur le Free Plan. Si prouver la localisation du traitement des données est une exigence contractuelle, tournez-vous plutôt vers un hébergeur qui la documente, comme Scaleway. Et sans développeur dans l'équipe, nos services d'automatisation répondent mieux au besoin qu'une API brute.