Groq: nuestra opinión

Groq no fabrica modelos: la empresa fabrica chips, las LPU (Language Processing Units), y alquila el cómputo que corre sobre ellos para ejecutar modelos abiertos —Llama, GPT OSS, Qwen— más rápido de lo que permite una GPU convencional. Es una carta precisa que jugar: la velocidad de generación, no la elección del modelo ni una interfaz cuidada.

La velocidad como argumento, con cifras

La página de precios muestra, modelo por modelo, una cadencia en tokens por segundo junto al precio: 1000 TPS para GPT OSS 20B, 840 para Llama 3.1 8B Instant. Esa cifra tiene un sentido concreto para un agente conversacional o una herramienta de transcripción en directo, donde el usuario percibe cada segundo de espera. Un desarrollador que construye un agente de IA reactivo encuentra ahí una ventaja medible, no una promesa de marketing.

Lo que cuesta, modelo por modelo

La facturación sigue el token, tanto en la entrada como en la salida, sin suscripción. Llama 3.1 8B Instant factura 0,05 $ por millón de tokens de entrada y 0,08 $ de salida: una de las tarifas más bajas del mercado para un modelo abierto utilizable en producción. GPT OSS 120B sube a 0,15 $ y 0,60 $, y Llama 3.3 70B Versatile a 0,59 $ y 0,79 $. Un auténtico plan gratuito, con sus propios límites de tasa, permite probar antes de pasar al plan Developer de pago, que desbloquea límites más amplios y el procesamiento por lotes.

Lo que falta: la región de tratamiento

Es el punto que Groq no trata como Scaleway u OVHcloud AI Endpoints. El Data Processing Addendum, documento público y legible sin rodeos técnicos, se limita a indicar que los datos pueden tratarse «en Estados Unidos y en otros países donde Groq o sus subcontratistas mantienen operaciones», sin nombrar un solo país concreto. Resulta imposible, por tanto, responder a un cliente que pregunte dónde funcionan sus datos. A cambio, el Services Agreement compromete a Groq a no entrenar sus modelos con las entradas y salidas del cliente, y ofrece una retención cero activable desde la consola: la promesa sobre el uso de los datos es más clara que la relativa a su localización.

Dónde falla

Tres reservas antes de comprometerse. La primera, ya mencionada: no se publica ninguna región de tratamiento precisa. La segunda concierne a las certificaciones: Groq comunica sobre SOC 2 y HIPAA, pero el Trust Center que debería demostrarlo se carga enteramente en JavaScript (un portal Vanta), y ninguna página legible directamente confirma por escrito estas certificaciones. La tercera es estructural: Groq vende una API, no un producto. Sin un desarrollador que la integre, no hay nada que sacarle.

Nuestra recomendación

Si la latencia es su principal restricción —un agente de voz, un chat que debe responder sin retraso perceptible—, Groq es una opción defendible, que conviene probar primero en el plan gratuito. Si demostrar la localización del tratamiento de datos es una exigencia contractual, diríjase mejor a un proveedor de alojamiento que la documente, como Scaleway. Y sin un desarrollador en el equipo, nuestros servicios de automatización responden mejor a la necesidad que una API en bruto.