Nvidia ha presentado Groq 3, una nueva unidad de procesamiento de lenguaje diseñada específicamente para la inferencia de IA, durante la conferencia Nvidia GTC en San José. Esto marca un paso significativo en el desarrollo de la tecnología de IA, ya que la inferencia ahora puede manejar solicitudes de usuarios con menor latencia.
Groq 3: Una nueva era para la inferencia de IA
La nueva LPU Groq 3 ha sido desarrollada con tecnología de la startup Groq, que Nvidia adquirió por 20 mil millones de dólares. Esta unidad está optimizada para el procesamiento rápido de datos, algo crucial para aplicaciones de IA que requieren respuestas inmediatas.
El desarrollo de Groq 3 subraya la importancia de los chips especializados para la inferencia de IA, un área que ha experimentado un crecimiento significativo. El enfoque de Nvidia en baja latencia y procesamiento eficiente de datos podría revolucionar la forma en que se utilizan los modelos de IA a gran escala.
Fuente: spectrum.ieee.org
Lee también: xAI demandada tras generación de CSAM por Grok
