Nvidia har avdekt Groq 3, ein ny språkbehandlingsenheit designa spesielt for AI-inferens, under Nvidia GTC-konferansen i San Jose. Dette markerer eit betydeleg steg i utviklinga av AI-teknologi, sidan inferens no kan handtere brukarforespurnad med lågare latens.
Groq 3: Ei ny æra for AI-inferens
Den nye Groq 3 LPU er utvikla med teknologi frå start-upen Groq, som Nvidia kjøpte for 20 milliardar dollar. Denne eininga er optimalisert for rask databehandling, noko som er avgjerande for AI-applikasjonar som krev umiddelbare svar.
Utviklinga av Groq 3 understrekar viktigheita av spesialiserte brikker for AI-inferens, eit område som har sett betydeleg vekst. Nvidias fokus på låg latens og effektiv databehandling kan revolusjonere korleis AI-modellar blir brukte i stor skala.
Kjelde: spectrum.ieee.org
Les òg: xAI saksøkt etter Grok-generert CSAM
