Nvidia lanserer tesla t4, det raskeste kortet for datasentre

Nvidia har kunngjort sin nye GPU for maskinlæring og inferens i datasentre. Det nye Tesla T4- kortet er basert på Turing-arkitekturen, og er etterfølgeren til den nåværende Tesla P4-modellen, som dekker praktisk talt alle større leverandører av sky computing.

Nvidia Tesla T4 ønsker å revolusjonere datasentre

Nvidia hevder at Tesla T4-er er betydelig raskere enn P4-ene. For språkinferens er for eksempel T4 34 ganger raskere enn å bruke en CPU og mer enn 3, 5 ganger raskere enn P4. Maksimal gjennomstrømning for Tesla P4 er 260 TOPS for 4-bits heltalloperasjoner og 65 TOPS for flytende punktoperasjoner. T4 er på et standardprofil 75-watt PCI-e-kort.

Vi anbefaler å lese innlegget vårt om Detaljer om Nvidias Turing-arkitektur vises

Det viktigste er at Nvidia designet disse sjetongene spesielt for AI-inferanse, som gjør Tesla T4 til en så effektiv GPU for å gjøre slutninger er Turings nye Tensor Core. Jensen Huang har allerede snakket om den nye Tensor Core, og hva den kan gjøre for spill-, rendering- og AI-operasjoner. Totalt har brikken 320 Tensor Core Turing og 2560 CUDA kjerner.

I tillegg til den nye brikken, lanserer Nvidia også en oppdatering til TensorRT-programvaren for å optimalisere modeller for dyp læring. Denne nye versjonen inkluderer også TensorRT Inference Server, en fullstendig beholderet mikroservice for slutning av datasenter som sømløst kobles til en eksisterende Kubernetes-infrastruktur.

Turing er en av de mest innovative Nvidia-arkitekturene, også i spillmarkedet der det for første gang vil gi mulighet til å bruke strålesporing i sanntid for å forbedre den grafiske finishen til de mest avanserte spillene.

Techpowerup font