Nvidia wprowadza tesla t4, najszybszą kartę dla centrów danych

Nvidia ogłosiła nowy procesor graficzny do uczenia maszynowego i wnioskowania w centrach danych. Nowa karta Tesla T4 oparta jest na architekturze Turinga i jest następcą obecnego modelu Tesla P4, który obejmuje praktycznie wszystkich głównych dostawców usług w chmurze.

Nvidia Tesla T4 chce zrewolucjonizować centra danych

Nvidia twierdzi, że Tesla T4 są znacznie szybsze niż P4. Na przykład do wnioskowania językowego, T4 jest 34 razy szybszy niż przy użyciu procesora i ponad 3, 5 razy szybszy niż P4. Maksymalna przepustowość dla Tesla P4 wynosi 260 TOPS dla 4-bitowych operacji na liczbach całkowitych i 65 TOPS dla operacji na liczbach zmiennoprzecinkowych. T4 jest na standardowej karcie PCI-e o mocy 75 W.

Zalecamy przeczytanie naszego postu na temat szczegółów pojawiania się architektury Turinga Nvidii

Co najważniejsze, Nvidia zaprojektowała te układy specjalnie do wnioskowania AI, co sprawia, że ​​Tesla T4 jest tak wydajnym procesorem graficznym do wnioskowania, który jest nowym rdzeniem Tensor Turinga. Jensen Huang mówił już o nowym rdzeniu Tensor oraz o tym, co może zrobić z grami, renderowaniem i operacjami AI. W sumie układ ma 320 rdzeni Tensor Turing i 2560 rdzeni CUDA.

Oprócz nowego układu Nvidia wprowadza również aktualizację oprogramowania TensorRT w celu zoptymalizowania modeli głębokiego uczenia. Ta nowa wersja zawiera również TensorRT Inference Server, w pełni konteneryzowaną mikrousługę do wnioskowania centrum danych, która płynnie łączy się z istniejącą infrastrukturą Kubernetes.

Turing jest jedną z najbardziej innowacyjnych architektur Nvidii, nawet na rynku gier, gdzie pozwoli po raz pierwszy korzystać z ray tracingu w czasie rzeczywistym, aby poprawić wykończenie graficzne najnowocześniejszych gier.

Czcionka Techpowerup