blog

May 25, 2023

Jetson recebe um impulso de foguete: mãos

Já se passaram seis meses desde que Jensen Huang, da NVIDIA, subiu ao palco na GPU

Já se passaram seis meses desde que Jensen Huang, da NVIDIA, subiu ao palco na GPU Technology Conference (GTC) '22 e revelou o sistema em módulo (SOM) Jetson Orin Nano de baixo consumo e alto desempenho, visando a inteligência artificial (IA) em A beira. Agora é GTC '23 - e Huang está de volta ao palco, desta vez lançando o pacote Jetson Orin Nano Developer Kit com disponibilidade imediata.

Oferecendo "80x" o desempenho do Jetson Nano, o novo Jetson Orin Nano foi projetado para trazer a arquitetura de unidade de processamento gráfico (GPU) Orin de última geração da empresa para o nível básico - mas pode cumprir as promessas elevadas da empresa?

O Jetson Orin Nano SOM está disponível em dois sabores, um sendo efetivamente metade do desempenho do outro. O Jetson Orin Nano 4GB básico tem, como o nome indica, 4 GB de memória LPDDR5 com largura de banda de 32 GB/s, uma CPU Arm Cortex-A78AE de seis núcleos rodando a até 1,5 GHz e uma GPU Orin com 512 núcleos CUDA e 16 núcleos tensores que oferecem 20 tera-operações por segundo (TOPS) de computação INT8. O Jetson Orin Nano 8GB, por outro lado, dobra a capacidade e a largura de banda da memória on-board, bem como o número de núcleos CUDA e Tensor na GPU, mas deixa a CPU sozinha, oferecendo 40 TOPS.

Para quem quer comprar o Developer Kit, a diferença é discutível: ele está disponível apenas com o Jetson Orin Nano 8GB pré-empacotado. A placa transportadora, na qual o SOM foi convenientemente pré-instalado, aceitará tecnicamente o SOM ou até mesmo um dos SOMs Jetson Orin NX de última geração - mas isso também é discutível, pois você não pode comprar a placa transportadora fora de o pacote do Developer Kit.

A própria placa transportadora compacta apresenta os recursos mais essenciais do Jetson Orin Nano SOM. Há uma única saída de vídeo DisplayPort 1.2, quatro portas USB 3.2 Gen. 2 tipo A, uma porta gigabit Ethernet e uma porta USB tipo C - não para alimentação, que é controlada por meio de uma PSU de 45 W integrada e um conector DC, mas para depuração e operação do dispositivo USB.

À esquerda das portas principais estão duas portas MIPI Camera Serial Interface (CSI) de 22 pinos, que podem ser usadas no lugar ou em adição às câmeras USB. À direita está um cabeçalho de entrada/saída de uso geral (GPIO) de 40 pinos preenchido que inclui suporte a UART, SPI, I2C, I2S e modulação por largura de pulso (PWM). Também há um cabeçalho controlado por velocidade PWM para o dissipador de calor e o ventilador integrados, junto com um cabeçalho de 12 pinos para controle de botão externo - posicionado de maneira um tanto desajeitada abaixo da borda superior do SOM.

Vire a placa e você encontrará suas últimas opções de expansão: um slot microSD quase invisível escondido embaixo da borda superior do SOM, um slot M.2 Key E pré-preenchido com um módulo Wi-Fi 802.11ac e dois Slots M.2 Key M com quatro e duas pistas PCI Express (PCIe) Gen. 3, respectivamente — mas observe que um é limitado a módulos curtos de tamanho 2230, com o outro oferecendo um ponto de montagem apenas para módulos 2280.

A grande reivindicação da NVIDIA é que o Jetson Orin Nano oferece "80x o desempenho da IA" em relação ao Jetson Nano mais antigo e consideravelmente mais barato - e isso é tecnicamente verdade, mas com uma grande ressalva. Os cálculos da NVIDIA são baseados em computação bruta usando precisão FP16 no Jetson Nano, mas precisão INT8 no Jetson Orin Nano. Usando a precisão FP32 em ambos os dispositivos, para um campo de jogo nivelado, o ganho cai de 80x para 5,4x ainda impressionantes - embora INT8-versus-FP16 ainda seja uma comparação razoável a ser feita, já que o suporte para precisão INT8 será um grande motivo para atualizar para o novo dispositivo.

No entanto, isso não quer dizer que não haja melhoria em relação ao suporte para INT8 - afinal, esse ganho de FP32 de 5,4x deve vir de algum lugar. Além de uma mudança para uma arquitetura de GPU nova e mais poderosa, o Jetson Orin Nano contém oito vezes o número de núcleos CUDA do que o Jetson Nano, além de 32 núcleos Tensor para uma boa medida. O processador também mudou para uma arquitetura Arm Cortex mais recente, possui dois núcleos adicionais rodando a uma velocidade de clock marginalmente mais rápida e há o dobro da memória com a mudança para LPDDR5, oferecendo mais de duas vezes e meia a largura de banda.