Índice:
Inteligência artificial e máquinas que podem aprender são como as coisas que usamos todos os dias serão aprimoradas. O Google e o Android aderem à IA por meio do Google Assistant e do aprendizado de máquina, por isso é importante saber como o back-end funciona, como eles chegaram lá e que tipos de equipamento tornam tudo isso possível. E é muito legal também!
As pessoas que construirão essa tecnologia do futuro precisarão das ferramentas para isso. Em 2017, a NVIDIA está fazendo sua parte, e o Jetson TX2 é a personificação dessa ideia. Os desenvolvedores precisam de hardware que não seja apenas capaz de fazer a computação e pensar (sim, eu direi) que nosso futuro mais inteligente precisará, mas também é fácil de usar e implantar.
IA no Edge.
A NVIDIA se refere a isso como "entrega de IA no Edge" e é uma descrição adequada. O TX2 é um supercomputador completo. Ele é capaz de processar dados por conta própria no local e horário em que realmente está acontecendo, em vez de a milhares de quilômetros de distância pela Internet. Nós assumimos a conectividade como garantida devido à maneira como a usamos no momento, mas há muitos casos em que esperar uma ida e volta de dados de uma peça inteligente de maquinaria demora muito para esperar. E uma grande parte desse mármore azul em que vivemos não tem conexão com a internet e não terá por muito tempo.
Um pequeno computador que pode fazer praticamente qualquer coisa e processar todos os dados coletados é como você lida com esses problemas. A NVIDIA parece ter acertado aqui.
O que é esta coisa?
Isso não é algo que você pode encontrar na Best Buy para usar no que faz com o telefone. Ele não roda o Android (mas certamente não seria difícil corrigi-lo) e é algo que a maioria de nós não estará comprando. Mas ainda é uma parte muito importante das coisas que amamos.
O Jetson TX2 é uma ferramenta de desenvolvimento. O Jetson TX2 também é um módulo pronto para uso em campo para alimentar qualquer equipamento baseado em IA. É um computador do tamanho de um cartão de crédito com todas as entradas e saídas que um computador "comum" possui. Quando você conecta o módulo TX2 à sua placa especialmente projetada (que faz parte do kit de desenvolvimento), ele geralmente se transforma em um típico PC de fator de forma pequeno, completo com todas as portas e plugues que a área de trabalho também possui.
Os desenvolvedores podem usar isso para construir equipamentos e, na verdade, usar o próprio Jetson para executar demos e simulações. É uma pequena máquina capaz que pode fazer todos os cálculos que algo muito maior pode fazer enquanto usa uma quantidade minúscula de energia para fazer isso. As especificações técnicas são impressionantes.
- Série NVIDIA Parker Tegra X2: GPU Pascal de 256 núcleos e dois núcleos de CPU Denver de 64 bits emparelhados com quatro CPUs Cortex-A57 em uma configuração HMP
- 8 GB de RAM LPDDR4 de 128 bits
- Armazenamento integrado eMMC 5.1 de 32 GB
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 e USB 2.0
- Gigabit Ethernet
- Slot para cartão SD para armazenamento externo
- SATA 2.0
- PMIC multicanal completo
- Conector de E / S padrão da indústria de alta e baixa velocidade de 400 pinos
A melhor especificação técnica é que o Jetson TX2 é um pino para queda de pinos em substituição ao Jetson TX1 do ano passado. Deixe isso se aprofundar um pouco - os desenvolvedores que estão usando os computadores NVIDIA TX1 existentes para alimentar o cérebro por trás de seus equipamentos poderão desligar as coisas, puxar a placa antiga e colocar a nova. O software para o TX1 será atualizado para o mesmo software que o TX2 está usando, portanto será literalmente uma queda na substituição. Se você já fez algum tipo de trabalho de campo ou de fábrica em equipamentos que custam muito dinheiro quando há algum tempo de inatividade, você entende o quanto isso é importante. Enquanto o equipamento da próxima geração está sendo desenvolvido, ele está usando hardware que funciona 100% com a geração existente.
O segredo aqui é através dos núcleos de GPU Pascal da NVIDIA. A mesma razão pela qual os núcleos Pascal são usados em placas de vídeo de ponta projetados para jogos 3D em VR e 4K é o motivo pelo qual são usados para o Jetson TX2. Os núcleos de GPU são uma maneira mais eficiente de processar números. Eles são mais rápidos e usam muito menos energia.
O Santo Graal da computação é a inteligência artificial (IA): construindo uma máquina tão inteligente que pode aprender por si própria sem instruções explícitas. O aprendizado profundo é um ingrediente essencial para alcançar a IA moderna. O aprendizado profundo permite que o "cérebro" da IA perceba o mundo ao seu redor; a máquina aprende e, finalmente, toma decisões por si só. Agora, é amplamente reconhecido na academia e na indústria que as GPUs são o estado da arte no treinamento de redes neurais profundas (DNN), devido às vantagens de velocidade e eficiência energética em comparação com as plataformas mais tradicionais baseadas em CPU.
Os computadores GPU NVIDIA já fazem coisas incríveis. Eles conduzem o aprendizado profundo usado para carros autônomos, ensinando aos robôs habilidades motoras semelhantes às humanas, como caminhar e agarrar, analisando vídeos em alta velocidade para fornecer legendas e até jogar Go. E derrotar bons oponentes humanos.
Os núcleos de GPU podem fazer o mesmo trabalho usando menos energia que a computação tradicional da CPU.
O verdadeiro teste da IA e os cérebros que podem conduzi-la está no horizonte. Robôs e drones autônomos estão sendo desenvolvidos para trabalhos como inspeção industrial, dispositivos médicos portáteis que podem ser levados em campo para ajudar os necessitados e são desesperadamente necessários e até câmeras de segurança inteligentes que podem analisar o que estão vendo e tomar as medidas apropriadas estão prestes a chegar. ser realidades. Essas idéias precisam de computação que possa impulsionar a IA com algoritmos de aprendizado profundo e a capacidade de analisar os dados coletados da rede neural por conta própria. Eles não podem ser conectados a um cabo e serão usados em locais onde nem a Verizon tem cobertura.
Além de ser poderoso, um computador projetado para ser pequeno e portátil precisa ser eficiente em termos de energia. Os testes mostram (arquivo.pdf) que a computação baseada em GPU da NVIDIA pode ser equivalente a uma CPU Intel core i7 6700K e usar 6 watts de energia em comparação com 60. Para equipamentos que não estão conectados à rede elétrica, isso é importante.
Executamos alguns benchmarks usando o software de teste de classificação e detecção de categoria de objeto baseado em AlexNet e GoogLeNet - CV e os resultados foram fantásticos. No modo Max-P (alta potência), o Jetson TX2 foi capaz de analisar uma média de 641 imagens por segundo usando a rede AlexNet e usando apenas 13 watts de potência. O teste da GoogLeNet obteve uma média de 278 imagens por segundo enquanto usava 14 watts de potência. Os testes Max-Q (baixa potência) obtiveram uma média de 481 imagens por segundo no AlexNet e 191 imagens por segundo no GoogLeNet, usando apenas 7 watts de potência. Isso é quase o dobro do que o Jetson TX1 do ano passado poderia oferecer, e foi muito bom nisso também.
Quando você pode processar informações com tanta rapidez e precisão no local, uma conexão com a nuvem não é o fator limitante que costumava ser.
No laboratório
O Jetson TX2 deve ser muito capaz em campo. É a primeira das máquinas da próxima geração que aprenderá sem uma conexão com a nuvem e com uma atualização substancial dos equipamentos existentes. Mas também possui recursos que os desenvolvedores vão adorar.
O módulo de computação do tamanho de um cartão de crédito pode ser conectado a uma placa transportadora completa disponível como parte do kit de desenvolvimento Jetson TX2. A placa transportadora usa os 400 pinos de E / S no módulo Jetson para fornecer conexões de desktop padrão. Um desenvolvedor de software pode usar um teclado e mouse USB padrão, um monitor padrão e o Jetson TX2 para criar um ambiente de desenvolvimento completo.
Executando em um sistema operacional Linux4Tegra baseado no Ubuntu 16.04, todas as ferramentas necessárias para desenvolver e depurar aplicativos de IA de aprendizado profundo estão incluídas como parte do software JetPack da NVIDIA. Os desenvolvedores podem baixar o pacote da Zona de desenvolvedor da NVIDIA, bem como seguir tutoriais e conhecimento da comunidade para ver o que o Jetson pode fazer e começar a trabalhar com suas próprias idéias. O software incluído no JetPack está pré-configurado para executar otimizado no sistema de processamento TX2:
- cuDNN - uma biblioteca de primitivos acelerados por GPU para redes neurais profundas.
- O NVIDIA VisionWorks é um pacote de desenvolvimento de software para Computer Vision (CV) e processamento de imagem.
- CUDA Toolkit - um ambiente de desenvolvimento abrangente para desenvolvedores de C e C ++ que desenvolvem aplicativos acelerados por GPU.
- TensorRT - um tempo de execução de inferência de aprendizado profundo de alto desempenho para redes neurais de classificação de imagens, segmentação e detecção de objetos.
- NVIDIA Nsight Eclipse - um Eclipse IDE completo e com recursos completos para desenvolvimento, depuração e criação de perfil de aplicativos CUDA-C.
- Tegra System Profiler e Tegra Graphics Debugger - ferramentas para criar perfil e testar aplicativos usando o OpenGL.
- A garantia e os ativos necessários para desenvolver e projetar hardware usando o NVIDIA Jetson TX2.
Usar a mesma plataforma para criar e depurar qualquer aplicativo é essencial para qualquer coisa intrincada e complicada. É uma das maneiras pelas quais os desenvolvedores podem simplificar o processo e qualquer coisa que possa ajudar a facilitar as coisas facilita para desenvolvedores mais felizes. Embora o Jetson TX2 possa não ser projetado como o único computador de desenvolvimento e construção que qualquer grupo usaria, saber que ele é capaz é um benefício para a instalação e o trabalho de campo. É possível fazer pequenos ajustes e alterações no Edge da mesma maneira que o processamento, sem enviar dados de volta para outro banco de computadores para processar e retornar.
O equipamento pode ser projetado usando os recursos e desenhos de hardware disponíveis para não apenas reduzir a complexidade, mas também permitir uma interface fácil usando periféricos e software prontamente disponíveis. Armado com um laptop e um cabo USB, um engenheiro ou técnico de campo tem tudo o que é necessário para reconstruir a partir do zero, se necessário.
O software NVIDIA Jetpack significa que os desenvolvedores podem se concentrar no trabalho, não na configuração de um ambiente de construção.
Até a instalação do Jetpack da NVIDIA é simplificada. Os revisores receberam uma versão atualizada para instalar e, seguindo algumas instruções simples por meio de uma GUI inteligente, a reconstrução completa de todo o software foi concluída com apenas algumas etapas e uma xícara de café. Novamente, vemos a NVIDIA facilitando as coisas para que os desenvolvedores possam se concentrar em seu trabalho, em vez de manter o próprio ambiente de construção.
Depois de alguns dias configurando tudo e testando tudo, fiquei impressionado com o que a NVIDIA está fornecendo aqui. O primeiro Jetson TX1 foi um ótimo produto que preencheu a necessidade de desenvolvimento rápido usando núcleos de GPU para fazer o trabalho pesado para aplicações de redes neurais de aprendizado profundo. Em pouco tempo, a NVIDIA elevou a fasquia com um sucessor que pode quebrar a dependência da nuvem usando as mesmas técnicas e ferramentas de desenvolvimento conhecidas.
A tecnologia do futuro irá emocionar e inspirar a todos nós. Produtos como o Jetson TX2 são o que tornará esse futuro possível. O kit de desenvolvedor NVIDIA Jetson TX2 custa US $ 599 para pedidos de varejo e US $ 299 para estudantes.
Veja no portal NVIDIA Embedded Developers
