Logo da.androidermagazine.com
Logo da.androidermagazine.com

Nvidia jetson tx2 er den supercomputer, der vil bygge den næste gode idé

Indholdsfortegnelse:

Anonim

Kunstig intelligens og maskiner, der kan lære, er, hvordan de ting, vi bruger hver dag, forbedres. Google og Android er all-in med AI gennem Google Assistant og maskinlæring, så det er vigtigt at vide, hvordan bagenden fungerer, hvordan de kom dertil, og hvilke typer udstyr der gør det hele muligt. Og det er virkelig cool, også!

De mennesker, der bygger fremtidens teknologi, har brug for værktøjerne til at gøre det. I 2017 gør NVIDIA sin del, og Jetson TX2 er legemliggørelsen af ​​denne idé. Udviklere har brug for hardware, der ikke kun er i stand til at udføre computeren og tænke (ja, jeg siger det), som vores smartere fremtid vil have brug for, men som også er let at bruge og implementere.

AI ved kanten.

NVIDIA refererer til dette som "levering af AI ved kanten", og det er en passende beskrivelse. TX2 er en komplet supercomputer. Det er i stand til at behandle data på egen hånd på det sted og tidspunkt, de faktisk sker i stedet for tusinder af miles væk via internettet. Vi tager tilslutningsmuligheder for givet på grund af den måde, vi bruger den lige nu, men der er masser af tilfælde, hvor det er bare for længe at vente på en datarundtur fra et smart stykke maskiner. Og en stor del af denne blå marmor, vi lever på, har ikke forbindelse til internettet, og vil ikke i meget lang tid.

En lille computer, der kan gøre næsten alt og behandle alle de data, den selv indsamler, er, hvordan du tackle disse problemer. NVIDIA ser ud til at have spikret den her.

Hvad er denne ting?

Dette er ikke noget, du kan finde på Best Buy til at bruge til ting, du gør med din telefon. Det kører ikke Android (men det ville bestemt ikke være vanskeligt at løse det), og det er noget de fleste af os ikke vil købe. Men det er stadig en meget vigtig del af de ting, vi elsker.

Jetson TX2 er et udviklingsværktøj. Jetson TX2 er også et felt-klart modul til at drive alt AI-baseret udstyr. Det er en computer på størrelse med et kreditkort med alle input og output, en "almindelig" computer har. Når du tilslutter TX2-modulet til dets specielt designet bagplade (det er en del af udviklingssættet), bliver det mest til en typisk lille formfaktor-pc komplet med alle de porte og stik, som dit skrivebord også har.

Udviklere kan bruge dette til at bygge udstyr omkring og faktisk bruge selve Jetson til at køre demoer og simuleringer. Det er en dygtig lille maskine, der kan udføre alle de beregninger, noget meget større kan gøre, mens du bruger en mindre mængde strøm til at gøre det. Tekniske specifikationer er imponerende.

  • NVIDIA Parker-serien Tegra X2: 256-core Pascal GPU og to 64-bit Denver CPU-kerner parret med fire Cortex-A57 CPU'er i en HMP-konfiguration
  • 8 GB 128-bit LPDDR4 RAM
  • 32 GB eMMC 5.1 opbevaring ombord
  • 802.11b / g / n / ac 2x2 MIMO Wi-Fi
  • Bluetooth 4.1
  • USB 3.0 og USB 2.0
  • Gigabit Ethernet
  • SD-kortstik til ekstern opbevaring
  • SATA 2.0
  • Komplet multikanal PMIC
  • 400-pins højhastigheds- og lavhastighedsindustristandard I / O-stik

Den bedste tech spec er, at Jetson TX2 er en pin for pin drop i erstatning for sidste års Jetson TX1. Lad det synke ind for lidt - udviklere, der bruger eksisterende NVIDIA TX1-computere til at tænke hjernen bag deres udstyr, vil være i stand til at lukke tingene ned, trække det gamle kort og sætte det nye i. Softwaren til TX1 opdateres til den samme software, TX2 bruger, så det bogstaveligt talt vil være et fald i udskiftningen. Hvis du nogensinde har udført nogen form for felt- eller fabriksarbejde med udstyr, der koster en masse penge, når det har nogen nedetid, forstår du, hvor vigtigt det er. Mens næste generations udstyr udvikles, bruger det hardware, der fungerer 100% med den eksisterende generation.

Hemmeligheden her er gennem NVIDIAs Pascal GPU-kerner. Den samme grund Pascal-kerner bruges i meget avancerede videokort designet til VR og 4K 3D-spil, hvorfor de bruges til Jetson TX2. GPU-kerner er en mere effektiv måde at knuse tal på. De er hurtigere og bruger meget mindre strøm.

Den hellige gral ved computing er kunstig intelligens (AI): at opbygge en maskine så intelligent, at den kan lære på egen hånd uden eksplicit instruktion. Deep learning er en kritisk ingrediens til opnåelse af moderne AI. Dyb læring gør det muligt for AI "hjernen" at opfatte verden omkring den; maskinen lærer og til sidst træffer beslutninger af sig selv. Det er nu almindeligt anerkendt inden for den akademiske verden og industrien, at GPU'er er den nyeste teknik i træning af dybe neurale netværk (DNN) på grund af både hastighed og energieffektivitetsfordele sammenlignet med mere traditionelle CPU-baserede platforme.

NVIDIA GPU-computere gør allerede nogle fantastiske ting. De driver den dybe læring, der bruges til selvkørende biler, underviser robotter menneskelige lignende motoriske færdigheder som at gå og gribe, analysere video i høj hastighed for at give teksttekst og endda spille Go. Og slå virkelig gode menneskelige modstandere.

GPU-kerner kan udføre det samme arbejde ved at bruge mindre strøm som traditionel CPU-computing.

Den virkelige test af AI og hjernerne, der kan drive den, er i horisonten. Der udvikles autonome robotter og droner til job som industriel inspektion, bærbart medicinsk udstyr, der kan tages i marken for at hjælpe de nødlidende, der er hårdt brug for, og selv smart sikkerhedskameraer, der kan analysere, hvad de ser, og iværksætte passende handlinger er snart til være realiteter. Disse ideer har brug for computing, der kan drive AI med dybe indlæringsalgoritmer og evnen til at analysere neurale netværk indsamlede data på egen hånd. De kan ikke tilsluttes et kabel og vil blive brugt på steder, hvor selv Verizon ikke har nogen dækning.

Udover at være kraftfuld, skal en computer designet til at være lille og bærbar være strømeffektiv. Testning viser (.pdf-fil), at NVIDIA GPU-baseret computing kan svare til en Intel core i7 6700K CPU og bruge 6 watt strøm sammenlignet med 60. For udstyr, der ikke er tilsluttet strømnettet, er det vigtigt.

Vi kørte nogle benchmarks ved hjælp af AlexNet og GoogLeNet - CV-baseret objektkategoriklassificering og detektionstestningssoftware, og resultaterne var fantastiske. I Max-P (højeffekt) -tilstand var Jetson TX2 i stand til at analysere et gennemsnit på 641 billeder pr. Sekund ved hjælp af AlexNet-netværket, mens den kun anvendte 13 watt strøm. GoogLeNet-testen gennemsnit 278 billeder pr. Sekund, mens de anvendte 14 watt strøm. Max-Q (lav effekt) test scorede i gennemsnit 481 billeder pr. Sekund på AlexNet og 191 billeder pr. Sekund på GoogLeNet, mens de kun brugte 7 watt strøm. Dette er næsten to gange, hvad sidste års Jetson TX1 kunne levere, og det var også ret godt til det.

Når du kan behandle oplysninger så hurtigt og dette nøjagtige på stedet, er en forbindelse til skyen ikke den begrænsende faktor, det plejede at være.

I laboratoriet

Jetson TX2 skal være meget kapabel i feltet. Det er den første af næste generations maskiner, der lærer ved at gøre uden en forbindelse til skyen og en betydelig opgradering fra eksisterende udstyr. Men det har også funktioner, som udviklere vil elske.

Beregningsmodulet med kreditkortstørrelse kan tilsluttes et komplet transportkort, der er tilgængeligt som en del af Jetson TX2-udviklingssættet. Bærepladen bruger 400 I / O-stifter på Jetson-modulet til at levere standard desktopforbindelser. En softwareudvikler kan bruge et standard USB-tastatur og mus, en standardmonitor og Jetson TX2 til at skabe et komplet udviklingsmiljø.

Kører på et Ubuntu 16.04-baseret Linux4Tegra-operativsystem, alle de værktøjer, du muligvis har brug for til at udvikle og fejlsøge Deep Learning AI-applikationer, er inkluderet som en del af NVIDIAs JetPack-software. Udviklere kan downloade pakken fra NVIDIAs udviklerezone samt følge tutorials og samfundsviden for at se, hvad Jetson kan gøre, så begynder arbejdet med deres egne ideer. Inkluderet software i JetPack er forudkonfigureret til at køre optimeret på TX2-behandlingssystemet:

  • cuDNN - et GPU-accelereret bibliotek med primitiver til dybe neurale netværk.
  • NVIDIA VisionWorks er en softwareudviklingspakke til Computer Vision (CV) og billedbehandling.
  • CUDA Toolkit - et omfattende udviklingsmiljø for C- og C ++ -udviklere, der bygger GPU-accelererede applikationer.
  • TensorRT - en højtydende dyb læringsinferens runtime for billedklassificering, segmentering og neurale netværk til detektering af objekter.
  • NVIDIA Nsight Eclipse - En komplet og tilpasset Eclipse IDE til udvikling, debugging og profilering af CUDA-C applikationer.
  • Tegra System Profiler og Tegra Graphics Debugger - værktøjer til profilering og prøve af applikationer ved hjælp af OpenGL.
  • De nødvendige sikkerheder og aktiver til at udvikle og designe hardware ved hjælp af NVIDIA Jetson TX2.

Brug af den samme platform til at opbygge og fejlsøge ethvert program er et must for noget kompliceret og kompliceret. Det er en af ​​måderne, som udviklere kan forenkle processen på, og alt, hvad der kan hjælpe med at gøre tingene lettere, gør dem til gladere udviklere. Selvom Jetson TX2 muligvis ikke er designet som den eneste udviklings- og opbygningscomputer, som nogen gruppe vil bruge, er det en velsignelse ved installation og feltarbejde at vide, at den er i stand. Foretagelse af små justeringer og ændringer kan udføres på kanten på samme måde som behandlingen er uden at sende data tilbage til en anden computerbank for at behandle og returnere.

Udstyr kan designes ved hjælp af de tilgængelige hardwareaktiver og tegninger for ikke kun at reducere kompleksiteten, men for at tillade et let interface ved hjælp af let tilgængelige perifere enheder og software. Bevæbnet med en bærbar computer og et USB-kabel har en ingeniør eller felttekniker alt det, der er nødvendigt for at genopbygge fra bunden om nødvendigt.

NVIDIA Jetpack-softwaren betyder, at udviklere kan fokusere på deres arbejde og ikke opsætte et bygningsmiljø.

Selv installationen af ​​NVIDIAs Jetpack er strømlinet. Læserne fik en opdateret version til installation, og efter et par enkle instruktioner gennem et smart GUI fik en komplet genopbygning af al softwaren færdig med blot et par trin og en kop kaffe. Igen ser vi NVIDIA gøre tingene lettere, så udviklere kan fokusere på deres arbejde i stedet for at bevare selve bygningsmiljøet.

Du kan faktisk opbygge og fejlsøge software på Jetson TX2, mens du har et udvalg af andre applikationer, der kører for at skrive et blogindlæg.

Efter et par dage med opsætning og test af alt, kom jeg væk meget imponeret over, hvad NVIDIA leverer her. Den første Jetson TX1 var et fantastisk produkt, der fyldte et behov for hurtig udvikling ved hjælp af GPU-kerner til at udføre den tunge løft til dyb læring af neurale netværksapplikationer. På meget kort tid har NVIDIA hævet søjlen med en efterfølger, der kan bryde afhængigheden af ​​skyen ved hjælp af de samme velkendte udviklingsværktøjer og teknikker.

Fremtidens teknologi vil begejstre og inspirere os alle. Produkter som Jetson TX2 er det, der vil gøre denne fremtid mulig. NVIDIA Jetson TX2 Developer Kit er prissat til $ 599 for detailordrer og $ 299 for studerende.

Se på NVIDIA Embedded Developers portal