Sammen med sin siste gruppe nye mobile mobilplattformer mellom smarttelefoner, har Qualcomm kunngjort en enda større kunngjøring på AI-dagen i San Francisco. Mobilbrikkegiganten lager et nytt spill for servere, etter å ha forlatt sitt Centriq-sortiment tilbake i 2018. Denne gangen utnytter selskapet sine teknologier innen AI-feltet for å få foten i sky computing-døren. Den første brikken kalte vi Qualcomm Cloud AI 100-plattformen.
Cloud AI 100-plattformen er ikke en mobil chip-pakke, den er en grunnleggende 7nm-design for AI-inferensoppgaver, snarere enn trening. Det betyr at brikken vil knuse tallene som går gjennom nevrale nettverk i stedet for å bli brukt til å trene dem. Dette ser ut til å sette Qualcomm i direkte konkurranse med Nvidias Tesla T4-serie og Google Edge TPU-inferenschips designet for servere og cloud computing. Akkurat som konkurrentene har Qualcomm innsett at den mest effektive AI-behandlingen ikke gjøres på CPUer, GPUer og FGPAer, men krever en dedikert AI-akselerator.
Når det gjelder ytelse, anslår Qualcomm et høyere ytelsesøkning på over 50x topp i forhold til funksjonene til Snapdragon 855. Snapdragon 855 tilbyr rundt 7TOPS ytelse, noe som antyder at Cloud AI 100 er i området 350TOPS. Det vil absolutt gi Nvidias T4 et løp for pengene. Qualcomm mener at den også har kanten på ytelse per watt, og kan skryte av en forbedring på 10 ganger sammenlignet med bransjens mest avanserte AI-inferenseløsninger distribuert i dag. Når du knuser store tall, kan energieffektivitet spare selskaper enorme summer i strømregninger. I tillegg ønsker Qualcomm å utnytte sin ekspertise innen signalbehandling og 5G, slik at skyplattformen kan fungere i utkanten i fremtidige nettverk med svært lav latens.
På spørsmål ville Qualcomm ikke kommentere om arkitekturen som ble brukt i Cloud AI 100 var proprietær eller lisensiert fra andre steder. Jeg lurer på om dette er det første utseendet til Arm's Trillium AI-arkitektur, som også er designet spesielt for inferensmengder på et lavt strømbudsjett. Men nok spekulasjoner, sier Qualcomm at den vil dele mer informasjon om AI-arkitekturen i fremtiden.
Til slutt, for å støtte utviklerne, fungerer Qualcomms Cloud AI 100 med de fleste, om ikke alle, av de industriledende programvarestackene. Det er støtte for rammer fra Caffe, Keras, mxnet, TensorFlow, PaddlePaddle og Cognitive Toolkit, sammen med glød, OnnX og XLA driftstider.
Qualcomm Cloud AI 100 forventes å begynne prøvetaking til kunder i
