Pristatomas į DI orientuotas AMD Instinct MI300X GPU

Spartus dirbtinio intelekto naudojimo įmonėse spartėjimas smarkiai padidino pažangių lustų, tokių kaip grafikos apdorojimo blokai, paklausą. Atsižvelgdama į šį poreikį, Advanced Micro Devices Inc. GPU produktų šeima AMD Instinct sukurta taip, kad atitiktų aukštus DI mokymo poreikius.

AMD Marty Poniatowski kalbasi su CUBE apie Instinct MI300X AI orientuoto GPU atnaujinimus.

„AMD sukūrėme GPU šeimą, pavadintą Instinct“, – sakė Marty Poniatowski (nuotraukoje), AMD Rytų ir Centrinės Kanados išankstinio pardavimo direktorius. „Naujausia versija yra MI300X, joje yra 192 [gigabytes] atminties, o tai reiškia, kad galite kovoti su labai dideliais Llama 2 modeliais. Jis sukurtas tikrai aukštos klasės mokymams ir yra puiki alternatyva, nes joks klientas nenori pirkti tik iš vieno gamintojo.

Poniatowskis kalbėjosi su John Furrier ir Dave Vellante iš CUBE tyrimų HPE Discover, per išskirtinę transliaciją „TheCUBE“, „SiliconANGLE Media“ tiesioginės transliacijos studijoje. Jie aptarė AMD Instinct GPU ir įmonės visapusišką požiūrį, apimantį didelio našumo, pritaikomą programinę įrangą ir novatoriškus procesorius. (* Atskleidimas žemiau.)

AMD Instinct MI300X: didelio našumo GPU poreikio tenkinimas

MI300X dizainas ir atminties specifikacijos yra pritaikytos dirbti sudėtingiems AI darbo krūviams. Anot Poniatowskio, jau vykdoma integracija „Microsoft Azure“, kuri optimizavo savo aplinką, kad panaudotų MI300X, todėl klientai gali eksperimentuoti ir efektyviai diegti AI modelius.

„Microsoft Azure turi MI300X aplinką, kuri optimizuota naudojant Hugging Face“, – sakė jis. „Daugelis mano klientų tai išbando. Jie mėgsta juos įsigyti vietoje, bet gali juos išbandyti tiesiog Azure.

Atsižvelgiant į daugiadebesių ir hibridinių infrastruktūrų paplitimą, nukrypimas nuo sprendimų blokavimo yra ypač didesnis. Poniatowski paaiškino, kad naudojant atvirojo kodo sistemas, tokias kaip PyTorch ir JAX, kurios sklandžiai integruojamos su AMD ROCm programine įranga, vartotojai gali dirbti įvairiuose GPU neprisirišę prie vieno tiekėjo.

„Dabar turite kelis GPU, kuriuos galite paleisti, ir turite programinės įrangos paketą, kuris palaikys bet kurį GPU“, – sakė jis. „Taigi, dabar mano klientai jaučiasi apsaugoti. Jie nėra užrakinti aparatūros ar programinės įrangos požiūriu.

Štai visas vaizdo interviu, dalis „SiliconANGLE“ ir „TheCUBE Research“ pranešimų apie HPE Discover:

(* Atskleidimas: TheCUBE yra mokamas HPE Discover žiniasklaidos partneris. Nei Hewlett Packard Enterprise Co. ir Intel Corp., pagrindiniai CUBE renginių aprėpties rėmėjai, nei kiti rėmėjai nekontroliuoja turinio CUBE ar SiliconANGLE.)

Nuotrauka: SiliconANGLE