„Kneron“ pristato pažangų „GPT in a box“ serverį ir dirbtinio intelekto įterptus kompiuterius su nauju lustu

0



Kneron Inc., San Diege įsikūrusi dirbtinio intelekto įmonė, kurianti neuronų apdorojimo įrenginius, šiandien paskelbė apie pradžią jo naujausias Edge AI serveris ir naujas AI įterptas kompiuterio lustas, skirtas mažos galios rinkai.

KNEO 330 yra antrasis privatus įmonės „Edge GPT“ serveris, galintis valdyti AI Išvada iš 48 DI skaičiavimo galios TOP, iki aštuonių lygiagrečių jungčių, palaiko didelius kalbų modelius ir stabilią sklaidą.

Pirmasis „Kneron“ įrenginys KNEO 300, pristatytas 2023 m., jau turi verslo klientų gamybos, finansinių paslaugų ir universitetų srityse. Šios mašinos, kurias generalinis direktorius Albertas Liu pavadino „GPT dėžėje“, leidžia šioms organizacijoms naudoti dirbtinio intelekto modelius savo užkardose, naudojant įmonės duomenis, nesiunčiant jų į debesį.

„Programų privatumas daugeliu atžvilgių yra gana svarbus“, – interviu „SiliconANGLE“ sakė Liu. Jis pabrėžė, kaip mažos galios įterptieji AI lustai gali pagerinti tiek saugumas ir privatumas, naudojant AI modelius vietoje. „Ypač medicinos, finansų įstaigoms ir advokatų kontoroms“, – pridūrė jis. “Pavyzdžiui, didelė technika milžinas, jie yra ne toks norintis siųsti savo informaciją OpenAI.

Šiuo metu šis įrenginys naudojamas Stanfordo universitete ir Kalifornijos universitete Los Andžele pateikė profesoriai, kurios uždraudė savo darbuotojams įkelti duomenis į ChatGPT dėl duomenų privatumo apribojimų. „GPT in a dėžė,“, kaip Liu meiliai pavadino įrenginį, gali būti sukonfigūruotas ant profesoriaus stalo su klasės darbų informacija ir duomenimis. Tai tada gali būti prieinama privačiai niekada neišeidami iš universiteto ir dirbti kaip skaitmeninis asistentas ir dėstytojas, atsakantis į klausimus apie mokymo programą pažeidžiant taisykles.

Panašiai Liu sakė: į KNEO 330 gali važiuoti itin žemas galia. Palyginti su Nvidia Corp. H100 darbiniu arkliuku, KNEO 330 sunaudoja tik apie 20 vatų, kadangi H100 jo didžiausia galia yra apie 700 vatų.

Be KNEO 330, Kneron išleido naują lustas, KL830, bendrovės trečios kartos NPU lustas, skirtas dirbtinio intelekto įterptiems asmeniniams kompiuteriams. Jis gali veikti kartu su centrine apdorojimo blokas ir grafinis apdorojimo blokas paleisti dirbtinio intelekto programas mažesnėmis galiomis ir sąnaudomis bei leisti gaminti pigius DI kompiuterius. „Kadangi viduje yra lustas, kompiuteris labiau primena asmeninį GPT“, – sakė Liu.

Pasak Liu, kartu su pirmaujančiu GPU sutaupyta 30 % energijos ir pailgėjo gaminio tarnavimo laikas. KL380 maksimaliai sunaudoja du vatus. Šie lustai atvers kelią labiau prieinamiems AI kompiuteriams, nes kartu su procesoriumi ir GPU bus galima įterpti mažos galios NPU.

Ta pati mikroschema taip pat gali būti įterptas pramoninėse AI daiktų interneto įrenginių srityse ir tai Galima įsigyti kaip USB raktą, kuris leidžia bet kuriam įrenginiui, pvz., plačiajuosčio ryšio maršruto parinktuvui, fotoaparatui ar klasikiniam kompiuteriui, pajungti krašto AI.

Vaizdas: Pixabay

Jūsų balsas už paramą mums yra svarbus ir padeda mums išlaikyti turinį NEMOKAMĄ.

Vienu spustelėjimu toliau palaikome mūsų misiją teikti nemokamą, išsamų ir aktualų turinį.

Prisijunkite prie mūsų bendruomenės „YouTube“.

Prisijunkite prie bendruomenės, kurią sudaro daugiau nei 15 000 #CubeAlumni ekspertų, įskaitant Amazon.com generalinį direktorių Andy Jassy, ​​„Dell Technologies“ įkūrėją ir generalinį direktorių Michaelą Delą, „Intel“ generalinį direktorių Patą Gelsingerį ir daugybę kitų šviesuolių bei ekspertų.

„TheCUBE yra svarbus pramonės partneris. Jūs, vaikinai, tikrai esate mūsų renginių dalis ir mes labai vertiname, kad atėjote, ir aš žinau, kad žmonės taip pat vertina jūsų kuriamą turinį“ – Andy Jassy

AČIŪ



Source link

Parašykite komentarą

El. pašto adresas nebus skelbiamas. Būtini laukeliai pažymėti *

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - VeidoskaitaTeniso treniruotės -