Kaip atvirojo kodo pasaulis kovoja su generatyvaus AI saugumo ir licencijavimo problemomis

0



Generatyvaus dirbtinio intelekto atsiradimą lydėjo augančios diskusijos atvirojo kodo bendruomenėje: ar OpenAI ir kiti modelių tiekėjai tikrai atviri ir ar ši technologija yra patikima?

Šios diskusijos tapo aktualesnės, nes AI pritaikymas vis labiau įsitvirtina varikliuose, šiandien veikiančiuose svarbias sistemas. Skaidrumas buvo atvirojo kodo etoso požymis, tačiau pagrindiniai klausimai kyla dėl to, kiek iš tikrųjų yra skaidrūs daugelis plačiausiai naudojamų AI modelių.

Praėjusį rudenį Stanfordo universiteto Į žmogų orientuoto dirbtinio intelekto skyriaus Fondų modelių tyrimų centro paskelbtoje ataskaitoje nustatyta, kad skaidrumas, matuojamas pagal tai, kaip modelis kuriamas, kaip jis veikia ir kaip naudojamas pasroviui, atsiliko nuo 10 didžiausių. modelių tiekėjai. Naudojant indeksą, pagrįstą 100 balų skale, didžiausias skaidrumas siekė tik 54 % Meta Platforms Inc. Llama 2, o Amazon.com Inc. Titan Text sumažėjo iki 12 %. Populiarus OpenAI GPT-4 modelis užėmė trečią vietą – 48%.

„Su dirbtiniu intelektu visi kartu bandome išsiaiškinti, ką reiškia atvirumas“, – sakė Jimas Zemlinas, Linux fondo vykdomasis direktorius, balandį vykusiame Atvirojo kodo aukščiausiojo lygio susitikime. „Dideliuose kalbų modeliuose atvirumo apibrėžimas tampa šiek tiek sudėtingas.

Atvirojo kodo bendruomenės įtraukimas kuriant AI strategiją

Kovo mėnesį Paryžiuje vykusiame KubeCon + CloudNativeCon konferencijoje Cloud Native Computing Foundation paskelbė savo dirbtinio intelekto baltąjį dokumentą. CNCF AI darbo grupės ataskaitoje pažymėta, kad „būtina aiškiai apibrėžti, kam priklauso duomenys ir kas turi prieigą prie duomenų“ per visą AI gyvavimo ciklą.

SiliconANGLE per KubeCon ES renginį kalbėjosi su Ricardo Aravena, „Truera Inc.“ inžinerijos vadovu ir CNCF informacinio dokumento bendradarbiu.

„Neturime apibrėžto, ką reiškia būti skaidriu modeliu“, – sakė Aravena. „Čia daug atsitiktinumo. Sunki ta dalis. Mes įtraukiame bendruomenę, kad ji įsitrauktų ir išspręstų kai kuriuos iššūkius.

Šie iššūkiai apima atvirų modelių kūrimą, leidžiančius kūrėjams remtis ir pritaikyti ankstesnį darbą bei sukurti generatyvią AI strategiją. Paprastai tai apimtų galimybę atkartoti treniruočių duomenis ir mokymo kodą, o tai ne visada buvo lengvai prieinama.

„Tai kūrinys, kuris tikrai nėra labai atviras“, – interviu sakė Erikas Erlandsonas, „Red Hat Inc.“ vyresnysis programinės įrangos inžinierius. „Turite labai atidžiai perskaityti kiekvieno modelio licencijas. Pagrindinė diskusijų tema yra atvirų generuojamųjų AI modelių standartų apibrėžimas.

Šiuos standartus stengiamasi apibrėžti įgyvendinant daugybę pramonės ir bendruomenės projektų. Tiek Linux fondas, tiek CNCF turi iniciatyvų, skirtų šiai užduočiai. IBM Corp., Intel Corp., Meta, Advanced Microsoft Devices Inc., Oracle Corp., Red Hat ir Databricks Inc. yra vienos iš įmonių, bendradarbiaujančių AI Alliance, grupėje, įsipareigojusioje „plėtoti AI bendrai, skaidriai ir sutelkiant dėmesį apie saugą, etiką ir didesnį gėrį“, rašoma organizacijos svetainėje.

Problema, kaip pažymėjo Erlandsonas, yra ta, kad kai įmonės išleidžia daug kapitalo modeliams kurti, jos nenori paaukoti jų atvirojo kodo ekosistemai, neatgaudamos investicijų.

„Įmonės išleido daug pinigų jas gamindamos“, – sakė Erlandsonas. „Jei išleidžiate tokią pinigų sumą kurdami juos, aš nekaltinu jų, kad jų neatidavė.

„Red Hat Ansible“ panaudojimas pasitikėjimui sukurti

„Red Hat“ dalyvavo iniciatyvoje, kuria siekiama išspręsti AI teisinius sudėtingumus, stengiantis aktyviai įtraukti kūrėjų bendruomenę, sumažinant teisinius ir licencijavimo ginčus bei skatinant pasitikėjimą atvirojo kodo ekosistema.

Red Hat Ansible automatizavimo platforma pasirodė esąs naudingas šaltinis norint gauti daugiau aiškumo apie modelių licencijavimo būklę. Lapkričio mėnesį bendrovė paskelbė apie bendrą „Ansible Lightspeed“ prieinamumą su IBM „watsonx Code Assistant“ kaip automatizuotą generuojančią AI paslaugą, pagrįstą bendro Ansible kodo mokymo bazės saugykla.

„Ansible bendruomenėje stengiamės atkreipti dėmesį į licencijas, kurios yra Ansible galerijos dalis“, – „SiliconANGLE“ sakė vyriausiasis technologijų pareigūnas ir „Red Hat“ pasaulinės inžinerijos vyresnysis viceprezidentas Chrisas Wrightas. „Tai tapo įdomiu mokymo medžiagos šaltiniu. Manėme, kad galime pasiekti geresnių rezultatų, kai atkreipėme dėmesį į licencijas, kurios naudojamos modeliui mokyti.

Viena iš pagrindinių sričių, į kurią Wright ir Red Hat daugiausia dėmesio skyrė, yra pasitikėjimas. Programinės įrangos bendruomenėje tiekimo grandinė ir kilmė yra labai svarbūs užtikrinant saugią patirtį.

Praėjusiais metais „Red Hat“ pradėjo skelbti programinės įrangos medžiagų sąmatas arba SBOM failus, skirtus pagrindiniams įmonės pasiūlymams. „Red Hat“ sukūrė atvirojo kodo projektą „TrustyAI“, kuris 2021 m. prisidėjo prie bendruomenės kaip verslo automatizavimo įrankis, skirtas dirbtinio intelekto paaiškinamumui, sekimui ir atskaitomybei. Tai debesies sprendimas, sukurtas naudojant „Kognito“ ir „OpenShift“, kurį galima įdiegti bet kurioje sistemoje, veikiančioje bet kurioje aplinkoje. Kadangi dirbtinio intelekto naudojimas ir toliau auga, tai gali tapti galimybe pasitikėti, iš kur atsirado tam tikras modelis.

„Vienas pasitikėjimo aspektas, kurį matome jau šiandien, yra: „Iš kur atsirado tas kodas?“ – pažymėjo Wright. „Šioje erdvėje yra keletas tikrai įdomių iššūkių, susijusių su pasitikėjimo kūrimu.

Grėsmės Linux branduoliui

Iššūkiai, susiję su saugumu ir pasitikėjimu atvirojo kodo ekosistema, tapo akivaizdesni kovo pabaigoje, kai paaiškėjo, kad Microsoft kūrėjas pastebėjo kenkėjišką scenarijų, kuris buvo patalpintas XZ Utils – duomenų glaudinimo programinėje įrangoje, dažniausiai naudojamoje Linux distribucijose ir panašioje į Unix. Operacinės sistemos. Galimas užpakalinių durų kodas, matyt, buvo įterptas vienišo kūrėjo, kurio tikroji tapatybė lieka nepatvirtinta.

Beveik praleistas atvejis sukėlė atšalimą įmonių saugumo pasaulyje, nes „Linux“ yra viena iš pagrindinių pasaulio tinklų valdymo technologijų. „Linux“ branduolys suteikia pagrindinę sąsają tarp kompiuterio aparatinės įrangos ir jo išteklių.

„Akivaizdu, kad tai yra pažadinimo skambutis“, – sakė Linusas Torvaldsas, „Linux Foundation“ narys ir „Linux“ kūrėjas, sakydamas balandį vykusį Atvirojo kodo aukščiausiojo lygio susitikimą. „Daug žmonių ieško įvairių pasitikėjimo branduoliu priemonių. Jūs pasitikite aplinkiniais žmonėmis, kad jie elgsis teisingai. Tas pasitikėjimas gali būti pažeistas. Kaip išsiaiškinti, kada jis buvo pažeistas, yra atvira problema.

„Linux“ užpakalinių durų įterpimas išryškina atvirojo kodo pasaulio mįslę, nes į ekosistemą patenka naujos kodo bangos, kai kurios iš jų yra sukurtos dirbtinio intelekto. Atsižvelgiant į atvirojo kodo bendruomenės dvasią, sunku susidaryti išsamų vaizdą apie kiekvieną bendradarbį, rašantį kiekvieną programinės įrangos dalį, ir sugebėti patikrinti saugumą.

„Trys pagrindiniai klausimai yra šie: kokia yra pati svarbiausia programinė įranga pasaulyje, kas ją kuria, ar ji saugi ir sveika? „Linux Foundation“ atstovas Zemlin sakė per atvirojo kodo aukščiausiojo lygio susitikimą. „Laimei, tai iš tikrųjų buvo sugauta. Sistema veikė aptikdama pažeidžiamumą, tačiau sistema šiek tiek susvyravo, nes ši tapatybė buvo įtraukta į svarbų projektą.

Skubant pasinaudoti AI pažadu, lengva pamiršti faktą, kad visa tai sukūrė žmonės, kurie greitai neišnyks. Pramonės lyderiai, bendradarbiaujantys su įmonėmis ir atvirojo kodo bendruomene, visi šios istorijos pristatymuose ir interviu pažymėjo, kad tai vis dar išlieka pagrindiniu elementu. Galų gale atvirojo kodo specialistai tiki, kad sprendimas bus rastas per subtilų šokį tarp žmogaus intelekto ir to, ką jis stengėsi sukurti.

„Mes sujungiame žmogaus procesus su AI procesais“, – sakė Red Hat's Wright. „Man patinka tai galvoti kaip apie mašinų padidintą žmogaus intelektą. Tiesiog vyksta puikus dialogas ir pirmyn ir atgal.

Vaizdas: SiliconANGLE / Ideograma

Jūsų balsas už paramą mums yra svarbus ir padeda mums išlaikyti turinį NEMOKAMĄ.

Vienu spustelėjimu toliau palaikome mūsų misiją teikti nemokamą, išsamų ir aktualų turinį.

Prisijunkite prie mūsų bendruomenės „YouTube“.

Prisijunkite prie bendruomenės, kurią sudaro daugiau nei 15 000 #CubeAlumni ekspertų, įskaitant Amazon.com generalinį direktorių Andy Jassy, ​​„Dell Technologies“ įkūrėją ir generalinį direktorių Michaelą Delą, „Intel“ generalinį direktorių Patą Gelsingerį ir daugybę kitų šviesuolių bei ekspertų.

„TheCUBE yra svarbus pramonės partneris. Jūs, vaikinai, tikrai esate mūsų renginių dalis ir mes labai vertiname, kad atėjote, ir aš žinau, kad žmonės taip pat vertina jūsų kuriamą turinį“ – Andy Jassy

AČIŪ



Source link

Parašykite komentarą

El. pašto adresas nebus skelbiamas. Būtini laukeliai pažymėti *

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - VeidoskaitaTeniso treniruotės -