„Goodfire AI“ surinko 7 mln. USD, kad demistifikuotų dirbtinio intelekto sistemas naudojant mechaninio interpretavimo metodus

Visuomenei naudinga korporacija ir tyrimų laboratorija „Goodfire AI“, kuri bando išsklaidyti generatyvaus dirbtinio intelekto pasaulį, šiandien paskelbė, kad uždarė 7 mln. USD pradinį finansavimą, kad padėtų sukurti AI sistemų derinimo įrankius.

Šiandienos turą vedė aukšto lygio rizikos kapitalo įmonė Lightspeed Venture Partners ir jame dalyvavo keli kiti žinomi rėmėjai, įskaitant Menlo Ventures, South Park Commons, Work-Bench, Juniper Ventures, Mythos Ventures, Bluebirds Capital ir įvairius angelus investuotojus.

Startuolis bando atskleisti vis sudėtingesnį šiandienos galingiausių generuojamųjų AI modelių, kurie dažnai apibūdinami kaip savotiška „juodoji dėžė“, su paslaptingais vidiniais veiksmais, sudėtingumą. Dėl to kyla problemų, pavyzdžiui, supratimas, kodėl LLM generuoja tam tikrus atsakymus į raginimus. Tačiau šio supratimo reikalauja daugelis įmonių, kurios nerimauja dėl AI sistemų, kurios gali suklysti, diegimo.

„Goodfire“ mano, kad yra didelė labiau paaiškinamo AI paklausa. Jame cituojama anksčiau šiais metais paskelbta McKinsey Co. apklausa, kuri atskleidė, kaip 44 % verslo lyderių patyrė neigiamų pasekmių dėl nenumatyto modelio elgesio.

Pradedančiųjų požiūris į AI paaiškinamumą pramonėje žinomas kaip „mechanistinis aiškinamumas“, o tai reiškia, kaip AI modeliuoja samprotavimus ir priima sprendimus. Tikslas yra suprasti vidinę LLM veiklą detaliausiu lygiu.

„Goodfire“ mano, kad sukūrė pirmąjį pasaulyje produktą, kuris naudoja mechaninį aiškinimą, kad ne tik bandytų suprasti, bet ir redaguoti AI modelių elgesį. Pasak startuolio, jo įrankiai kūrėjams suteikia gilių įžvalgų apie vidinius LLM procesus. Jame taip pat siūlomi valdikliai, kuriais kūrėjai gali bandyti valdyti savo modelių rezultatus, o tai prilygsta „smegenų operacijai“. „Goodfire“ teigimu, tai metodas, galintis sumažinti daug laiko reikalaujančios, bandymais ir klaidomis pagrįstos inžinerijos poreikį.

„Goodfire“ komanda yra gerai kvalifikuota, kad galėtų laikytis tokio požiūrio. Jos vienas iš įkūrėjų ir vykdomasis direktorius Ericas Ho anksčiau kartu su vyriausiuoju technologijų pareigūnu Danu Balsamu įkūrė AI darbo paieškos ir įdarbinimo įmonę RippleMatch Inc., o trečiasis jos įkūrėjas ir vyriausiasis mokslininkas Tomas McGrathas anksčiau buvo Google LLC DeepMind vyresnysis mokslo darbuotojas.

Interviu su „VentureBeat“ Ho paaiškino, kad „Goodfire“ įrankiai leidžia kūrėjams efektyviai susieti savo AI modelių smegenis, panašiai kaip neurologas gali naudoti vaizdo gavimo metodus, bandydamas suprasti, kas vyksta žmogaus smegenyse. „Mes naudojame interpretavimo metodus, kad suprastume, kurie neuronai atitinka skirtingas užduotis, sąvokas ir sprendimus”, – paaiškino jis.

Kai smegenys yra suplanuotos, Goodfire bando suprasti, kuris iš šių neuronų yra atsakingas už bet kokį nepageidaujamą elgesį modelyje. Tai iš esmės vizualizuoja AI „smegenis“, kad būtų lengviau atpažinti tuos varginančius gabalus.

Galiausiai kūrėjai gali naudoti „Goodfire“ valdymo sistemas savo modelių „operacijai“, pvz., pašalindami arba patobulindami tam tikrą funkciją, kad ištaisytų jos elgesį. Ho sakė, kad tai panašu į tai, kaip neurochirurgas gali bandyti manipuliuoti tam tikra žmogaus smegenų dalimi.

„Tai darydami vartotojai gali pagerinti modelio galimybes, pašalinti problemas ir ištaisyti klaidas“, – pabrėžė jis. „Padėdami dirbtinio intelekto modelius lengviau interpretuojamus ir redaguojamus, atveriame kelią saugesnėms, patikimesnėms ir naudingesnėms AI technologijoms.

Nnamdi Iregbulem iš „Lightspeed Venture Partners“ teigė, kad aiškinamumas greitai tampa esminiu DI kūrimo elementu. Jis mano, kad tokie modelių redagavimo įrankiai greitai taps „pagrindiniu primityvu“ AI kūrėjams, leisdami jiems sąveikauti su savo modeliais naujais ir lankstesniais būdais. „Mes palaikome Goodfire, kad jis vadovautų šiam svarbiam AI krūvos sluoksniui“, – pridūrė jis.

Vaizdas: SiliconANGLE / Microsoft Designer