Sare Neuronal Sakon Modernoak (DNN) berez opakuak dira, eta zaila da haien erabakiak hartzeko prozesuak ulertzea. Gardentasun falta honek hainbat domeinutan Machine Learning tekniken ezarpen zabala oztopatzen du. Horren harira, Explainable AI (XAI) agertu da DNN epaien giza ulermena hobetzeko asmoz. Osagai bakoitzaren helburu funtzionalari erreparatuta, XAIk DNNen portaera globala ulertzera ere bideratzen da, iragarpen indibidualak azaltzeko nabarmentasun-mapak erabiltzen dituzten tokiko azalpen-metodoen aldean.
Interpretagarritasun mekanikoa azaltzeko teknika global bat da, neuronek, sare neuronaleko oinarrizko konputazio-unitateek, ulertzeko gaitasuna lortu duten ideia zehatzak zehazten dituena. Sare baten ezkutuko irudikapenen funtzionamendua azal dezakegu neuronak gizakientzat ulergarriak diren deskribapenekin etiketatuz. Deskribapen hauek etiketa soiletatik azalpen landu, konposizio eta hiztegi irekietara igaro dira. Hala ere, hiztegi irekiko deskribapen hauek ebaluatzeko metrika kuantitatibo estandarizaturik ezak hainbat ikuspegitan konparaketa sakonak oztopatu ditu.
Hutsune horri aurre egiteko, ATB Potsdam-eko, Potsdameko Unibertsitateko, TU Berlineko, Fraunhofer Heinrich-Hertz-Institute-ko eta BIFOLD-eko ikertzaileek CoSy aurkezten dute, ebaluazio kuantitatiboen esparru aitzindaria. Ordenagailu bidezko ikusmenaren (CV) ereduetan hiztegi irekiko azalpenen erabilera ebaluatzea. Metodo berritzaile honek AI sortzailearen garapenak erabiltzen ditu kontzeptuetan oinarritutako testu-deskribapenekin erlazionatzen diren irudi artifizialak sortzeko. cozy-k gizakiaren elkarrekintzaren beharra ezabatzen du, kontzeptuetan oinarritutako testu-azalpen-ikuspegi ezberdinen konparaketa kuantitatiboak erraztuz xede-azalpen jakinetarako ohikoak diren datu-puntuak sintetizatuz.
Ikerketa taldeak metaanalisi zabal baten bidez frogatu zuen erosoak azalpenen ebaluazio fidagarriak eskaintzen dituela. Azterketak aurkitu du kontzeptuetan oinarritutako testu-azalpen metodoek ondoen funtzionatzen dutela sare neuronalen goiko geruzetan, non goi-mailako kontzeptuak ikasten diren. Kalitate handiko neuronen azalpenak INVERT, sare neuronalaren irudikapenetatik ikusizkoak sortzen dituena eta CLIP-Dissect, barne sarearen irudikapenak aztertzen dituen metodoen bidez sortzen dira. Aitzitik, MILAN eta FALCON bezalako teknikek kalitate eskaseko azalpenak sortzen dituzte, noizean behin ia ausazko kontzeptuak emanez, sareko ondorio okerrak sor ditzakete.
CoSy-ren eragozpen nagusi bat da, ikertzaileek aitortzen dutenez, prestakuntza-datuen kategoria espezifikoak baliteke eredu sortzailean sartu ez izatea, eta ondorioz orokorregiak edo anbiguoak diren azalpenak, adibidez, "objektu zuriak". Sorkuntza-zehaztasuna areagotu liteke arazo honi aurre eginez prestakuntza aurreko datu-multzoak eta ereduaren errendimendua aztertuz. Hala ere, erosoak potentzial handia erakusten du oraindik garatzen ari den eremuan tokikoak ez diren azalpen teknikak ebaluatzeko.
Aurrera begira, taldea itxaropentsu dago CoSy-ren aplikazio potentzialen inguruan hainbat esparrutan. Beheko zeregin baten emaitzari buruzko azalpen baten sinesgarritasuna edo kalitatea ebaluatzeko, giza epaia sartu behar da azalpenaren kalitatearen definizioan, etorkizuneko lanetan jorratu nahi dutena. Gainera, hizkuntza naturalaren prozesamendua eta osasuna bezalako eremu osagarriak sartu nahi dituzte beren ebaluazio sisteman. Bereziki zirraragarria da cozy-ren erabilera potentziala hizkuntza-eredu handiak, opakoak eta autointerpretagarriak (LLM) ebaluatzeko. Ikertzaileen arabera, osasun-datu multzoetan erosoa aplikatzea, non azalpenen kalitatea garrantzitsua den, aurrerapauso handia izan liteke. Cozy-ren etorkizuneko aplikazio potentzial hauek ahalmen izugarria dute AIaren ikerketan aurrera egiteko.