Заманбап терең нейрон тармактары (DNNs) түпкүлүгүндө тунук эмес, бул алардын чечим кабыл алуу процесстерин түшүнүүнү кыйындатат. Бул ачык-айкындуулуктун жоктугу ар кандай чөйрөлөрдө Machine Learning ыкмаларын кеңири жайылтууга тоскоол болот. Буга жооп катары, Explainable AI (XAI) адамдын DNN өкүмдөрүн түшүнүүсүн жакшыртууга ниеттенген. Ар бир компоненттин функционалдык максатын карап чыгуу менен, XAI азыр жеке божомолдорду түшүндүрүү үчүн көрүнүктүү карталарды колдонгон жергиликтүү түшүндүрүү ыкмаларынан айырмаланып, DNNлердин глобалдык жүрүм-турумун түшүнүүгө басым жасайт.
Механикалык интерпретациялоо – бул нейрондор, нейрондук тармактын негизги эсептөө бирдиктери түшүнүү жөндөмүнө ээ болгон өзгөчө идеяларды так аныктоого багытталган глобалдык түшүндүрүү ыкмасы. Тармактын жашыруун өкүлчүлүктөрүнүн иштешин нейрондорду адамдарга түшүнүктүү болгон сыпаттамалар менен белгилөө менен түшүндүрө алабыз. Бул сүрөттөөлөр жөнөкөй энбелгилерден өнүккөн, композициялык жана ачык сөздүк түшүндүрмөлөргө чейин жеткен. Ошого карабастан, бул ачык лексика сыпаттамаларын баалоо үчүн стандартташтырылган сандык көрсөткүчтөрдүн жоктугу ар кандай ыкмалар боюнча кылдат салыштырууга тоскоол болду.
Бул боштукту жоюу үчүн, ATB Potsdam, Potsdam University, TU Berlin, Fraunhofer Heinrich-Hertz-Institute жана BIFOLD изилдөөчүлөрү CoSy үчүн пионердик сандык баалоо негизин киргизишет. компьютердик көрүү (CV) моделдеринде ачык сөздүк түшүндүрмөлөрдү колдонууну баалоо. Бул инновациялык ыкма концепцияга негизделген тексттик сыпаттамаларга ылайыктуу жасалма сүрөттөрдү өндүрүү үчүн Генеративдик AIдагы иштеп чыгууларды колдонот. cozy белгилүү бир максаттуу түшүндүрмөлөр үчүн жалпы маалымат чекиттерин синтездөө аркылуу ар кандай концепцияга негизделген тексттик түшүндүрүү ыкмаларын сандык салыштырууну жеңилдетүү аркылуу адамдардын өз ара аракеттенүүсүнүн зарылдыгын жок кылат.
Изилдөө тобу кеңири мета-анализ аркылуу түшүндүрмөлөргө ишенимдүү баа берүүнү сунуштаарын көрсөттү. Изилдөө концепцияга негизделген тексттик түшүндүрүү методдору жогорку деңгээлдеги түшүнүктөр үйрөнүлгөн нейрон тармактарынын жогорку катмарларында эң жакшы иштешин аныктады. Нейрондордун жогорку сапаттагы түшүндүрмөлөрү нейрондук тармактын өкүлчүлүктөрүнөн визуалдарды жараткан INVERT жана ички тармактын өкүлчүлүктөрүн изилдеген CLIP-Dissect сыяктуу ыкмалар менен өндүрүлөт. Тескерисинче, MILAN жана FALCON сыяктуу техникалар начар сапаттагы түшүндүрмөлөрдү жаратып, анда-санда дээрлик туш келди түшүнүктөрдү берет, бул тармактын так эмес тыянактарына алып келиши мүмкүн.
Окумуштуулар тааныгандай, CoSyнин негизги кемчилиги, окутуу маалыматтарынын белгилүү категориялары генеративдик моделге кирбей калышы мүмкүн, бул өтө жалпы же түшүнүксүз түшүндүрмөлөргө алып келет, мисалы, "ак объектилер". Генеративдик тактык бул көйгөйдү алдын ала тренингге чейинки маалыматтар топтомун жана моделдин иштешин карап чыгуу менен жогорулатууга болот. Ошентсе да, жайлуу экспонаттар жергиликтүү эмес түшүндүрүү ыкмаларын баалоонун өнүгүп келе жаткан тармагында көп мүмкүнчүлүктөрдү көрсөтөт.
Алдыга көз чаптырып, команда CoSyдин бир нече тармактардагы потенциалдуу колдонмолоруна үмүттөнөт. Төмөнкү тапшырманын натыйжасы боюнча түшүндүрмөнүн жүйөлүүлүгүн же сапатын баалоо үчүн, адамдын ой-пикири түшүндүрүү сапатынын аныктамасына киргизилиши керек, алар келечектеги ишинде чечүүнү каалашат. Андан тышкары, алар табигый тилди иштетүү жана саламаттыкты сактоо сыяктуу кошумча тармактарды баалоо системасына киргизгиси келет. Чоң, тунук эмес, автоинтерпретациялануучу тил моделдерин (LLMs) баалоо үчүн ыңгайлуу колдонуу өзгөчө кызыктуу. Изилдөөчүлөрдүн айтымында, түшүндүрүү сапаты маанилүү болгон саламаттыкты сактоонун маалымат топтомуна ыңгайлуу колдонуу алдыга чоң кадам болушу мүмкүн. Ыңгайлуу келечектеги бул потенциалдуу колдонмолор AI изилдөөлөрүн алдыга жылдыруу үчүн чоң потенциалга ээ.