Dirbtinio intelekto modeliai nenustoja žavėti mūsų tiek savo sugebėjimais, tiek apribojimais, demonstruodami keistą elgesį, kuris išryškina jų pagrindinę formą. Įsidėmėtinas pastebėjimas, kad šie algoritmai teikia pirmenybę tam tikriems skaičiams, panašiai kaip žmonės pasirenka skaičius. Tai ne tik paviršiaus lygio keistenybė; jame pateikiama informacija apie šių modelių veikimą.
Žmonės turi gerai dokumentuotą problemą, susijusią su atsitiktinumu, jie dažnai per daug galvoja arba neteisingai interpretuoja, ką tai iš tikrųjų reiškia. Pavyzdžiui, kai prašoma prognozuoti 100 monetų apvertimo rezultatą, žmogaus prognozės paprastai neapima galvų ar uodegų dryžių, būdingų tikroms atsitiktinėms sekoms. Panašiai, rinkdamiesi skaičių nuo 0 iki 100, žmonės linkę rinktis „neutralesnius“ variantus, pavyzdžiui, tuos, kurie baigiasi 7, o ne ekstremaliais ar vizualiai įspūdingais skaičiais.
Netikėtai AI sistemos turi tokį patį skaičių pasirinkimo šališkumą kaip ir žmonės. Neoficialiame eksperimente, kurį atliko Gramener inžinieriai, daugelio pagrindinių kalbų modelių (LLM pokalbių robotų) buvo paprašyta pasirinkti skaičių nuo 0 iki 100. Galutiniai rezultatai jokiu būdu nebuvo atsitiktiniai. . Net tada, kai nustatymai buvo pakeisti, kad būtų skatinamas nenuspėjamumas ir padidintas atsitiktinumas, kiekvienas modelis nuolat teikė pirmenybę tam tikriems skaičiams. Pavyzdžiui, GPT-3.5 Turbo modelis iš OpenAI dažnai rinkdavosi 47, Anthropic's Claude 3 Haiku buvo su 42, o Gemini pasirinko 72. Taip pat kiti modeliai turėjo savo skaičių nuostatas.
Be to, šie modeliai vengė mažų ir didelių skaičių ir retai rinkdavosi dviženklius arba apvalius skaičius, nebent temperatūros nustatymas buvo maksimaliai padidintas, todėl Dvyniai pasirinko rečiau.
Taip yra ne dėl sąmonės ar atsitiktinumo žinojimo, o dėl modelių mokymo duomenų atspindžio. Be jokios realios logikos šios sistemos pateikia atsakymus tik pagal tai, kaip dažnai joms buvo tiekiami duomenys. Mažiau tikėtina, kad modelis pasirinks skaičių, jei jis dažnai neatsiranda kaip atsakas mokymo rinkinyje.
Šis į žmogų panašių pasirinkimo modelių mėgdžiojimas atliekant iš pažiūros paprastas užduotis, pvz., skaičių parinkimą, parodo, kaip dirbtinio intelekto modeliai atspindi treniruočių tendencijas ir elgesį. duomenis, dažnai lemiančius antropomorfines jų veiksmų interpretacijas.
Nors atrodo, kad šie modeliai „mąsto“ kaip žmonės, jiems trūksta supratimo ir sąmonės; jie veikia tik duomenims, kuriuos jie apdoroja, atskleisdami dabartinių AI technologijų potencialą ir apribojimus.