AI modeļi nebeidz mūs valdzināt gan ar savām spējām, gan ierobežojumiem, demonstrējot dīvainu uzvedību, kas izgaismo to pamatveidu. Viens ievērības cienīgs novērojums ir tāds, ka šiem algoritmiem, šķiet, ir priekšroka noteiktiem skaitļiem, līdzīgi kā cilvēki izvēlas skaitļus. Tā nav tikai virsmas līmeņa dīvainība; tā sniedz informāciju par šo modeļu darbību.
Cilvēkiem ir labi dokumentēta nejaušības problēma, viņi bieži pārdomā vai nepareizi interpretē, ko tas patiesībā nozīmē. Piemēram, kad tiek lūgts prognozēt 100 monētu apmešanas rezultātu, cilvēku prognozēs parasti nav iekļautas galviņu vai astes svītras, kas raksturīgas reālām nejaušām sekvencēm. Līdzīgā veidā, izvēloties skaitli no 0 līdz 100, cilvēki mēdz dot priekšroku "neitrālākām" iespējām, piemēram, tām, kas beidzas ar 7, nevis ekstrēmiem vai vizuāli pārsteidzošiem skaitļiem.
Negaidīti AI sistēmām ir tāda pati novirze skaitļu izvēlē kā cilvēkiem. Neformālā eksperimentā, ko veica Gramener inženieri, daudziem galvenajiem valodu modeļiem (LLM tērzēšanas robotiem) tika lūgts atlasīt skaitli no 0 līdz 100. Galīgie rezultāti nekādā ziņā nebija nejauši. . Pat tad, kad iestatījumi tika mainīti, lai veicinātu neparedzamību un palielinātu nejaušību, katrs modelis nepārtraukti rādīja priekšroku konkrētiem skaitļiem. Piemēram, GPT-3.5 Turbo modelis no OpenAI bieži izvēlējās 47 Anthropic's Claude 3 Haiku izvēlējās 42, savukārt Gemini izvēlējās 72. Tāpat citiem modeļiem bija savas numuru preferences.
Turklāt šajos modeļos netika izmantoti zemi un lieli skaitļi un reti tika izvēlēti divciparu vai apaļi skaitļi, ja vien temperatūras iestatījums nebija maksimāli palielināts, kā rezultātā Gemini izvēlējās retāk.
Tas nav saistīts ar apziņu vai zināšanām par nejaušību, bet gan ar modeļu apmācības datu atspoguļojumu. Bez reālas loģikas šīs sistēmas sniedz atbildes, pamatojoties tikai uz to, cik bieži tām ir ievadīti dati. Maz ticams, ka modelis izvēlēsies skaitli, ja tas bieži nenotiek kā atbilde apmācības komplektā.
Šī cilvēkiem līdzīgu izvēles modeļu atdarināšana šķietami vienkāršos uzdevumos, piemēram, skaitļu atlasē, ilustrē to, kā AI modeļi atspoguļo viņu apmācībā esošās novirzes un uzvedību. datus, kas bieži noved pie viņu darbību antropomorfām interpretācijām.
Lai gan šķiet, ka šie modeļi "domā" kā cilvēki, šiem modeļiem trūkst izpratnes un apziņas; tie darbojas tikai ar datiem, ko tie apstrādā, atklājot gan pašreizējo AI tehnoloģiju potenciālu, gan ierobežojumus.