Ang mga modelo ng AI ay hindi tumitigil sa pagkabighani sa amin sa kanilang mga kakayahan at limitasyon, na nagpapakita ng mga kakaibang pag-uugali na nagbibigay-liwanag sa kanilang pangunahing anyo. Ang isang kapansin-pansing obserbasyon ay ang mga algorithm na ito ay lumilitaw na may mga kagustuhan para sa mga partikular na numero, katulad ng kung paano pumipili ng mga numero ang mga tao. Ito ay hindi lamang isang kakaibang antas sa ibabaw; nagbibigay ito ng impormasyon tungkol sa kung paano gumagana ang mga modelong ito.
Ang mga tao ay may well-documented na problema sa randomness, madalas na nag-o-overthink o misinterpreting kung ano talaga ang ibig sabihin nito. Halimbawa, kapag hiniling na hulaan ang resulta ng 100 coin flips, karaniwang hindi kasama sa hula ng tao ang heads-or-tails streaks na katangian ng mga totoong random na pagkakasunud-sunod. Sa katulad na paraan, kapag pumipili ng numero sa pagitan ng 0 at 100, mas gusto ng mga tao ang higit pang "neutral" na mga opsyon, gaya ng mga nagtatapos sa 7, kaysa sa sukdulan o kapansin-pansing mga numero.
Sa hindi inaasahan, ang mga AI system ay nagpapakita ng parehong bias sa pagpili ng numero gaya ng ginagawa ng mga tao. Sa isang impormal na eksperimento na isinagawa ng Gramener engineers, maraming pangunahing modelo ng wika (LLM chatbots) ang hiniling na pumili ng numero sa pagitan ng 0 at 100. Ang mga huling resulta ay hindi random . Kahit na binago ang mga setting upang i-promote ang hindi mahuhulaan at pataasin ang randomness, ang bawat modelo ay patuloy na nagpapakita ng isang kagustuhan para sa mga partikular na numero. Halimbawa, ang GPT-3.5 Turbo model mula sa OpenAI ay madalas na pumili ng 47, Anthropic's Claude 3 Haiku ay sumama sa 42 habang si Gemini ay nag-opt para sa 72. Gayundin, ang ibang mga modelo ay may sariling mga kagustuhan sa numero.
Bukod pa rito, ang mga modelong ito ay umiwas sa mababa at mataas na mga numero at bihirang nag-opt para sa mga double digit o round figure maliban kung ang setting ng temperatura ay na-maximize, na humantong sa hindi gaanong karaniwang mga pagpipilian ng Gemini.
Ito ay hindi dahil sa kamalayan o isang kaalaman sa randomness, ngunit sa halip sa isang pagmuni-muni ng data ng pagsasanay ng mga modelo. Nang walang anumang tunay na lohika, ang mga system na ito ay gumagawa ng mga sagot batay lamang sa kung gaano kadalas sila nabigyan ng data. Ang isang numero ay mas malamang na pipiliin ng modelo kung hindi ito madalas mangyari bilang tugon sa set ng pagsasanay.
Ang paggaya sa mga pattern ng pagpili na tulad ng tao sa tila simpleng mga gawain tulad ng pagpili ng numero ay naglalarawan kung paano ipinapakita ng mga modelo ng AI ang mga bias at gawi na nasa kanilang pagsasanay data, kadalasang humahantong sa mga anthropomorphic na interpretasyon ng kanilang mga aksyon.
Sa kabila ng paglitaw na "mag-isip" tulad ng mga tao, ang mga modelong ito ay walang pag-unawa at kamalayan; gumagana lamang ang mga ito sa data na kanilang pinoproseso, na inilalantad ang parehong potensyal at limitasyon ng kasalukuyang mga teknolohiya ng AI.