AI ereduek ez gaituzte liluratzeari uzten beren gaitasunekin eta mugekin, oinarrizko formaren argia argitzen duten jokabide bitxiak erakutsiz. Behaketa aipagarri bat da algoritmo hauek badirudi zenbaki zehatzetarako lehentasunak dituztela, gizakiek zenbakiak hautatzeko moduaren antzera. Hau ez da gainazaleko bitxikeria bat besterik ez; eredu horien funtzionamenduari buruzko informazioa ematen du.
Gizakiok ausazkotasunarekin ondo dokumentatuta dagoen arazoa dute, askotan benetan esan nahi duena gehiegi pentsatuz edo gaizki interpretatuz. Esate baterako, 100 txanpon-iraulketen emaitza iragartzeko eskatzen zaionean, giza iragarpenek normalean ez dituzte ausazko sekuentzia errealen ezaugarri diren buru edo buztanen marrarik sartzen. Ildo beretik, 0 eta 100 arteko zenbaki bat aukeratzerakoan, jendeak aukera "neutroagoak" nahiago izan ohi ditu, adibidez, 7z bukatzen direnak, muturreko edo bisualki deigarriak diren zenbakiak baino.
Ustekabean, AI sistemek gizakiek duten zenbaki-hautapenean duten joera bera erakusten dute. Gramener ingeniariek egindako esperimentu informal batean, hizkuntza-eredu nagusi askori (LLM chatbot-ak) 0 eta 100 arteko zenbaki bat hautatzeko eskatu zitzaien. Azken emaitzak ez ziren inolaz ere ausazkoak izan. . Nahiz eta ezarpenak aldatu ezustekoa sustatzeko eta ausazkotasuna areagotzeko, eredu bakoitzak etengabe erakusten zuen zenbaki jakinekiko lehentasuna. Adibidez, OpenAI-ko GPT-3.5 Turbo eredua maiz 47 hautatu zituen, Anthropic-en Claude 3 Haiku 42rekin joan zen eta Gemini 72. Era berean, beste modelo batzuek beren zenbaki-hobespenak zituzten.
Gainera, modelo hauek zenbaki baxuetatik eta altuetatik aldendu eta oso gutxitan zifra bikoitzak edo zifra biribilak aukeratzen zituzten tenperaturaren ezarpena maximizatu ezean, eta horrek Geminik aukeraketa ez hain ohikoak ekarri zituen.
Hau ez da kontzientziagatik edo ausazkotasunaren ezagutzagatik, ereduen prestakuntza-datuen isladagatik baizik. Inolako logika errealik gabe, sistema hauek datuak elikatzen dituzten maiztasunaren arabera soilik ematen dituzte erantzunak. Zenbaki bat aukera gutxiago izango du ereduak entrenamendu-multzoan erantzun gisa maiz gertatzen ez bada.
Zenbakien hautaketa bezalako zeregin itxuraz sinpleetan giza-antzeko aukera-ereduen imitazioa AI ereduak beren prestakuntzan dauden alborapenak eta jokabideak nola islatzen dituzten erakusten du. datuak, sarritan haien ekintzen interpretazio antropomorfoak ekarriz.
Gizakiak bezala "pentsatzen" dutela dirudien arren, eredu hauei ulermena eta kontzientzia falta zaie; Prozesatzen dituzten datuetan soilik funtzionatzen dute, egungo AI teknologien potentziala eta mugak agerian utziz.