Modelele AI nu încetează să ne fascineze atât cu abilitățile, cât și cu limitările lor, prezentând comportamente ciudate care luminează forma lor de bază. O observație demnă de remarcat este că acești algoritmi par să aibă preferințe pentru anumite numere, similare modului în care oamenii selectează numerele. Aceasta nu este doar o ciudățenie la nivel de suprafață; oferă informații despre modul în care funcționează aceste modele.
Oamenii au o problemă bine documentată cu aleatorietatea, deseori se gândesc prea mult sau interpretează greșit ceea ce înseamnă cu adevărat. De exemplu, când li se cere să prognozeze rezultatul a 100 de monede, predicțiile umane de obicei nu includ șirurile de cap sau cozi care sunt caracteristice secvențe aleatoare reale. În mod similar, atunci când aleg un număr între 0 și 100, oamenii tind să prefere opțiuni mai „neutre”, cum ar fi cele care se termină cu 7, mai degrabă decât numere extreme sau izbitoare vizual.
În mod neașteptat, sistemele AI prezintă aceeași părtinire în selecția numerelor ca și oamenii. Într-un experiment informal desfășurat de inginerii Gramener, multor modele de limbaj majore (chatbot-uri LLM) au fost rugați să selecteze un număr între 0 și 100. Rezultatele finale nu au fost deloc aleatorii . Chiar și atunci când setările au fost modificate pentru a promova imprevizibilitatea și pentru a crește aleatoritatea, fiecare model a arătat în mod continuu o preferință pentru anumite numere. De exemplu, modelul GPT-3.5 Turbo de la OpenAI a selectat frecvent 47, Anthropic's Claude 3 Haiku a mers cu 42 în timp ce Gemini a optat pentru 72. La fel, alte modele au avut propriile preferințe de număr.
În plus, aceste modele au evitat numerele mici și mari și rareori au optat pentru cifre duble sau cifre rotunde, cu excepția cazului în care setarea temperaturii a fost maximizată, ceea ce a condus la selecții mai puțin obișnuite de către Gemeni.
Acest lucru nu se datorează conștiinței sau cunoașterii aleatoriei, ci mai degrabă reflectării datelor de antrenament ale modelelor. Fără nicio logică reală, aceste sisteme produc răspunsuri bazate doar pe cât de des au fost alimentate cu date. Un număr este mai puțin probabil să fie ales de model dacă nu apare frecvent ca răspuns în setul de antrenament.
Această imitarea tiparelor de alegere asemănătoare omului în sarcini aparent simple, cum ar fi selecția numerelor, ilustrează modul în care modelele AI reflectă părtinirile și comportamentele prezente în antrenamentul lor. date, conducând adesea la interpretări antropomorfe ale acțiunilor lor.
În ciuda faptului că par să „gândească” ca oamenii, acestor modele le lipsește înțelegerea și conștiința; ele funcționează numai pe datele pe care le prelucrează, expunând atât potențialul, cât și limitările tehnologiilor actuale AI.