Az AI-modellek soha nem szűnnek meg minket képességeikkel és korlátaikkal is lenyűgözni, furcsa viselkedést mutatva, amely megvilágítja alapformájukat. Az egyik figyelemre méltó megfigyelés az, hogy úgy tűnik, hogy ezek az algoritmusok bizonyos számokat preferálnak, hasonlóan ahhoz, ahogyan az emberek kiválasztják a számokat. Ez nem pusztán felszíni furcsaság; információkkal szolgál ezeknek a modelleknek a működéséről.
Az embereknek jól dokumentált problémájuk van a véletlenszerűséggel, gyakran túlgondolják vagy félreértelmezik, mit is jelent valójában. Például, amikor arra kérik, hogy előre jelezze 100 érmefeldobás eredményét, az emberi előrejelzések általában nem tartalmazzák a valódi véletlenszerű sorozatokra jellemző fej- vagy farokcsíkokat. Hasonló módon, amikor egy 0 és 100 közötti számot választanak, az emberek hajlamosak a "semleges" opciókat preferálni, például a 7-re végződőket, az extrém vagy vizuálisan feltűnő számok helyett.
Az AI-rendszerek váratlanul ugyanazt a torzítást mutatják a számkiválasztásban, mint az emberek. A Gramener mérnökei által végzett informális kísérlet során számos nagy nyelvi modellt (LLM chatbotot) arra kértek, hogy válasszon egy számot 0 és 100 között. A végeredmény semmi esetre sem volt véletlen. . Még akkor is, amikor a beállításokat megváltoztatták a kiszámíthatatlanság és a véletlenszerűség növelése érdekében, minden modell folyamatosan bizonyos számokat preferált. Például az OpenAI GPT-3.5 Turbo modellje gyakran 47, Anthropic's Claude 3 Haiku A /claude-3-haiku) 42-vel ment, míg a Gemini a 72-t választotta. Hasonlóképpen más modelleknek is megvoltak a saját számbeállításai.
Ezenkívül ezek a modellek elkerülték az alacsony és magas számokat, és ritkán választották a kétjegyű vagy kerek számjegyeket, hacsak nem maximalizálták a hőmérséklet-beállítást, ami a Gemini kevésbé gyakori választásához vezetett.
Ez nem a tudatosságnak vagy a véletlenszerűség ismeretének köszönhető, hanem inkább a modellek képzési adatainak tükröződésének. Valós logika nélkül ezek a rendszerek csak az adatbevitel gyakorisága alapján adnak választ. A modell kisebb valószínűséggel választ egy számot, ha az nem gyakran fordul elő válaszként a betanítási halmazban.
Ez az emberszerű választási minták utánzása az olyan egyszerűnek tűnő feladatokban, mint a számkiválasztás, azt szemlélteti, hogy az AI-modellek hogyan tükrözik a képzésükben jelen lévő torzításokat és viselkedéseket adatok, amelyek gyakran tetteik antropomorf értelmezéséhez vezetnek.
Annak ellenére, hogy úgy tűnik, hogy úgy "gondolkodnak", mint az emberek, ezekből a modellekből hiányzik a megértés és a tudatosság; csak az általuk feldolgozott adatokon működnek, feltárva a jelenlegi AI-technológiákban rejlő lehetőségeket és korlátokat.