Τα μοντέλα τεχνητής νοημοσύνης δεν παύουν ποτέ να μας συναρπάζουν τόσο με τις ικανότητες όσο και με τους περιορισμούς τους, παρουσιάζοντας περίεργες συμπεριφορές που ρίχνουν φως στη βασική τους μορφή. Μια αξιοσημείωτη παρατήρηση είναι ότι αυτοί οι αλγόριθμοι φαίνεται να έχουν προτιμήσεις για συγκεκριμένους αριθμούς, παρόμοιες με το πώς οι άνθρωποι επιλέγουν αριθμούς. Αυτό δεν είναι απλώς μια παραξενιά σε επίπεδο επιφάνειας. παρέχει πληροφορίες σχετικά με τον τρόπο λειτουργίας αυτών των μοντέλων.
Οι άνθρωποι έχουν ένα καλά τεκμηριωμένο πρόβλημα με την τυχαιότητα, που συχνά σκέφτονται υπερβολικά ή παρερμηνεύουν τι πραγματικά σημαίνει. Για παράδειγμα, όταν τους ζητήθηκε να προβλέψουν το αποτέλεσμα 100 ανατροπών νομισμάτων, οι ανθρώπινες προβλέψεις συνήθως δεν περιλαμβάνουν τις ραβδώσεις που είναι χαρακτηριστικές των πραγματικών τυχαίων ακολουθιών. Με παρόμοιο τρόπο, όταν επιλέγουν έναν αριθμό μεταξύ 0 και 100, οι άνθρωποι τείνουν να προτιμούν πιο «ουδέτερες» επιλογές, όπως αυτές που τελειώνουν σε 7, παρά ακραίους ή οπτικά εντυπωσιακούς αριθμούς.
Απροσδόκητα, τα συστήματα τεχνητής νοημοσύνης παρουσιάζουν την ίδια προκατάληψη στην επιλογή αριθμού όπως και οι άνθρωποι. Σε ένα άτυπο πείραμα που διεξήχθη από μηχανικούς Gramener, ζητήθηκε από πολλά μεγάλα μοντέλα γλώσσας (LLM chatbots) να επιλέξουν έναν αριθμό μεταξύ 0 και 100. Τα τελικά αποτελέσματα δεν ήταν καθόλου τυχαία . Ακόμη και όταν οι ρυθμίσεις άλλαξαν για να προωθήσουν την απρόβλεπτη ικανότητα και να αυξήσουν την τυχαιότητα, κάθε μοντέλο έδειχνε συνεχώς μια προτίμηση για συγκεκριμένους αριθμούς. Για παράδειγμα, το μοντέλο GPT-3.5 Turbo από το OpenAI επέλεγε συχνά 47, Anthropic's Claude 3 Haiku πήγε με 42 ενώ ο Gemini επέλεξε το 72. Ομοίως, άλλα μοντέλα είχαν τις δικές τους προτιμήσεις αριθμού.
Επιπλέον, αυτά τα μοντέλα απείχαν από χαμηλούς και υψηλούς αριθμούς και σπάνια επέλεγαν διψήφιους ή στρογγυλούς αριθμούς, εκτός εάν μεγιστοποιήθηκε η ρύθμιση της θερμοκρασίας, γεγονός που οδήγησε σε λιγότερο κοινές επιλογές από τους Gemini.
Αυτό δεν οφείλεται στη συνείδηση ή στη γνώση της τυχαιότητας, αλλά μάλλον σε μια αντανάκλαση των δεδομένων εκπαίδευσης των μοντέλων. Χωρίς καμία πραγματική λογική, αυτά τα συστήματα παράγουν απαντήσεις που βασίζονται μόνο στο πόσο συχνά έχουν τροφοδοτηθεί δεδομένα. Ένας αριθμός είναι λιγότερο πιθανό να επιλεγεί από το μοντέλο εάν δεν εμφανίζεται συχνά ως απόκριση στο σετ εκπαίδευσης.
Αυτή η μίμηση μοτίβων επιλογών που μοιάζουν με ανθρώπους σε φαινομενικά απλές εργασίες όπως η επιλογή αριθμών δείχνει πώς τα μοντέλα τεχνητής νοημοσύνης αντικατοπτρίζουν τις προκαταλήψεις και τις συμπεριφορές που υπάρχουν στην εκπαίδευσή τους δεδομένα, που συχνά οδηγούν σε ανθρωπόμορφες ερμηνείες των πράξεών τους.
Παρά το γεγονός ότι φαίνεται να «σκέφτονται» σαν άνθρωποι, αυτά τα μοντέλα δεν έχουν κατανόηση και συνείδηση. λειτουργούν μόνο με βάση τα δεδομένα που επεξεργάζονται, εκθέτοντας τόσο τις δυνατότητες όσο και τους περιορισμούς των σημερινών τεχνολογιών τεχνητής νοημοσύνης.