Мадэлі штучнага інтэлекту ніколі не перастаюць зачароўваць нас як сваімі здольнасцямі, так і абмежаваннямі, дэманструючы дзіўныя паводзіны, якія праліваюць святло на іх асноўную форму. Адно вартае ўвагі назіранне заключаецца ў тым, што гэтыя алгарытмы, здаецца, маюць перавагі для пэўных лічбаў, падобна таму, як людзі выбіраюць лічбы. Гэта не проста дзівацтва на павярхоўным узроўні; ён дае інфармацыю аб тым, як функцыянуюць гэтыя мадэлі.
Людзі маюць добра задакументаваную праблему са выпадковасцю, часта задумваюцца або няправільна тлумачаць, што гэта на самай справе азначае. Напрыклад, калі просяць спрагназаваць вынік 100 падкідвання манет, чалавечыя прагнозы звычайна не ўключаюць паласы рэшак і рэшак, характэрныя для рэальных выпадковых паслядоўнасцей. Падобным чынам, выбіраючы лічбу ад 0 да 100, людзі схільныя аддаваць перавагу больш «нейтральным» варыянтам, напрыклад, якія заканчваюцца на 7, а не экстрэмальным або візуальна яркім лічбам.
Нечакана сістэмы штучнага інтэлекту дэманструюць такую ж прадузятасць у выбары лічбаў, што і людзі. У нефармальным эксперыменце, праведзеным інжынерамі Gramener, многім асноўным моўным мадэлям (чат-ботам LLM) было прапанавана выбраць лік ад 0 да 100. Канчатковыя вынікі зусім не былі выпадковымі . Нават калі налады былі зменены для павышэння непрадказальнасці і павелічэння выпадковасці, кожная мадэль пастаянна аддавала перавагу пэўным лічбам. Напрыклад, мадэль GPT-3.5 Turbo з OpenAI часта выбірала 47, Хайку Клода 3 ад Anthropic выбралі 42, а Gemini выбралі 72. Падобным чынам іншыя мадэлі мелі свае перавагі па ліку.
Акрамя таго, гэтыя мадэлі пазбягалі нізкіх і высокіх лічбаў і рэдка выбіралі двухзначныя або круглыя лічбы, за выключэннем выпадкаў, калі ўстаноўка тэмпературы была максімальнай, што прывяло да менш частага выбару Gemini.
Гэта не з-за свядомасці або веды аб выпадковасці, а хутчэй з адлюстраваннем навучальных даных мадэляў. Без якой-небудзь сапраўднай логікі гэтыя сістэмы даюць адказы толькі на падставе таго, як часта ім перадаваліся дадзеныя. Лік з меншай верагоднасцю будзе абраны мадэллю, калі ён не часта сустракаецца ў якасці адказу ў навучальным наборы.
Гэта імітаванне чалавечых шаблонаў выбару у, здавалася б, простых задачах, такіх як выбар лічбаў, ілюструе, як мадэлі штучнага інтэлекту адлюстроўваюць прадузятасці і паводзіны, прысутныя ў іх навучанні даных, што часта прыводзіць да антрапаморфных інтэрпрэтацый іх дзеянняў.
Нягледзячы на тое, што яны «думаюць» як людзі, гэтым мадэлям не хапае разумення і свядомасці; яны функцыянуюць толькі на дадзеных, якія яны апрацоўваюць, раскрываючы як патэнцыял, так і абмежаванні сучасных тэхналогій штучнага інтэлекту.