Моделі штучного інтелекту ніколи не перестають захоплювати нас як своїми можливостями, так і обмеженнями, демонструючи дивну поведінку, яка проливає світло на їхню основну форму. Одне варте уваги спостереження полягає в тому, що ці алгоритми, здається, мають переваги для конкретних чисел, подібно до того, як люди вибирають числа. Це не просто дивина на поверхневому рівні; він надає інформацію про те, як ці моделі функціонують.
Люди мають добре задокументовану проблему з випадковістю, часто надмірно думаючи або неправильно інтерпретуючи, що це насправді означає. Наприклад, коли їх просять спрогнозувати результат 100 підкидань монети, людські прогнози зазвичай не включають смуги «орел або решка», характерні для справжніх випадкових послідовностей. Подібним чином, обираючи число від 0 до 100, люди, як правило, віддають перевагу більш «нейтральним» варіантам, таким як ті, що закінчуються на 7, а не екстремальним чи візуально вражаючим числам.
Несподівано системи штучного інтелекту демонструють таке ж упередження у виборі чисел, як і люди. У неофіційному експерименті, проведеному інженерами Gramener, багатьом основним мовним моделям (чат-ботам LLM) було запропоновано вибрати число від 0 до 100. Кінцеві результати аж ніяк не були випадковими . Навіть коли налаштування були змінені для сприяння непередбачуваності та збільшення випадковості, кожна модель постійно демонструвала перевагу певним числам. Наприклад, модель GPT-3.5 Turbo з OpenAI часто вибирала 47, Хайку Клода 3 від Anthropic вибрала 42, тоді як Gemini вибрала 72. Так само інші моделі мали власні переваги щодо номерів.
Крім того, ці моделі уникали низьких і високих чисел і рідко обирали двозначні чи круглі цифри, якщо тільки налаштування температури не було максимальним, що призвело до менш поширеного вибору Gemini.
Це не через свідомість чи знання про випадковість, а скоріше через відображення даних навчання моделей. Без будь-якої реальної логіки ці системи дають відповіді лише на основі того, як часто їм надходитимуть дані. Число з меншою ймовірністю буде обрано моделлю, якщо воно не часто зустрічається як відповідь у навчальному наборі.
Це імітація людських шаблонів вибору у таких, здавалося б, простих завданнях, як вибір чисел, ілюструє, як моделі ШІ відображають упередження та поведінку, присутні в їхньому навчанні даних, що часто призводить до антропоморфних інтерпретацій їхніх дій.
Незважаючи на те, що вони «мислять» як люди, цим моделям бракує розуміння та свідомості; вони функціонують лише на основі даних, які обробляють, розкриваючи як потенціал, так і обмеження сучасних технологій ШІ.