Yapay zeka modelleri, temel biçimlerine ışık tutan tuhaf davranışlar sergileyerek hem yetenekleri hem de sınırlamalarıyla bizi büyülemeye devam ediyor. Dikkate değer bir gözlem, bu algoritmaların, insanların sayıları seçme şekline benzer şekilde belirli sayılara yönelik tercihlere sahip olduğudur. Bu yalnızca yüzeysel bir tuhaflık değil; bu modellerin nasıl çalıştığı hakkında bilgi sağlar.
İnsanların rastlantısallıkla ilgili iyi belgelenmiş bir sorunu var; sıklıkla bunun gerçekte ne anlama geldiğini gereğinden fazla düşünüyor veya yanlış yorumluyorlar. Örneğin, 100 yazı-tura atışının sonucunu tahmin etmesi istendiğinde, insan tahminleri genellikle gerçek rastgele dizilerin karakteristiği olan yazı-tura çizgilerini içermez. Benzer şekilde, insanlar 0 ile 100 arasında bir sayı seçerken, aşırı veya görsel olarak çarpıcı sayılar yerine, sonu 7 ile biten daha "nötr" seçenekleri tercih etme eğiliminde oluyorlar.
Beklenmedik bir şekilde yapay zeka sistemleri sayı seçiminde insanlarla aynı önyargıyı sergiliyor. Gramener mühendisleri tarafından gerçekleştirilen gayri resmi bir deneyde, birçok önemli dil modelinden (LLM sohbet robotları) 0 ile 100 arasında bir sayı seçmesi istendi. Nihai sonuçlar hiçbir şekilde rastgele değildi. . Tahmin edilemezliği teşvik etmek ve rastgeleliği artırmak için ayarlar değiştirildiğinde bile, her model sürekli olarak belirli sayılara yönelik bir tercih gösterdi. Örneğin, OpenAI'nin GPT-3.5 Turbo modeli sıklıkla 47'yi seçiyordu, Anthropic'in Claude 3 Haiku'su /claude-3-haiku) 42 ile giderken Gemini 72'yi tercih etti. Aynı şekilde diğer modellerin de kendi sayı tercihleri vardı.
Ek olarak, bu modeller düşük ve yüksek rakamlardan uzak durdu ve sıcaklık ayarı maksimuma çıkarılmadıkça nadiren çift haneli veya yuvarlak rakamları tercih etti, bu da Gemini'nin daha az yaygın seçim yapmasına yol açtı.
Bunun nedeni bilinç veya rastgelelik bilgisinden değil, modellerin eğitim verilerinin yansımasından kaynaklanmaktadır. Gerçek bir mantığı olmayan bu sistemler, yalnızca kendilerine ne sıklıkta veri beslendiğine bağlı olarak yanıtlar üretir. Bir sayının eğitim setinde yanıt olarak sık sık ortaya çıkmaması durumunda model tarafından seçilme olasılığı daha düşüktür.
Sayı seçimi gibi görünüşte basit görevlerdeki bu insan benzeri seçim modellerinin taklit edilmesi, yapay zeka modellerinin eğitimlerinde mevcut önyargıları ve davranışları nasıl yansıttığını gösteriyor genellikle eylemlerinin antropomorfik yorumlarına yol açan verilerdir.
İnsanlar gibi "düşünüyor" gibi görünmelerine rağmen bu modeller anlayış ve bilinçten yoksundur; yalnızca işledikleri veriler üzerinde çalışırlar ve mevcut yapay zeka teknolojilerinin hem potansiyelini hem de sınırlamalarını açığa çıkarırlar.