Os modelos de IA non deixan de fascinarnos tanto coas súas habilidades como coas súas limitacións, mostrando comportamentos estraños que iluminan a súa forma básica. Unha observación digna de mención é que estes algoritmos parecen ter preferencias por números específicos, de forma similar a como os humanos seleccionan os números. Esta non é só unha rareza a nivel de superficie; proporciona información sobre o funcionamento destes modelos.
Os humanos teñen un problema ben documentado coa aleatoriedade, que moitas veces pensan demasiado ou malinterpretan o que realmente significa. Por exemplo, cando se lle pide prognosticar o resultado de 100 lanzamentos de moedas, as predicións humanas normalmente non inclúen as raias de cabeza ou cola que son características das secuencias aleatorias reais. Na mesma liña, á hora de elixir un número entre 0 e 100, a xente adoita preferir opcións máis "neutras", como as que rematan en 7, en lugar de números extremos ou visualmente rechamantes.
Inesperadamente, os sistemas de IA presentan o mesmo sesgo na selección de números que os humanos. Nun experimento informal realizado por Enxeñeiros de Gramener, pediuse a moitos dos principais modelos de linguaxe (chatbots LLM) que seleccionaran un número entre 0 e 100. Os resultados finais non foron de ningún xeito aleatorios. . Mesmo cando se cambiaron a configuración para promover a imprevisibilidade e aumentar a aleatoriedade, cada modelo mostraba continuamente unha preferencia por números particulares. Por exemplo, o modelo GPT-3.5 Turbo de OpenAI seleccionou con frecuencia 47, Anthropic's Claude 3 Haiku foi con 42 mentres que Gemini optou por 72. Así mesmo, outros modelos tiñan as súas propias preferencias de número.
Ademais, estes modelos evitaron os números altos e baixos e raramente optaron por cifras redondas ou dobres díxitos, a menos que se maximizase a configuración de temperatura, o que provocou seleccións menos comúns de Gemini.
Isto non se debe á conciencia ou ao coñecemento da aleatoriedade, senón a un reflexo dos datos de adestramento dos modelos. Sen ningunha lóxica real, estes sistemas producen respostas baseadas só na frecuencia coa que foron alimentados con datos. É menos probable que o modelo elixa un número se non ocorre con frecuencia como resposta no conxunto de adestramento.
Esta imitación de patróns de elección semellantes aos humanos en tarefas aparentemente sinxelas como a selección de números ilustra como os modelos de IA reflicten os prexuízos e comportamentos presentes no seu adestramento. datos, que a miúdo conducen a interpretacións antropomórficas das súas accións.
A pesar de parecer "pensar" como os humanos, estes modelos carecen de comprensión e conciencia; funcionan só nos datos que procesan, expoñendo tanto o potencial como as limitacións das tecnoloxías de IA actuais.