Muchos humanos caen en trampas similares precisamente porque escupen respuestas que tienen en mente o que han oído muchas veces, justo lo que hace un LLM.

Y el cerebro humano no funciona de forma parecida al hablar?, procesando datos de la memoria y generando palabras en base a probabilidades estadísticas? Todo muy biológico, pero no han distinto.