Los procesadores de las computadoras son muy rápidos y están constantemente leyendo información de la memoria, lo que implica que, frecuentemente, deben esperar a que llegue la información ya que los tiempos de acceso a la memoria son más lentos que la velocidad del procesador. En consecuencia, surgió la necesidad de incorporar una memo- ria interna que fuera una memoria pequeña temporal pero rápida para que el procesador pudiera utilizarla para obtener información que necesitara de modo inmediato. Así nació la memoria caché.
Una memoria caché es una memoria temporal, pequeña pero más rápida que el procesador y se utiliza para obtener información que se va a necesitar en momentos de inmediatez. La memoria caché es una memoria RAM estática situada físicamente entre el procesador y la memoria principal cuyo objetivo primordial es lograr que la memoria del procesador trabaje a su velocidad de procesamiento. Normalmente, el procesador solicita información de modo más rápido de lo que la memoria principal del sistema es capaz de ofrecer, por esta razón, se introduce el procesador en un estado "de espera" ya que, entonces, el procesador no hace nada hasta que no recibe la información solicitada. En la figura 1.2 Stalling (2016) muestra cómo la transferencia de bloques de la memoria principal se realiza a la CPU mediante transferencia de bloques de modo lento, a través de la memoria caché que, a su vez, ya envía transferen- cia de palabra de un modo más rápido a la CPU. La memoria caché se construye utilizando una tecnología de me- moria estática de acceso aleatorio (SRAM) de muy alta velocidad, que se compone de un número de bloques de longitud fija de K palabras, y de menor capacidad, dependiendo de la categoría de la caché -niveles L1, L2 o L3- (del orden de KBytes, aunque en las computadoras modernas, la memoria caché puede llegar a MBytes e incluso GBytes); en la actualidad la mayoría de las computadoras portátiles incorporan memorias caché de tipo flash que pueden almacenar de 8 a 32 GB, lo que facilita considerablemente la velocidad, hoy día están prácticamente inte- gradas en la memoria principal, que en el caso de disponer de memorias SSD puede llegar hasta 256 GB.
