Dans une unité centrale, la mémoire cache permet d'accéder rapidement aux informations fréquemment utilisées. Dans la mesure où l'accès à la mémoire principale du système (mémoire vive dynamique) est relativement lent par rapport au fonctionnement du processeur, la mémoire cache peut considérablement accélérer l'exécution des programmes. La mémoire cache est généralement intégrée sous forme de mémoire vive statique à côté du processeur central, et non en tant que composant discret.

 

Lorsqu'un des processus en cours d'exécution doit accéder à la mémoire système, la requête de lecture ou d'écriture est tout d'abord exécutée sur le cache. Le cache contient des données récemment extraites de la mémoire, ainsi que leur adresse (appelée étiquette). Si l'adresse demandée lors de l'opération de lecture ou d'écriture correspond à une étiquette au sein du cache, cette requête est satisfaite. Le processeur peut alors utiliser la mémoire cache pour exécuter la requête et poursuivre l'opération. Si l'adresse demandée est introuvable, il s'agit d'une requête non satisfaite.

 

Les échecs de lecture s'avèrent coûteux en termes de performances car le cache doit être actualisé avant la reprise de l'exécution du processeur. Les échecs d'écriture ont un impact moindre car les données sont tout de même inscrites dans le cache, même si elles devront être copiées vers la mémoire principale à terme. Le moment du transfert des données du cache vers la mémoire principale constitue un aspect de la gestion du cache.