E' anche questione di com'è scritto l'algoritmo, forse la parte più fondamentale degli algoritmi di oggi è farli in modo che sfruttino al massimo la cache e minimizzino le cache miss, ovvero quando alla cpu serve un dato che non è in cache e quindi deve chiederlo alla memoria.
L'ottimale consiste nella CPU che prende i dati dalle cache (preferibilmente da quelle più vicine) e i dati vengano trasferiti dalla RAM alle cache in modo che quando alla CPU serviranno i nuovi dati quelli siano già in cache.