快速而强大的CPU需要快速轻松地存取大量数据才能实现最优性能。如果CPU无法获得所需要的数据，则只能停下来等待这些数据。运行速度约为1 GHz的现代CPU可以处理大量的数据——每秒处理的数据有望达到数十亿字节。然而，计算机设计者所面临的难题是能够匹配1GHz的CPU的存储器非常昂贵——而这些大量昂贵存储器的费用远非人们可以负担。
聪明的计算机设计者采用“分级”存储器的方法解决了这一成本问题——使用少量的昂贵存储器并辅以大量较便宜的存储器。存储器的分级可示意为:
CPU ---Cache(缓冲内存)---内存---虚拟内存---硬盘存储---利用互联网储存
对不同层级的储存器,CPU有着不同的访问速度:
L1缓存——以全速微处理器速度进行的存储器访问（10纳秒，大小为4-16千字节）
L2缓存——SRAM类型的存储器访问（大约20到30纳秒，大小为128-512千字节）
主存储器——RAM类型的存储器访问（大约60纳秒，大小为32-128兆字节）
硬盘——机械装置，较慢（大约12毫秒，大小为1-10千兆字节）
互联网——极慢（在1秒和3天之间，大小不限）
