实现存储程序思想的部件是存储器。存储器是用来存储程序和各种数据信息的记忆部件。存储器可分为主存储器（简称主存或内存）和辅助存储器（简称辅存或外存）两大类。和CPU直接交换信息的是主存。计算机的存储器可分成内存储器和外存储器。内存储器在程序执行期间被计算机频繁地使用，并且在一个指令周期期间是可直接访问的。外存储器要求计算机从一个外贮藏装置例如磁带或磁盘中读取信息。这与学生在课堂上做笔记相类似。如果学生没有看笔记就知道内容，信息就被存储在“内存储器”中。如果学生必须查阅笔记，那么信息就在“外存储器”中。
