중앙 처리 장치(Central Processing Unit, CPU)라는 용어는 기계어를 실행하는 회로로 가득 찬, 장롱만 한 크기의 초기 컴퓨터 시절부터 쓰였다. 또한 그 시절에는 CPU가 프린터, 카드 리더기, 자기 드럼이나 디스크 같은 저장 장치에 대한 연산까지 모두 담당했다.

현대적인 CPU는 그때와는 조금 다른 존재가 됐다. 지금은 기계어를 실행하는 데 집중하는 역할을 한다. 기계어를 해석하는 제어 장치(Control Unit, CU)와 산술 연산 및 비트 단위 연산을 담당하는 산술 논리 장치(Arithmetic Logic Unit, ALU)로 구성되는데, 두 장치를 잘 이용해 일반적인 계산기보다 더 많은 일을 할 수 있다.