컴퓨터 시스템의 두 영역인 사용자 공간(user space)과 커널 공간(kernel space)을 알아보자. 사용자 공간은 사용자 애플리케이션이 동작하는 영역이고, 커널 공간은 운영체제의 핵심 기능과 시스템 콜이 동작하는 영역이다. 사용자 공간에서는 그 아래의 시스템 영역에 접근할 수 없지만, 커널 공간에서는 시스템 전체에 접근할 수 있기 때문에 두 영역의 구분이 중요하다. 이러한 구조는 하드웨어 플랫폼, 폼팩터, 운영체제, 시스템의 용도 등과 상관없이 모든 컴퓨터 시스템에서 거의 비슷하다.

이러한 일반적인 설계 요소를 염두에 두고, 병렬 하드웨어의 설계에서 나타날 수 있는 여러 수준을 살펴보자.