並行計算科學的主要研究是空間並行。空間並行性導致了兩類並行機的出現,根據Flynn的說法分為單指令流多數據流(SIMD)和多指令流多數據流(MIMD)。我們常見的串行機也叫單指令流單數據流(SISD)。
MIMD機器可以分為以下五個常見類別:
並行向量處理器
對稱多處理器(SMP)
大規模並行處理器
工作站集群(COW)
分布式存儲處理器(DSM)。
[編輯]內存訪問模型
並行計算機有以下四種內存訪問模式:
統壹內存訪問模型(UMA)
非統壹內存訪問模型(NUMA)
全緩存訪問模式(COMA)
統壹緩存非統壹存儲訪問模型(CC-NUMA)和非遠程存儲訪問模型(NORMA)。