CUDA中為什麼要有Grid的概念？

1樓：

最主要的原因是，由於硬體設計的原因，乙個block裡能容納的thread數目有限（到目前為止，CC7.5，這個數目都是1024）。對於大多數應用來說，僅僅1024個thread肯定是不夠的，所以要在block上面再加一層thread結構。

針對你的問題，「為什麼要把blocks組成Grid？」

為什麼不呢，自己管理索引不容易，而grid提供了索引grid裡block的方法。再者，NV也沒有提供API讓你自己assign block to SM。

舉個例子，乙個1024x1024的矩陣，每個block是32x32大小，那麼用乙個32x32的grid就可以很容易地把thread對映到每乙個矩陣元素上，參考下圖

2樓：朱葛

Gird是一組block。並沒有把乙個任務分成多個gird這種要求。

但是，總要有個名字來描述「一組block」這個概念吧。

所以就有了寫cuda程式常用的變數：

GirdDim,表示gird裡面有幾個block但是並沒有GirdId,因為就乙個grid啊gird可以是一維二維三維，你可以認為是為了寫索引方便吧。就像你非要用一維陣列實現二維陣列，自己算索引也是沒問題的。