Fermi技术细节抢先预览

和Fermi架构息息相关——CUDA编程模型的原理

理解CUDA编程模型的原理有助于我们进一步认识Fe rmi架构。CUDA由硬件和软件架构共同组成，即必须在支持CUDA的NVIDIA GPU上，利用CUDA C语言编译器以及围绕NVIDIA GPU开发的各种工具才能进行CUDA计算。这个架构可以让NVIDIA GPU执行由C、C++、Fortran、OpenCL、DirectCompute以及其它语言所编写的程序。

在GPU内执行的CUDA程序被称作并行kernel，kernel是通过一系列平行、互不依赖的Thread(线程)以并行的方式来执行。GPU会将一个kernl程序模拟成一个由若干个Thread block(线程块，由Thread组成，Thread block=512Thread)组成的Grid(线程块格)。

在CUDA的编程模型中，Warp、Thread、Thread block和Grid是很重要的

在CUDA中，每个Thread 都有一块per-Thread private memory的私有空间又被称作 local memory)，用于寄存器溢出、函数调用(function call)。每个Thread Block都有自己的一块per-block shared memory空间，用于Thread Block内线程间的通信、数据共享以及并行算法中的中间结果共享。

Thread、Thread block和Grid之间的关系

在执行kernel程序时，很有可能需要进行Thread之间的共享、临时数据交换。为了实现高效的Thead 共享、临时数据交换，就必须将一堆Thread组织起来，这个组织起来的单位就是Thread block。

Thread Block指的是能通过障栅同步和Shared memory彼此协作的一组并发执行线程。在G80和GT200中，每个Thread Block多拥有512个并发线程。而在Fermi中，每个Thread Block多可以有1536个并发线程。在Grid中，每个Thread Block都有自己的ID。

Thread是组成Thread block和Grid的原始单位

在Thread block内，每个Thread执行kernel内的一个instance(实例，例如一个像素或者像素中的一个色元等)，每个Thread 都有自己的Thread ID、program counter(程序计数器)、register(寄存器)、per-Thread private memory(逐线程专有存储器)、input(输入)以及output result(输出结果)。

Grid就是一个由多个Thread block组合而成的矩阵，需要从Global Memory中读取Input以及往Global Memory中写入结果。