CUDA编程导图 - 加速GPU并行计算

这份思维导图旨在提供关于CUDA编程的详细概述，帮助您了解GPU并行计算的基本原理、CUDA架构、编程模型和工作流程。它涵盖了从环境设置到核心编程概念和入门实践的基础内容，适用于初学者入门。通过查看这份思维导图，您将获得一个清晰而全面的视角，了解CUDA编程的基本原理、工作流程以及如何利用GPU的并行计算能力。这份导图的内容可以让初学者快速上手使用CUDA进行高性能计算和加速应用程序开发。

CUDA编程

• 基础知识
  • 概念
    • host
      • CPU及其内存
      • 运行host程序
    • device
      • GPU及其内存
      • 运行device 程序
    • kernel
      • device上线程中并行执行的程序
  • 执行流程
    • 分配host内存，执行数据初始化
    • 分配device内存，从host将数据拷贝到device上
    • 调用CUDA核函数，在device上完成指定运算
    • 将device上的运算结果拷贝到host上
    • 释放device和hoost上分配的内存
  • GPU是异构模型
    • 区分host和device上的代码
      • CUDA通过函数类型区分
    • 三个主要函数类型
      • __global__
        • 从host调用，在device上执行
      • __device__
      • __host__
• 线程层次结构
  • 逻辑
  • 物理
• CUDA内存模型