时空大数据高性能计算

这是一篇关于时空大数据高性能计算的思维导图，从并行计算的原因、并行硬件与软件、以及不同编程方式等方面进行详细阐述。

时空大数据高性能计算

• 为什么要并行计算？
  • 为什么我们需要不断提高性能
    • 计算能力在增加，但是我们的计算问题和需求也在增加
    • 因为过去计算能力的增长，我们从未梦想过的问题已经解决，如解码人类基因组
    • 更复杂的问题仍然有待解决
  • 为什么我们要建立并行系统
    • 到目前为止，性能的提高一直归因于晶体管密度的增加。
  • 为什么我们需要编写并行程序
  • 并发、并行、分布式
    • 并发计算 – 一个程序可以在其中多个任务中的任何时刻下进行。
    • 并行计算 – 程序是指多个任务紧密协作以解决问题的程序。
    • 分布式计算 – 一个程序可能需要与其他程序合作来解决一个问题。
• 并行硬件和并行软件
  • 背景知识
    • 冯·诺伊曼结构
    • 主存储器
      • 这是一个位置的集合，每个位置都能够存储指令和数据。 每个位置都包含一个用于访问该位置的地址和该位置的内容。
    • 中央处理器(CPU)
  • 冯·诺依曼模型的改进
    • Cache基础
    • 局部性原理
    • 缓存的级别
  • 并行硬件
    • SIMD系统
    • MIMD系统
  • 并行软件
    • 进程或线程的协调
  • 输入与输出
  • 性能
    • 加速比和效率
• 用MPI进行分布式内存编程
  • 预备知识
    • 编译和执行
    • MPI程序
  • 用MPI来实现梯形积分法
  • I/O处理
  • 集合通信
  • 并行排序算法
• 用Pthreads进行共享内存编程
  • 进程、线程、程序
  • “Hello,World"程序
  • 矩阵-向量乘法
  • 临界区
  • 忙等待
  • 路障和条件变量
    • 信号量
    • 条件变量
  • 线程安全性
• 用OpenMP进行共享内存编程
  • 预备知识
    • 编译和运行OpenMP
    • 程序
  • 梯形积分法
  • 变量的作用域
  • parallel for命令
    • 警告
    • 数据依赖性
    • 寻找循环依赖
  • 循环调度
  • 生产者和消费者问题
• 并行程序开发
  • n体问题的两种解决方法
  • 树形搜索
    • 递归的深度优先搜索
    • 非递归的深度优先搜索
    • 串行实现所用的数据结构
    • 串行实现的性能
    • 采用Pthreads实现的动态并化树搜索
    • 采用OpenMP实现的并行化树搜索程序
  • 选择哪个API
  • 小结