面向嵌入式高性能计算的浮点字长匹配性研究.pdfVIP

  • 12
  • 0
  • 约10.63万字
  • 约 74页
  • 2020-11-21 发布于江苏
  • 举报

面向嵌入式高性能计算的浮点字长匹配性研究.pdf

目 录 摘 要 i ABSTRACT ii 第一章 绪论 1 1.1 研究背景与意义 1 1.2 国内外研究现状 4 1.2.1 浮点精度优化 4 1.2.2 浮点舍入误差分析与检测方法 7 1.3 主要工作与创新点 9 1.4 论文组织结构 9 第二章 混合精度预处理加速迭代法 11 2.1 迭代法与预处理技术 11 2.1.1 迭代法 11 2.1.2 预处理技术 12 2.2 多项式预处理子 13 2.2.1 最小二乘多项式预处理子 13 2.3 硬件架构与CUDA 15 2.4 混合精度多项式预处理共轭梯度法设计 17 2.4.1 算法设计 17 2.4.2 GPU 上算法实现 19 2.5 实验效果测试与分析 19 2.5.1 多项式次数实验 20 2.5.2 残差下降实验 21 2.5.3 线程数量实验 23 2.6 本章小结 24 第三章 低阶一元N 次方程求解程序稳定性优化 25

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档