本书全面涵盖了并行软件和硬件的方方面面,深入浅出地介绍如何使用mpi(分布式内存编程)、pthreads和openmp(共享内存编程)编写高效的并行程序。各章节包含了难易程度不同的编程习题。
本书可以用做计算机科学专业低年级本科生的专业课程的教材,也可以作为软件开发人员学习并行程序设计的专业参考书。
《并行程序设计导论》
出版者的话
译者序
本书赞誉
前言
致谢
第1章为什么要并行计算
1.1为什么需要不断提升的性能
1.2为什么需要构建并行系统
1.3为什么需要编写并行程序
1.4怎样编写并行程序
1.5我们将做什么
1.6并发、并行、分布式
1.7本书的其余部分
1.8警告
1.9字体约定
1.10小结
1.11习题
第2章并行硬件和并行软件
2.1背景知识
.2.1.1冯·诺依曼结构
2.1.2进程、多任务及线程
2.2对冯·诺依曼模型的改进
2.2.1cache基础知识
2.2.2cache映射
2.2.3cache和程序: 一个实例
2.2.4虚拟存储器
2.2.5指令级并行
2.2.6硬件多线程
2.3并行硬件
2.3.1simd系统
2.3.2mimd系统
2.3.3互连网络
2.3.4cache一致性
2.3.5共享内存与分布式内存
2.4并行软件
2.4.1注意事项
2.4.2进程或线程的协调
2.4.3共享内存
2.4.4分布式内存
2.4.5混合系统编程
2.5输入和输出
2.6性能
2.6.1加速比和效率
2.6.2阿姆达尔定律
2.6.3可扩展性
2.6.4计时
2.7并行程序设计
2.8编写和运行并行程序
2.9假设
2.10小结
2.10.1串行系统
2.10.2并行硬件
2.10.3并行软件
2.10.4输入和输出
2.10.5性能
2.10.6并行程序设计
2.10.7假设
2.11习题
第3章用mpi进行分布式内存编程
3.1预备知识
3.1.1编译与执行
3.1.2mpi程序
3.1.3mpi_init和mpi_finalize
3.1.4通信子、mpi_comm_size和mpi_comm_rank
3.1.5spmd程序
3.1.6通信
3.1.7mpi_send
3.1.8mpi_recv
3.1.9消息匹配
3.1.10status_p参数
3.1.11mpi_send和mpi_recv的语义
3.1.12潜在的陷阱
3.2用mpi来实现梯形积分法
3.2.1梯形积分法
3.2.2并行化梯形积分法
3.3i/o处理
3.3.1输出
3.3.2输入
3.4集合通信
3.4.1树形结构通信
3.4.2mpi_reduce
3.4.3集合通信与点对点通信
3.4.4mpi_allreduce
3.4.5广播
3.4.6数据分发
3.4.7散射
3.4.8聚集
3.4.9全局聚集
3.5mpi的派生数据类型
3.6mpi程序的性能评估
3.6.1计时
3.6.2结果
3.6.3加速比和效率
3.6.4可扩展性
3.7并行排序算法
3.7.1简单的串行排序算法
3.7.2并行奇偶交换排序
3.7.3mpi程序的安全性
3.7.4并行奇偶交换排序算法的重要内容
3.8小结
3.9习题
3.10编程作业
第4章用pthreads进行共享内存编程
4.1进程、线程和pthreads
4.2“hello,world”程序
4.2.1执行
4.2.2准备工作
4.2.3启动线程
4.2.4运行线程
4.2.5停止线程
4.2.6错误检查
4.2.7启动线程的其他方法
4.3矩阵-向量乘法
4.4临界区
4.5忙等待
4.6互斥量
4.7生产者-消费者同步和信号量
4.8路障和条件变量
4.8.1忙等待和互斥量
4.8.2信号量
4.8.3条件变量
4.8.4pthreads路障
4.9读写锁
4.9.1链表函数
4.9.2多线程链表
4.9.3pthreads读写锁
4.9.4不同实现方案的性能
4.9.5实现读写锁
4.10缓存、缓存一致性和伪共享
4.11线程安全性
4.12小结
4.13习题
4.14编程作业
第5章用openmp进行共享内存编程
5.1预备知识
5.1.1编译和运行openmp程序
5.1.2程序
5.1.3错误检查
5.2梯形积分法
5.3变量的作用域
5.4归约子句
5.5parallel for指令
5.5.1警告
5.5.2数据依赖性
5.5.3寻找循环依赖
5.5.4π值估计
5.5.5关于作用域的更多问题
5.6更多关于openmp的循环:排序
5.6.1冒泡排序
5.6.2奇偶变换排序
5.7循环调度
5.7.1schedule子句
5.7.2static调度类型
5.7.3dynamic和guided调度类型
5.7.4runtime调度类型
5.7.5调度选择
5.8生产者和消费者问题
5.8.1队列
5.8.2消息传递
5.8.3发送消息
5.8.4接收消息
5.8.5终止检测
5.8.6启动
5.8.7atomic指令
5.8.8临界区和锁
5.8.9在消息传递程序中使用锁
5.8.10critical指令、atomic指令、锁的比较
5.8.11经验
5.9缓存、缓存一致性、伪共享
5.10线程安全性
5.11小结
5.12习题
5.13编程作业
第6章并行程序开发
6.1n体问题的两种解决方法
6.1.1问题
6.1.2两个串行程序
6.1.3并行化n体算法
6.1.4关于i/o
6.1.5用openmp并行化基本算法
6.1.6用openmp并行化简化算法
6.1.7评估openmp程序
6.1.8用pthreads并行化算法
6.1.9用mpi并行化基本算法
6.1.10用mpi并行化简化算法
6.1.11mpi程序的性能
6.2树形搜索
6.2.1递归的深度优先搜索
6.2.2非递归的深度优先搜索
6.2.3串行实现所用的数据结构
6.2.4串行实现的性能
6.2.5树形搜索的并行化
6.2.6采用pthreads实现的静态并行化树搜索
6.2.7采用pthreads实现的动态并行化树搜索
6.2.8pthreads树搜索程序的评估
6.2.9采用openmp实现的并行化树搜索程序
6.2.10openmp实现的性能
6.2.11采用mpi和静态划分来实现树搜索
6.2.12采用mpi和动态划分来实现树搜索
6.3忠告
6.4选择哪个api
6.5小结
6.5.1pthreads和openmp
6.5.2mpi
6.6习题
6.7编程作业
第7章接下来的学习方向
参考文献
索引
《人人都要会理财》内容简介:从投资理财应有的理念与心态、各类投资品的特性及如何挑选适合的投资品、如何控制风险、如何选择理财
宽带综合业务数字网是目前国际、国内通信和信息领域的热门话题,是建立信息高速公路的基础。现在的综合业务数字网(ISDN,仅为64
《电影与抗战》内容简介:本书为中国电影史研究专著,以十四年抗战期间电影的发展为整体考察对象,贯穿起局部抗战和全面抗战时期电
《源自动机的道德(人文与社会译丛)》内容简介:当代大部分对德性伦理的复兴,都是朝着亚里士多德的方向前进的。斯洛特提出,亚里
《你是锦瑟 我为流年》内容简介:锲而不舍地流浪,乐此不疲地拾荒。2019全新升级,畅销书作者白落梅温情讲述三毛传奇一生! 她是撒
《敏捷软件开发:用户故事实战》内容简介:本书不负众望,为软件行业提供了一种高效的需求过程,通过用户故事来节省时间、消除重复
TwoScoopsofDjango:BestPracticesForDjango1.5ischock-fullofmaterialthatwillhelpyou...
《我看电商2》内容简介:《我看电商2》是行业畅销书《我看电商》的续集。《我看电商》自出版以来,连续印刷14 次,受到业界人士和广
《Android进阶解密》内容简介:《Android进阶解密》是一本Android进阶书籍,主要针对Android 8.0系统源码并结合应用开发相关知识进
LearncomputerprogrammingtheeasywaywithProcessing,asimplelanguagethatletsyouuseco...
EdwinHutchinscombineshisbackgroundasananthropologistandanopenoceanracingsailoran...
《朝花夕拾》内容简介:《朝花夕拾》是鲁迅重要的作品集之一,共收录《从百草园到三味书屋》《藤野先生》等散文十篇,展现了横眉冷
《笺事:花笺信札及其他》内容简介:近年来,纸品收藏日趋兴盛,花笺、书札是其中的重点,其审美价值与文化价值都得到社会的高度关
《常春藤英语(精编版·六级)》内容简介:本书根据《常春藤英语·六级(上下)》两本书进行修订,从中选取难度相对较低的文本,并
《水之焰(2020版)》内容简介:女人不做恶女,就没法生存下去? 人妻盐川信子端庄贤淑,是位标准的传统女性,然而丈夫盐川弘治却早
无师自通学点电脑新手学photoshop图像处理 本书特色 本书共分为12章,通过理论与实践相结合,全面、详细讲解了初识图像处理、创建与编辑选区、调整色...
《字型之不思議》、《歐文字體》作者小林章 最新力作德國、法國、英國、美國、巴西、泰國、日本、台灣、中國、香港……17個國家
《许包野传》内容简介:用好用活丰富的党史资源, 铭记革命先烈,弘扬革命精神, 激励人民不断开拓前进。本丛书力求真实反映雨花台
与传统的用户应用程序开发不同,内核环境更加复杂多变,任何问题都会严重影响系统的稳定性、安全性和性能,所以一定要确保内核代
C语言程序设计 内容简介 C语言是国内外广泛使用的计算机语言,是计算机从业人员应该掌握的一种重要的程序设计工具。本书是针对应用型人才的培养要求,经过精心策划,准...