MapReduce描述了一种在符合Key/Value对的超大数据集上的计算模型,其主要思路是使用一个Map函数处理数据,输出中间结果,再由一个Reduce函数合并具有相同中间Key的Value。这一模型适用于形如统计词出现次数、倒排索引、分布排序等,可以很好地在从本地计算机到数以千计机器组成的集群上运行。
分布式系统上的MapReduce计算框架,将通过将Map调用的数据自动分割为多个数据片段,实现不同机器上的并行处理,计算框架由Master和Worker节点组成,用户将包含一系列task的程序提交给调度系统,不同task被调度到不同机器上执行。Master节点需持有每个Map和Reduce任务的状态,以及Worker机器的标识,也包括中间文件的存储位置,整个框架的实现依赖于集群上的资源调度系统。图7-15给出了MapReduce的示意过程。

图7-15 MapReduce模型
MapReduce模型TODO
Comments 0
Sign in to comment and like
← More postsThat’s all for now. Thanks for reading.
No comments yet.