This commit is contained in:
ranwenjie
2021-09-29 19:20:38 +08:00
parent fc99cdfa71
commit 0a43530e64
11 changed files with 187 additions and 58 deletions
@@ -1,5 +1,4 @@
## Hash映射,分而治之
# Hash映射,分而治之
这里的`Hash映射`是指通过一种映射散列的方式,将海量数据均匀分布在对应的内存或更小的文件中
@@ -1,10 +1,9 @@
### 分布处理之Mapreduce
# 分布处理之MapReduce
MapReduce是Google提出的一个软件架构,用于大规模数据集(大于1TB)的并行运算。概念“Map(映射)”和“Reduce(归纳)”,及他们的主要思想,都是从函数式编程语言借来的,还有从矢量编程语言借来的特性。MapReduce的伟大之处就在于让不熟悉并行编程的程序员也能充分发挥分布式系统的威力。
##### Mapreduce工作原理
### Mapreduce工作原理
举一个例子:10年内所有论文(当然有很多很多篇)里面出现最多的几个单词。
@@ -18,7 +17,7 @@ map函数和reduce函数是交给用户实现的,这两个函数定义了任
##### Hadoop
### Hadoop
谷歌技术有"三宝",GFS、MapReduce和大表(BigTable)。